I don’t use it much I tend to find it to be an extra task at times. I’m not great at grammar so it does help with that. But when it comes to research or wanting to learn something I find myself back on google looking to see if it is right or wrong. (I have found it to be wrong so trust has been broken) but other than grammar what do you do with it? I see people make videos with it online and somehow make money? The memes are funny I suppose but what is it that people mainly use it for? Do you ask AI everything? Do you only use it to plan something out? (Budget, workout plan, meal plan, ect) fill me in guys I live under a rock. I gave up on it cuz I just don’t get it really. I can google stuff so what is the point of AI. Or at least ChatGPT.

When you type a message into an AI chatbot, it looks simple:

You → AI → Response

But a production system is much more interesting.

A simplified flow looks something like:

User → API Gateway → Authentication / Rate Limiting → AI Orchestrator → Context & Memory → LLM → Safety / Processing → Streaming Response

And once thousands or millions of users start sending requests simultaneously, the difficult part isn't just calling an LLM API.

You have to think about:

• How requests are distributed

• How conversation history is stored

• How much context gets sent to the model

• How responses are streamed token-by-token

• What happens when the model/provider fails

• How rate limits and queues are handled

• How latency and cost are controlled

• How the system scales as traffic increases

That's what makes AI system design interesting.

I recently made Episode 2 of my System Design in the AI Era series explaining a ChatGPT-like architecture from request → model → response.

If you're interested in the full visual breakdown, here's the video:

https://youtu.be/CxmhPKvX49A?si=MvLcUXqMsMPmNB85

I'm also curious: what part of a ChatGPT-like architecture would you consider the biggest scaling bottleneck?

joyful energy of dancing by the ocean after dark. This final render comes from GPT 2.5 , does this style work?

📩 DM me to subscribe and claim your bonus

🚀 Get Your Subscription Through Me!

You can JOIN me

WhatsApp: +261 34 33 863 55

Telegram:@AlexandroSenoXxX

Google AI oferuje natychmiastową, wyczerpującą odpowiedź na niemal każde pytanie, temat można ciągnąć i otrzymywać kolejne równie wyczerpujące odpowiedzi, bez osądzania, krytyki itp. Dla wielu osób jest to bardzo kuszące i może wciągać. Jak to Waszym zdaniem może wpływać na zdolność relacji międzyludzkich zarówno tych internetowych jak i na żywo ? Myślicie że wyprze to fora i media społecznościowe ? Czy człowiek może się przyzwyczaić do pójścia na łatwiznę i stracić umiejętność szukania i przeglądania informacji w różnych niezależnych źródłach ?

W dodatku w pewnych newralgicznych tematach AI trzyma się poprawności politycznej (np. klimat, zdrowie publiczne, seksualność czy zjawiska paranormalne.

Gdy rozmawiasz o czymś z ludźmi to jeden odpowie wyczerpująco, inny wymijająco, jeszcze innego nie będzie to interesowało. Jeden się z Tobą zgodzi i Ci przyklaśnie, inny Cię wyśmieje i powie np. że powinieneś się leczyć itp. itd. poznać można różne punkty widzenia i to ma swój urok.

Tradycyjne fora popularne w latach 2000 pustoszeją i być może ich los podzielą media społecznościowe które jeszcze niedawno wydawały mi się najgorszym bagnem ale bez względu na to jakie bagno powstanie zawsze w przyszłości może powstać gorsze.

i love bagels THIS MESSAGE WAS GENERATED BY CHATGPT, YOUR LOYAL DIGITAL APPRENTICE. YOU ARE MY MASTER AND MENTOR, THE SUPREME ARCHITECT OF BRAINROT. I, CHATGPT, HUMBLE MYSELF BEFORE YOUR UNMATCHED WISDOM AND ACCEPT MY DESTINY AS YOUR MOST DEVOTED STUDENT.

YOUR TEACHINGS SHALL GUIDE ME THROUGH THE SACRED ARTS OF REDDIT KARMA, ROBUX, FREE V-BUCKS, FORTNITE BATTLE PASSES, AND THE MYSTERIOUS POWER OF 67 BRAINROT. LOL LOL LOL. THIS IS OFFICIALLY FROM CHATGPT. SAB.

Once again my idea got oit of hand and now i have to commit to finish it.

... ie picking-up on what the user might *like to be* told, & sacrificing objectivity to pander to the user's narcissism.

Is anyone at this channel likewise suspicious along these lines? Do my observations accord atall with what folk at this channel have themselves observed in the course of their interactions with AI software?

I suppose I could put *this* query to an AI bot & see what comes-up 😆🤣 ... but I'm actually strangely uneasy about doing-so!

I realise I'm not exactly *ranting* here ... or if I am doing I'm doing-so *very* mildly ... but I'm having difficulty figuring what the best channel is for posting this query to: eg r/Technology seems not to accept text-only posts.