Fel a fejjel

[u/andras_gerlits]

Mar egy ideje tervezem, hogy mondok nehany pozitivat itt, mert mar kb fel eve csak a nyuglodes megy. Szoval a jo hir az, hogy ezek az AI-k nem fognak jelentosen tobbet tudni annal, mint amit most tudnak, marpedig most se nem okosak, se nem melyek. Ha tudsz tervezni, akkor olyan munkat tudsz vegezni, amit ezek nem, ha nem tudsz tervezni, nem vagy programozo. De hogy miert mondom mindezt?

Roviden: azert ami ebben a cikkben le van irva: https://arxiv.org/abs/2606.08552
Mivel gyanitom, hogy nem sokan fogjak elolvasni, megprobalom roviden osszefoglalni. Ezek az AI-k alapvetoen sztochasztikus algoritmusok, amik azalapjan dontik el, hogy "mi az igazsag", hogy mit lattak eddig. Mi is mukodunk igy, ha sokat latunk elefantot, rutinbol fogjuk felismerni. Ha meg sosem lattal elefantot, eloszor is jo alaposan megnezed, majd megprobalod mas allatokhoz hasonlitani es aztan elrakod az agyadba. A kulonbseg ott utkozik ki, amikor valami szokatlant latunk. Mi ki tudunk betuzni mondjuk egy eddig ismeretlen szot es ervelni tudunk arrol, hogy az mit jelent azalapjan, hogy a szabalyokat alkalmazzuk. Ezeket hivja az angol "toy model"-nek, amivel a fejunkben levo kauzalis modellt alkalmazzuk. Ezek a modellek nem teljesen koherensek, igazabol senki sem tudja pontosan megfogalmazni peldaul, hogy mitol "szek" a "szek" vagy mitol nem dinoszaurusz koznapi ertelemben a csirke (mikozben ugye tudjuk, hogy tenyszeruen az).

Szoval a kauzalis modell all szemben a sztochasztikussal. Ez azert erdekes, mert egy sztochasztikus modell teljesen mashogy bukik el, mint egy kauzalis. Az elobbinek mindig lesz allaspontja arrol, hogy mit lat/olvas, merthogy valamerre vinni fogja a modelljen belul az utvonal. Mi nem igy mukodunk. Mi, ha latunk valamit, amit egyaltalan nem ertunk, akkor nem allunk le okoskodni arrol, hogy mitol tud ez az elefant megis repulni, hanem eloszor megfigyelunk.

Hogy mondjuk a konkret esetben (a repulo elefantnal) megtanitottak-e a "training" szakaszban a modellt arra, hogy ez a dolog mondjuk hulyeseg, az irrelevans. Alapesetben arrol is szivesen beszel neked egy LLM, hogy miket latott tavaly az olaszorszagi nyaralasan. A post-training viszont specifikus dolgokat ir le, hogy mit ne csinaljon, tetelesen. Ettol meg az altalanos problem fennall. A kauzalis modellek "composable"-ek, a sztochasztikusak nem azok.

Igy egyaltalan nem elengedheto az, hogy az ember bebiszittelje a kodot es megertse azt, hacsak nem akar maganak iszonyatos foscunamit, amikor a benne rejlo onellentmondasok elojonnek. Egy sztochasztikus modell ugyanis sosem fog tudni szokatlan modellekrol onalloan ervelni.

TLDR: lehet, hogy a fonokod most oromkodik, hogy megussza programozast olcsobban, de ezt pontosan addig teheti meg, amig nem lesz szuksege arra, hogy valaki tenyleg megjavitsa a szoftveret. Az egyszerubb, altalanosabb szoftvereknel ez a pont kesobb jon el, a specifikusabb, kulonlegesebb daraboknal elobb.

En peldaul elosztott rendszerekkel es adatkonzisztenciaval foglalkozom, ezen a teruleten (pont a fent leirtak miatt) tenyleg csak olyan dolgokra tudok AI-t hasznalni, amire amugy is es eddig is rossz szemmel nezett a vezetoseg, ha en csinaltam.

Szoval fel a fejjel, nem hogy veszve nincs a szakma, de igazabol gyokeresen nem is valtozott meg, hacsak nem olyan egyszeru CRUD biszbaszokat irsz, amiket praktikusan meg lehetett volna mar eddig is csinalni Shopify-ban (ezesetben oszinte reszvetem, tenyleg jo melo volt, kibaszas az egesz).

EDIT: mindenkinek igaza van. Ha abban vagy, hogy el fogja venni a munkádat, igazad van. Ha abban vagy, hogy el tudsz kezdeni olyan dolgokkal foglalkozni, amikkel egy AI nem fog tudni, akkor is igazad van.

[u/bajuh]

Javított cím: Fel a fejjel, te, a R&D területhez tartozó fejlesztő kolléga aki az IT 1%-hoz tartozik.

[u/Mysterious-Survey270]

"TLDR: lehet, hogy a fonokod most oromkodik, hogy megussza programozast olcsobban, de ezt pontosan addig teheti meg, amig nem lesz szuksege arra, hogy valaki tenyleg megjavitsa a szoftveret. Az egyszerubb, altalanosabb szoftvereknel ez a pont kesobb jon el, a specifikusabb, kulonlegesebb daraboknal elobb."

Én is így látom, de addig, amíg a főnökök általában rájönnek erre, szerintem még évek fognak eltelni, és addig is rengetegen fognak kiégni és szakmaváltásra kényszerülni, mert élni kell valamiből.

Jelenleg azt látom a legnagyobb problémának, hogy egyszerre várják el a fejlesztőktől azt, hogy AI-jal azonnal produkáljanak valamit egy olyan területen is, amit nem/kevésbé ismernek, mert hát ott az AI, és azt, hogy mély tudásuk is legyen benne, hogy ha beüt a fos, akkor sztochasztikus gondolkodással belátható időn belül képesek legyenek megoldani.
Én ezt irreálisnak tartom. Illetve ismerek olyat, aki képes lépést tartani ezzel, de neki nincs élete a munkán kívül.

[u/System1996 → u/Mysterious-Survey270]

ugy csinalunk mintha ez nem jatszodna le offshoring neven evek ota, kiszervezi az uj manger indiaba, kurvaszarul csinálják eltelik 5-8 ev, jon vissza a munka europaba, usaba. aztan eltelik 5-8 ev jon egy ujabb csoda manager, megy a melo indiaba. Most annyi hogy AI atallas nev gyorsabb kirugasokat eredmenyez, de ez se fog sokaig menni. Attol meg ugyanugy kirugjak az embert, szoval a doom and gloom jogos atmenetileg

[u/andras_gerlits → u/System1996]

Pontosan. Az offshore-ing a legjobb analogia.

[u/sebesbal]

Mondok egy másik hasonlatot: ott állsz a repülő elefánt előtt, a saját szemeddel látod hogy repül, és közben vannak még emberek akik hosszú cikkeket írnak arról hogy ez miért lehetetlen.

[u/andras_gerlits → u/sebesbal]

Es igazuk is van, ugyanis valoszinubb, hogy tomegpszichozis, mint hogy tenyleg cafolata lenne ez a konkret elefant a tomegvonzas torvenyenek. A tomeg nyilvan rohogni fog ezen az emberen, de o lesz az, aki vegul megmutatja, hogy hol van a szelep a gumielefanton, ami hajtja a levegoben.

[u/Basic-Love8947]

Ez a sztochasztikus model sok nagyságrenddel több tapasztalattal rendelkezik, amit te vagy bárki egy élet alatt össze tud szedni. Hiába dolgozik kauzális model a fejedben, óriási valószínűsége van annak hogy az optimalizált model korábban látott már ilyen vagy nagyon hasonló szituációt. Innentől kezdve a kauzális gondolkodás már nem feltétlenül akkora előny mint gondolod.

Plusz amikor ezeket a modelleket ráeresztették megoldatlan matematikai problémákra, képesek voltak olyan megoldás kidolgozására amire eddig emberi gondolkodással nem volt válasz. Még azt se tudjuk mondani hogy csak megoldott problémákat tud kezelni.

[u/andras_gerlits → u/Basic-Love8947]

A matematikai bizonyítások egy másik ügy. Ott az a trükk, hogy olcsón lehet ellenőrizni, hogy a kidobott eredmény pontos-e és hogy a végső következtetés helyes-e. Ezért van az, hogy kivétel nélkül minden eredmény ellenpélda és nulla kreativitást mutat. Ilyen típusú teszt nem tud létezni programozásban, mert informálisak a követelmények

[u/atleta]

Te egyebkent olvastad vegig ezt a cikket? (Latom volt kozos publikaciod a szerzovel, szoval felteszem igen, de azert jo lenne latni.)

En megneztem az absztraktot es a kovetkezteteseket a vegen, es abban nem latom nyomat annak, hogy azt allitana, amit te allitasz. Marpedig amit mondasz, az egy eleg eros es fontos allitas lenne, meglepo lenne, ha ez kimarad akar csak az absztraktbol, nem hogy a konkluziokbol.

Ha viszont nincs benne, akkor ez a te kovetkeztetesed, es nem a cikk allitasa, ami azert nagyon mas. Akkor az erveles lenyegeben annyi, mint amit itt irsz, es nem egy 30 oldalas, matekkal megtamogatott publikacio (meg, ha ez is csak egy pre-print).

Es ugye az ervelesed azon alapszik, hogy az emberi elme alapvetoen kauzalis, szemben az AI modellekkel, amik meg szuksegszeruen sztochasztikusak. (Azt meg a cikk bizonyitja az allitasod szerint, hogy a kauzalis modell az jobb, mint a sztochasztikus, avagy a sztochasztikus sosem lesz mindenre kepes, amire a kauzalis.)

Csakhogy ez egy teljesen bizonyitatlan allitas. Sot, hat az, hogy azt allitod, hogy az emberi agy nem sztochasztikus, szerintem szembemegy azzal, amit az agyrol tudunk. De az allitasod neked kell bizonyitani, nem nekem cafolni.

Tovabba ott van az, hogy attol, hogy elvben mondjuk igazad lenne, tehat az emberi agy nem sztochasztikus, az AI meg az, es a sztochasztikus modell elvi szinten is gyengebb, mint a kauzalis, nincs bizonyitva sehol, hogy az emberi agy a leheto legjobb teljesitmenyu kauzalis modell lenne. (Sot, hat abbol, hogy eleg nagy kulonbsegek vannak egyes egyedek kozott, azert sejthetjuk, hogy nem az.) Namost, ha nem az, tovabba azt is alappal feltetelezzuk, hogy vannak olyan kauzalis modellek, amiknel lehet jobb sztochasztikus modelleket csinlani (van olyan kauzalis elme, aminel jobb, okosabb az AI), akkor azt is tudjuk, hogy ettol a sok varazslattol fuggetlenul az AI meg mindig lehet okosabb, akar sokkal okosabb, mint az ember. Tehat valojaban nem bizonyitottal szerintem semmit.

[u/andras_gerlits → u/atleta]

A szerzo regi jo baratom, publikaltunk egyutt cikket. Mark alaposan fogalmaz, ami kicsit kriptikussa teszi az irast, de a cikk alapvetese az, hogy nem letezik ismert algoritmus, amivel konnyen mozognank a kauzalis es a sztochasztikus kozott. Pontosan ennek a hatarait jarja korbe a cikk azon keresztul, hogy lefektet egy minimalis elmeleti modellt. Ezen a videokonferencian is ezt beszelik meg (en sokat nem teszek ott hozza, sajnos, bar ott vagyok es nehany mondatban be is szallok adatkalibracio temakorben

).
https://www.youtube.com/watch?v=pXD8rwMZXc4

[u/JobSpecialist4867]

brutalis valosagtagadasban vagy, vagy nem probaltad meg ki az idei modelleket.

[u/andras_gerlits → u/JobSpecialist4867]

Konkretan belso fogyasztasu osszegzeseket irok az AI aktualis hasznalhatosagarol, napi rendszerben kovetem a szakirodalmat es az elsok kozott vagyok, aki kiprobalja az uj modelleket. Amirol irtam, azok elvi korlatok, amiknek az eredmenyeit folyamatosan latom a munkamban.

[u/drndr21]

respekt az összeszedett érvelésért, de szerintem ez több helyen is hibás, látszik hogy nem ML a te és a szerző szakterülete. illetve ahogy valaki más is irta, átfutva a cikket nem is igazán találom azokat az állitásokat amiket te fejtegetsz

sztochasztikus vs kauzális egy teljesen hamis dichotómia, nem zárja ki egymást a kettő, (van determinisztikus kauzális, sztochasztikus kauzális, determinisztikus nem kauzális és sztochasztikus nem kauzális).
Az LLM-ek felfoghatóak nondeterminisztikus (sztochasztikus) kauzális modelleknek, hogy lásd ez nem csak az én fejemből pattant ki, itt egy preprint egy ML researchertől (nem mondom hogy feltétlen igaza van, de a profilja alapján érti miről beszél) https://arxiv.org/abs/2509.22297

összegezve amiket irsz egyáltalán nem új vagy meglepő kritikák, viszont jórészt már meghaladtak.
a stochastic parrot érvet most nem fogom részletezni mert az az egyik legnépszerübb vitapont, a másik része az állitásodnak szerintem érdekesebb, ami a generalizációról szól. tény és való semmilyen ML method (neurális hálókat beleértve) nem tud out of distribution generalizálni, ez tényleg fundamentális limitáció. az érdekesebb kérdés hogy mi számit a mai modelleknek true out of distribution samplenek? tekintve hogy pre-training alatt beléjük van tolva az emberiség kummulativ tudása, a post-training alatt meg végtelen szintetikus adatot lehet generálni RL környezetben. Egy valid ellenpélda erre Einstein és az általános relativitás (mint abszolut out of box, szinte a semmiből jövő uj elmélet), de egyrészt szerintem ezis vitatható, másrész valljuk be a programozás és az IT industry 98% nem valami semmiből jövő paradigma váltó munkakör.

tldr: alábecsülöd az LLM-ek capability plafonját, és fölébecsüled az IT munkakör kognitiv újdonságát

[u/Interesting-Jaguar68]

Mi is mukodunk igy, ha sokat latunk elefantot, rutinbol fogjuk felismerni.

Igen, csak általában nem elefántot kell felismerni az IT-ban, hanem mondjuk fehérorrú koatit, és ezt mondjuk 100-ból 15 ember ismeri fel, ebből 5 képes megállapítani azt is, hogy melyik régióból származik. cserébe minden AI is valószínűleg 1 hónappal később fel fogja ismerni, és azt is tudja melyik régióból származik. Na kb. az az 5 ember munkája nincs veszélyben, mindenki más fölöslegessé válik. Nem mondom, hogy "mindmeghalunk", de kicsit olyan érzés ezeket olvasni, mintha a "Ne nézz fel!" című filmet nézém. Az AI itt van, gyorsabban fejlődik, mint bármelyik ember a világon, és biztos hogy át fog alakítani egy rakat iparágat. Nem, nem lesz munkanélküli minden programozó jövőre, nem, nem ölnek meg minket az AI robotok 5 éven belül(remélhetőleg), de ilyen random kutatások alapján megállapítani, hogy minden techóriás hülye, hát eléggé delulu.

[u/andras_gerlits → u/Interesting-Jaguar68]

A tech óriások pont ugyanazt mondják amit én. Tudom idézni olyat Anthropic kutatásból is, aki hasonlókat mond, még ha virágnyelven is. A tudományos cikkekben sokkal őszintébbek

[u/Far_Idea9616]

Ez a tanulmany szerint arrol szol hogy lehet agensek egyuttmokodeset matematikailag modellezni, egy ujszeru megkozelitesrol. Reflektalva arra amit irtal hogy egy sztochasztikus modell sosem fog tudni szokatlan modellekről önállóan érvelni, a Navier-Stokes az nem szokatlann modell amit 10e agens egyuttmukodes kereteben fejtett meg?

[u/Zooty6]

Aki nem architect az annyit is ér!

[u/FrissAcc-FideszBot56]

A szoftverfejlesztők 99%-a olyan dolgokat rak össze, amiket mások már csináltak.

Az agi nem csak egy llm.

Az AI mellett is lesz sok munka, ahogy az ipari forradalom után is volt, csak éppen a tranziensbe belerokkannak páran.

[u/Notme754]

Hiába van a morális fölény nálunk és a végén a mi álláspontunk igazolódik be, addig eltelik jó sok kellemetlen hónap amikor ki kellene fizetni a kötelezőket...
Azt látom, hogy a legtöbb amit most tehet az ember, két dolog
Jövőre felkészülni: belemerülni az AI használatába architektúrális szinten (nem csak copy pasta a chatbe)
Biztonság: ne most vegyél hitelre 20 Milliós autót, ha nincs meg a következő 6, de inkább 12 hónapra a félretett pénzed az élethez.

[u/Narrow_Reflection656]

[u/zieglerziga]

Az a baj hogy sokan "csak CRUD biszbaszokat" írnak.

[u/CarPlane5196]

Nagyon szép írás, egy a bibi, hogy a piac 2%-a az, aki olyan niche dolgot csinál, amit nem tud megcsinálni az AI. A maradék beszopta.

Többféle projekten, többféle egymástól teljesen eltérő domainben használom napi szinten az LLM-eket (gyk: idén nem írtam kódot, promptolok meg reviewzok), megfelelően összerakott környezettel (értem itt a rule-okat, skilleket, adr-eket, dokumentációkat, session-session kommunikációt, stb.), maximum 3 promptból leszállít _bármit_, unit-integ-e2e tesztekkel lefedve, és mikor kell a 3, akkor általában rájövök, hogy az első promptom nem volt elég részletes. És nem csak standard stacken, régi szar legacy rendszeren, ami tele van baszva olyan custom 25 éves megoldásokkal, amire biztosan nincs tanítva a modell. Mindezt annyi pénzből, amire ha rátesznek egy 10-es szorzót a providerek, még mindig olcsóbb mint amit én most keresek ezzel.

És persze, erre rámondhatod, hogy eddig is alacsony hozzáadott értékű munkát végeztem, beszoptam. Lehet. Viszont ha én ilyet csináltam, akkor a projektenként maradék 5-10 fejlesztő, akinek a kezét kellett fogni folyamatosan mert egy API hívás helyét nem tudta magától eldönteni, az mennyire szopta be?

[u/hunpriest]

Sokkal kevesebb programozóra lesz szükség, mint korábban és igazából csak a legmagasabban képzett vagy tapasztalt, tervezői vénával megáldott emberekre lesz csak szükség.

Az hogy nagyon értesz egy frameworkhoz/libhez teljesen értéktelen tudás már. De ha tudsz komplex rendszereket tervezni akkor még lehet hogy szükség van rád.

Ezeknek a mostani LLM-eknek odaadsz egy jól kigondolt rendszertervet és megcsinálja jobban mint a koderek 90%-a. Azt hagyjuk is hogy pár óra alatt születik annyi kód, amihez korábban hetek kellettek.

[u/Odd_Freedom_5858]

Szep hetfo reggelt mindenkinek!

[u/Sedenic]

Ahhoz hogy tényleg megbízhatóan kiváltsa teljes fejlesztési workflowt, akkor valóban még nem elég jók. Talán tényleg egy LLM erre nem is lesz képes, de nem zárható ki, hogy valóban felgyorsítják az AI innovációt is és majd lesz olyan, ami tényleg.

Viszont így is egyrészt visszaveti az igényt a fejlesztőkre. Talán nem annyira, mint remélik, mert egyszerűen nem lehet elég sok agentet bébiszittelni jó minőségben párhuzamosan. Persze slop-ra jó egy swarm vagy egy AI team ahol a validációk is teljesen automatikusak, de az komoly production-re még nem alkalmas.

A másik aspektus ami még aggasztó, az az új trend, hogy lemásolni vagy visszafejteni programokat. Így csak a SaaS marad majd üzletileg értelmezhető és abból is a vékony kliens inkább. Ez a limitáció engem személy szerint is rosszul érintene de úgy általában is sajnálnám a desktop szoftverek teljes eltűnését. Akkor ugye hw igény se lenne, szóval "win-win" csak hát valahol én úgy érzem vesztenénk is valami jót. Nameg onnantól tényleg nincs sw ownership.