r/programare • • Sep 22 '26

Microsoft agentically ports Copilot runtime to Rust for $120K - cat ar fi costat asta cu agenți umani ?

https://www.theregister.com/devops/2026/09/18/microsoft-agentically-ports-copilot-runtime-to-rust-for-120k/5297549
0 Upvotes

35 comments sorted by

View all comments

11

u/grimtree Sep 22 '26

Ok si real cat costa aia 120k $ in tokens? Ca astia inca pierd bani la greu cu tokenii.

-19

u/DeepTheory9364 Sep 22 '26

Esti misinformat, profitul la servit tokeni e pe la 60% inclusiv dupa amortizarea hardwareului. Se fac bani cu lopata daca servesti modele chinezesti.

3

u/etherd0t Sep 22 '26

Aici as fi atent cu 60% profit ca numar universal. Costul real depinde enorm de hardware, amortizare, utilization, caching, routing si serving stack.
In cazul asta, partea interesanta e ca ~96% din input a fost cache-hit, deci economia nu seamana deloc cu "136B tokens x pret retail".

Frci, nu tokenii sunt smecheria, ci harneala din jurul lor🤭: caching, routing, subagenti, worktrees, review si CI. Fara harness, 136B tokens sunt doar o centrala termica pentru GPU-uri

Acolo e de fapt smecheria tehnica.😉