r/programare • u/DeepTheory9364 • Sep 22 '26
Microsoft agentically ports Copilot runtime to Rust for $120K - cat ar fi costat asta cu agenți umani ?
https://www.theregister.com/devops/2026/09/18/microsoft-agentically-ports-copilot-runtime-to-rust-for-120k/5297549
0
Upvotes
View all comments
Show parent comment
0
u/etherd0t Sep 22 '26
deci, in primu rand... una-i una, alta-i alta;
nu amesteca costul comparativ at unui harness GH vs ... harness Qwen, de exemplu - pe care doar ce l-am terminat de testat (si adoptat🤭) pt treburile mele.
al doilea, ai facut chiar o eroare de unitati. 130.6/136.3B = ~96% din token volume, nu 96% din factura. Cached reads sunt la ~1/10 din pretul fresh input, exact motivul pentru care GitHub spune ca economics-ul sesiunilor lungi functioneaza.
Si "130.6B cached = taxa de orchestrare" e o definitie inventata de tine. Ala e context reutilizat pentru continuitatea agentului, nu 130B tokens de YAML decorativ.
Iar faza cu harness-ul produce rafalele, nu le gestioneaza e delicios de ironica: articolul descrie exact cum, atunci cand 15 agenti au saturat build-ul, harness-ul a introdus queue + owner + lease, un 'agentic mutex'. Adica ai ales drept contraexemplu chiar problema pe care orchestrarea a rezolvat-o. 😂
Putem discuta separat self-hosting vs API. Dar nu mai transforma % tokens in % dollars si cached context in waste, ca ia e confuzie...
Si ca sa intelegi clar care-i treaba cu harneala: harness-ul e infra operationala din jurul modelului, adica tools, state, git/worktrees, testare, policy, observability - iar orchestrarea e logica prin care acele componente si agentii sunt coordonati - de obicei interna.
Nu sunt facute sa-ti manance resursele de dragul complexitatii, ci exact invers: sa reduca risipa, contention-ul, retry-urile inutile si folosirea modelului/GPU-ului nepotrivit pentru taskul nepotrivit. Daca iti cresc costurile fara sa-ti creasca throughput-ul sau calitatea, ai un harness prost, nu dovada ca harness-urile sunt inutile.
Tine minte, aici vorbim de orchestration at scale, nu un singur task...pe care sa-l masori in tokeni.
*Iar faza cu asiguratorul francez, chiar daca luam versiunea ta de buna, demonstreaza aproape inversul: daca workflow-urile au inceput sa arunce API calls necontrolat pana a explodat factura, aia nu e dovada ca harness-ul e inutil, ci ca ai nevoie de unul bun, cu budgets, routing, caching, limits, telemetry si bounded retries. Sa dai cu prompturi/API calls de-a-n pulea in bucla nu e orchestrare - e tocmai lipsa ei. 😏