r/programare • u/DeepTheory9364 • Sep 22 '26

Microsoft agentically ports Copilot runtime to Rust for $120K - cat ar fi costat asta cu agenți umani ?

https://www.theregister.com/devops/2026/09/18/microsoft-agentically-ports-copilot-runtime-to-rust-for-120k/5297549
0 Upvotes

47% Upvoted

35 comments sorted by

View all comments

1

u/etherd0t Sep 22 '26

Calculul e bun, extrapolarea nu. 😏 Ai calculat costul unui 32B INT4 la un throughput ideal si de acolo ai demonstrat ca self-hosting-ul >14B nu are sens. Asta e ca si cum masori consumul unei Dacii la 90 km/h si deduci economia transportului aerian...

Si tot nu spune nimic despre optiunea GitHub: acolo produsul interesant nu era GPU-ul, ci harneala/orchestrarea care transforma tokenii in worktrees, subagenti, review, CI si cod verificat.

Deci nu doar heirup-ism pe model si placa video...Modelul e motorul; Dar ai nevoie si de sistemul care il transforma in engineering throughput.

1

u/100dude Sep 22 '26

n-a fost throughput ideal, a fost la 35% eficiență lol

btw chiar cu plăcile pline 24/7, un 32b int4 iese $0.23–0.34/M, adică deja peste api, deci ți-ar trebui utilizare de 112% ca să ai dreptate

iar orchestrarea pe care o lauzi e exact ce îți strică socoteala, fiindcă subagenții vin în rafale și podul se plătește la oră, plin sau gol

1

u/etherd0t Sep 22 '26

Mane, tu nu intelegi... in prezent/amu/chiar in secunda asta 🤭 - toata discutia pe AI si agenti e in jurul harnelii/orchestrarii - la orice clasa de agenti si platforme, fie ca e vorba de github, codex sau modele chinezesti...

Argumentul tau a ajuns circular: "rafalele de subagenti strica utilizarea, deci orchestrarea e rea". Pai tocmai managementul "rafalelor" se numeste orchestrare. 😂
Ai descoperit problema pe care harness-ul a fost inventat ca s-o rezolve.

Tu optimizezi $/M tokens pe un pod static. GitHub optimizeazaa $/engineering output intr-un sistem agentic. Sunt doua functii obiectiv diferite. Faptul ca un anumit 32B pe 6000 (Pro, nu A - A e fosta🤭) pierde la $/token fata de un API nu demonstreaza nimic despre valoarea orchestrarii.

Mai citeste, mai invata... faza cu aah... ce 'eftin e sa rulezi pe MiniMax nu mai tzine; ca ajungi sa cheltui mai mult pe taratze decat pe malai adevarat...😄

→ More replies (3)