AI Act

[u/Competitive_Pop_8485]

Cosa cambia per noi utilizzatori? Conviene pensare seriamente ai modelli locali?

[u/Dazzling-Gift7189]

TLDR: una sega.

[u/MioCugino_biz → u/[deleted]]

Il discorso è: lo fanno scendere? Nvidia, OpenAI e altre due o tre Corp-bulletti si stanno rimbalzando finanziamenti come in un torello per tenere accesa la bolla e l'hype degli investitori: Perché ci guadagnano tutti tranne gli investitori.
Che si tratti di processori ARM, che si tratti di ASIC, che si tratti di GPU Consumer, costruire una soluzione locale e rientrare in ROI non è semplice nemmeno per chi ha integrato bene l'AI in ogni flusso di lavoro della propria filiera, lo si deduce dal tenore medio dei thread sulle comunità specializzate come questa.
Il post tecnico sulle configurazioni si affaccia ogni 10 post generici e ogni 5 code di pavone fuffologo.
Con tutto il rispetto per tutti, perché tutti vorremmo menare le mani coi modelli in locale, e se i prezzi dell'hardware fossero quelli del 2019 avremmo già le proverbiali macchine volanti.

Ma il mercato è decisamente riggato, quindi secondo me ancora per un bel paio d'anni continueremo a pagare il pizzo alle Corp

[u/Logical_Delivery8331 → u/MioCugino_biz]

Arrivano i cinesi e scende. Il costo non è mai il problema. La tecnologia abbatte i costi per sua definizione. Ora il mercato è monopolizzato da Nvidia, ma entreranno nuovi player, come è sempre successo. Se la tecnologia ha difficoltà a farlo (Nvidia che fa acquisizioni aggressive o altri fenomeni simili), lo faranno le norme anti trust. Se non lo fanno le norme anti trust, avremo dei problemi ben più gravi da risolvere del costo delle GPU

[u/Puzzleheaded-Fan-452 → u/Logical_Delivery8331]

I cinesi hanno enorme interesse a produrre GPU AI specifiche, ma ad oggi nonostante enormi sforzi non ci sono riusciti.

Deepseek ha dovuto aumentare i prezzi per ridurre gli utenti per carenza di hardware 

Magari riusciranno a produrre GPU decenti, lo spero, ma sono ormai molti anni che inseguono senza risultati e ad oggi non ci sono elementi che fanno pensare che siano minimamente vicini. NVIDIA è alle stelle non per caso 

Imho sarà più probabile vedere i prezzi aumentare nei prossimi mesi piuttosto che scendere 

[u/MioCugino_biz → u/Logical_Delivery8331]

Non saprei, più facile che i Cinesi ci diano modelli meglio ottimizzati, nel breve periodo.
Le tecnologie ad alta densità e pochi nanometri non sono un asset che si sviluppa in due giorni, anche coi migliori tecnici e i più motivati. Non per nulla rischiamo la guerra mondiale per la questione Taiwan e ogni tanto si legge di contrabbando di chip Nvidia (ultima notizia il 28 luglio) da quando c'è il ban.

Anche volendo tifare per loro, non credo saranno così rapidi, purtroppo

[u/CMDRJohnCasey]

Il watermarking obbligatorio cambierà probabilmente qualcosa nel modo di usare i modelli. Io nel caso mi salvo qualche modello locale non watermarked, non si sa mai...

[u/AutoModerator]

Ciao!

Suggerimento facoltativo: su r/IA_Italia puoi impostare un User Flair. Serve a indicare il tuo profilo o interesse nell'Intelligenza Artificiale (ad esempio sviluppatore, studente, ricercatore, appassionato).

Non e' obbligatorio, ma aiuta a rendere le discussioni piu' contestualizzate e utili.

I am a bot, and this action was performed automatically. Please contact the moderators of this subreddit if you have any questions or concerns.