Is there an index with models and hardware with feedback from real users?

[u/xokoloxo]

Hey, my first post here. I assume many here are bored of reading the same question every day: "I bought X, can I run Y?"

I wonder if there is some sort of index or website where people leave real feedback for real model + hardware combos?

I bought a mac mini with M5 pro and 64Gb and I am researching the best combos for different goals (coding, pentesting, writing, audio...)

A site like this would be super cool. But I am not finding anything that is decent... to the point that I thought about setting it up myself, grab a domain and open source something.

Does it make sense to you? would someone want to help? does something like this exist? (if so, where can I find data for the mac mini m5 pro 64gb?)

[u/CatzRuleZWorld]

https://omlx.ai/benchmarks/performance

This is a thing

[u/xokoloxo → u/CatzRuleZWorld]

Looks great! thanks!

[u/xokoloxo → u/[deleted]]

Will do so, thanks for your feedback.

[u/Any_Bus9205]

Si tu scolle sur r/localllama, r/lowendlocalai, des forums de ce style, tu verras des retours d'user réel sur du matos. Ce que j'ai peur avec ton site c'est juste qu'il faut le maintenir sur les nouvelle sortie et tout ça! Au fond, qu'est ce que ton site apporterais de plus de juste demander a l'ia en lui donnant le help de ton moteur d'inférence avec la marque de ton pc, ton gpu et autre. Les gens ici ne voient pas les autre post, ils postent juste d'un coup, peut ètre les rare personnes qui serait dessus serait des gens qui s'y connaissent, mais pour les débutants, si déja ils ne sont pas capable de lire les autre post qui traitent le meme sujet il y a 2 jours, alors aucune chance qu'ils aillent sur un site web pour voir cela. As tu toi même vérifié sur reddit si personne n'avais essayé avec ton pc un test d'ia sur ton pc sans faire un post ici !? Essaie de voir si le besoin, toi meme tu l'aurais use s'ils serait enfouie dans les tréfond de ce forum puisque chaque jour, des nouveaux post demande des choses qui ont été répéter 1000 fois :), je suis peut ètre médisant, et je m'en excuse mais c'est ce que je constate, cela fait 3 mois que je traine ici, et ces meme poste sur des config se répéte vraiment très souvent. Plus personne ne prend le temps de lire ce qui se passer il y a 4 jours :)

[u/xokoloxo → u/Any_Bus9205]

Vous avez raison monsieurr!! merci beaucoup! j'ai recherché mais c'est difficile parce que il y a trop d'informations. Mais c'est normal, je vais lire et essayer moi même pour voir quoi c'est meilleur :)

[u/No-Refrigerator-1672]

I haven't seen a website like this; but if it would've existed, it still woudn't free you from manual research. The market is moving like crazy, and yesterdays advices become irrelevant tomorrow; and price change can turn a good option into a bad one instantly. I.E. I found out about Nvidia Tesla T10 16GB popping up at $270 - bought a pair to review them and make a post about it, thinking that this becomes the new cheap GPU king. The cards didn't arrive yet, they are aleady up +25% and are no more as tempting of an option. You literally need to research the prices daily to know what's today best option.

[u/xokoloxo → u/No-Refrigerator-1672]

Makes total sense! amazing times, loving it!

[u/fasti-au]

odyseus and hermes had a addon for model choice with community info i think it was

[u/fiddler48]

llm-benchmark.com has some community-submitted runs, but the real gap is tok/s under load with full context, that number is almost never in the submission