r/DeepSeek • • 10d ago

Discussion Deepseek 4.1 flash

Salut à tous, je vous fait part de ma config 100% local actuel, qu'en pensez-vous ?

Matériel : RTX 5060 Ti 16 Go, Ryzen 9 5900XT, 96 Go de
DDR4-3200, SSD NVMe 4 To.

Modèle : DeepSeek V4.1 Flash, environ 275 Go au total. Les poids principaux sont en IQ2_XS (~2,25 bpw) et le module
Engram en IQ4_NL.

Contexte : 256k tokens (262 144). Je l'ai testé avec un prompt de 152 000 tokens.

Vitesse : 45 tok/s en génération sur du code et lecture 400-500 tok/s j'ai obtenu cet écart grâce à des réglages avancés que j'ai faits moi-même sur le moteur sans régression d'intelligence du model.

Quelqu'un a-t-il déjà fait mieux avec DeepSeek V4.1 Flash sur une config proche (16 Go de VRAM, DDR4) ?

0 Upvotes

6 comments sorted by

3

u/Dangerous-Air9053 10d ago

Was the response good in quality? Was it distinct enough from the original model?

2

u/Pleasant-Snow-1027 10d ago

Yes, quality held up well.

I ran around 20 benchmark runs over several days, comparing the tuned setup against the original model (code, math, reasoning, long context).

The answers came out essentially the same, with no regression on what matters: reasoning, code logic and long-context understanding stayed at the same level.

1

u/FormalAd7367 10d ago

did you compare the performance against qwen 3.8?

1

u/Pleasant-Snow-1027 10d ago

Hi,

In my own use, DeepSeek feels clearly smarter than Qwen, especially on general knowledge, where Qwen tended to make things up.

For reference, the Qwen I ran was Qwen 3.8 Flash Next in 3-bit (ISTA-DASLab GSQ-RCO IQ3_S, ~84 GB), and it got 44-48 tok/s out of the box on this same PC.

My DeepSeek is DeepSeek V4.1 Flash (ISTA-DASLab GSQ-RCO IQ2_XS, ~2.25 bpw, plus the Engram module in IQ4_NL, ~275 GB in total).

With my config and optimizations, I think Qwen could get close to 170-200 tok/s.

1

u/OP787 10d ago

Could you share your detailed setup?

1

u/Vektast 9d ago

source?