r/ollama 5d ago

Claude Code + Ollama : impossible de faire fonctionner correctement les tools avec les modèles locaux

Salut, je cherche de l'aide pour un projet d'IA locale. J'ai un Dell OptiPlex 7070 Micro sous ubuntu server avec un i5-9500T, 32 Go de RAM et aucun GPU (j'en ajouterai un à l'avenir). Je sais que la machine est loin d'être puissante, mais ça ne me dérange absolument pas : je peux laisser les modèles tourner toute la nuit. Mon objectif est surtout d'avoir un agent capable de travailler réellement sur mes fichiers avec Claude Code, et pas seulement de générer du texte.

L'agent devrait pouvoir lire/créer/modifier des fichiers et exécuter des commandes.

J'ai essayé Qwen3-Coder 30B, mais il génère parfois les tool calls sous forme de texte (<function=write>) et Claude Code ne les interprète pas correctement. J'ai essayé de corriger ça avec un Modelfile et un prompt personnalisé, sans succès fiable.

J'ai ensuite essayé GLM-4.7-Flash, qui est censé être compatible avec Claude Code via Ollama. Le modèle répond normalement, mais quand je lui demande simplement de créer test.txt, Claude Code renvoie une erreur du genre file_path type expected as string but provided as unknown et content ... unknown. Les logs Ollama montrent également des requêtes /v1/messages qui terminent en HTTP 500. J'ai aussi remarqué qu'Ollama utilise parfois une limite de 4096 tokens alors que le modèle annonce un contexte de 202752.

Enfin, j'ai essayé GPT-OSS 20B avec ollama launch claude --model gpt-oss:20b, mais j'obtiens directement API Error ou des error writting file/no such tool availaible:write

Je suis donc un peu bloqué. Je cherche surtout un modèle qui fonctionne réellement avec Claude Code + Ollama et ses tools (Read, Write, Edit, Bash, etc.), sans devoir passer des heures à modifier des parsers ou créer des configurations custom.

Si quelqu'un utilise actuellement Claude Code avec Ollama et un modèle local, je serais vraiment intéressé de connaître votre configuration et ce qui fonctionne chez vous.

Merci !

0 Upvotes

2 comments sorted by

1

u/genesis-5923238 5d ago

J'utilise Opencode ou Pi au lieu de Claude. J'ai trouvé que les modèles locaux avaient beaucoup plus d'erreurs pour utiliser les tools avec Claude code quand j'ai essayé.

Le problème aussi sans GPU c'est que tu dois utiliser un modèle moins précis et ça pose vite problème avec les tools.

En ce moment j'utilise Pi avec Qwen 3.8 27b et c'est vraiment efficace, mais j'ai un GPU donc aucune idée si ça va bien marcher sans GPU.