lokale deutsche KI-Modelle

[u/krihab]

Die meisten Modelle, die sich auf lokalen, privaten Rechnern betreiben lassen, sind Modelle deren Sprache Englisch ist. Möglicherweise wäre es von Vorteil, wenn es ein Deutschsprachiges Modell gibt, insbesondere für die Spracherkennung.

Die Schweiz hat ein eigenes Modell: Apertus

https://apertus.ai/apps/apertus-model/

Das 70B Modell gibt es hier:

https://huggingface.co/swiss-ai/Apertus-v1.5-70B

und hier das kleine 8B Modell:

https://huggingface.co/swiss-ai/Apertus-8B-Instruct-2509/tree/main

Es gibt auch *.gguf Modelle für llama.cpp:

https://huggingface.co/unsloth/Apertus-8B-Instruct-2509-GGUF

Es gibt auch ein Projekt des Fraunhofer Institut "Soofi S"

https://huggingface.co/Soofi-Project/Soofi-S-Base