Die besten lokalen LLMs für Rollenspiel 2026: Modelle für 6, 8, 12 und 16 GB VRAM

Du möchtest eine KI-Figur auf deinem PC, weißt aber nicht, welches Modell du herunterladen sollst? Fang beim Grafikspeicher an: Stheno 8B Q4 für 6 GB, Qwen3.5-9B Q4 oder Stheno Q5 für 8 GB, ein 12B wie Rocinante-X für 12 GB und ein kompaktes Gemory-Quant oder ein gutes 12B-Quant für 16 GB. Hier erfährst du, welche Kompromisse dahinterstecken, bevor deine SSD voll ist.

Lokales Rollenspiel hat eine lustige Eigenheit: Ein schlaueres Modell spielt nicht automatisch die spannendere Figur. Gib einem hervorragenden Problemlöser die Karte eines sarkastischen Schmugglers, und fünf Nachrichten später sitzt dir womöglich ein verständnisvoller Firmentherapeut gegenüber. Stimme, Subtext, Initiative und Szenenkontinuität zählen genauso wie reine Leistungsfähigkeit.

Diese Auswahl stammt vom Multiic-Team und verbindet die Rollenspielerfahrung des ursprünglichen Autors mit geprüften Modellkarten. Empfehlungen zum Stil sind Ausgangspunkte für eigene Vergleiche, keine unabhängige Rangliste. Geschwindigkeit und vollständige GPU-Ausführung wurden nicht auf jeder Grafikkarte gemessen. Technische Angaben wurden am 5. Oktober 2026 geprüft; Dateigrößen beziehen sich auf die verlinkten GGUF-Konvertierungen.

Welches lokale Rollenspielmodell solltest du zuerst ausprobieren?

Such dir zwei Kandidaten für dein Ziel. Den gesamten Modell-Hub herunterzuladen ist optional, auch wenn deine SSD inzwischen etwas anderes glauben mag.

GGUF-Größe und VRAM: Gewichte sind erst der Anfang

GGUF ist ein Modellformat für kompatible Inferenzprogramme wie llama.cpp und KoboldCpp. Q4, Q5 und Q6 bezeichnen Quantisierungen: Die Gewichte benötigen weniger Speicher, meist mit gewissen Qualitätsverlusten. VRAM ist Grafikspeicher, RAM der Arbeitsspeicher des Rechners.

Zum Budget gehören Gewichte, Kontextcache und Arbeitspuffer. Desktop, Spiel oder Bildgenerator können bereits VRAM belegen. Der Cachebedarf hängt von Architektur, Kontextlänge, Präzision und Backend ab. Eine allgemeine Regel „genau zwei Gigabyte dazurechnen“ gibt es nicht.

Eine Datei mit etwa 7.5 GB läuft nicht automatisch bequem auf 8 GB VRAM. Ein Sofa ins Zimmer zu bekommen schafft noch keine Tanzfläche. Teilweise Auslagerung verschiebt Daten und Arbeit in den RAM; das Tempo hängt von CPU, RAM und GPU-Anbindung ab. Googles Hinweise zur Speicherplanung erklären den Bedarf jenseits der Gewichte.

Starte mit kurzem Kontext, prüfe den tatsächlichen Verbrauch und führe ein längeres Gespräch, bevor du die Einstellungen erhöhst. Die folgenden Größen sind dezimale GB der Dateien, keine gemessenen VRAM-Werte; dein Programm zeigt vielleicht GiB an.

6 GB VRAM: Stheno 8B und vorsichtige Qwen-Versuche

Vergleiche zunächst 8B-Rollenspielmodelle in Q4. Für Gespräche sind sie oft praktischer als stark komprimierte größere Modelle. Qwen ist eine andere Richtung, wenn Weltregeln wichtiger sind als literarischer Stil. Die Modelllinks führen zu konkreten GGUF-Konvertierungen; Größen umfassen nur die Gewichte. „Warum ausprobieren?“ beschreibt Vergleichsszenarien, keine gemessene Qualitätsrangliste.

Sprachen in den Tabellen: EN ist Englisch, RU Russisch, ZH Chinesisch, JA Japanisch und HE Hebräisch. Fett markierte Sprachen sind RP-Empfehlungen aus der Autorenauswahl, kein eigener Sprachbenchmark. Die Mehrsprachigkeit der Basis ist gesondert angegeben: Feintuning kann die Leistung in anderen Sprachen verändern. Nemo wurde in EN, FR, DE, ES, IT, PT, RU, ZH und JA bewertet; bei RP-Ablegern ist das ein Anhaltspunkt, keine Garantie. Offizieller Umfang: Qwen3.5 — 201 Sprachen und Dialekte, Qwen3 — 100+, Gemma 4 — 35+ direkt nutzbar. Bloodmoon nennt ausdrücklich zusätzliches Training für Russisch, Japanisch und Hebräisch.

Lunaris und Hathor: Alternativen ohne GPU-Upgrade

Lunaris ist ein Merge, der Stheno einbezieht. Der Autor wollte Kreativität und Logik verbinden. Vergleiche beide mit derselben Charakterkarte: ein anderer Schauspieler bei fast gleichem Speicherbudget.

Hathor wurde unter anderem mit Prosa und Rollenspieldialogen trainiert. Probier es, wenn dir der Schreibstil des ersten Modells zu repetitiv vorkommt. Ein anderer Stil ist reizvoll, aber keine Garantie, dass ein älteres 8B ein komplexes RPG fehlerfrei verwaltet.

L3-8B-Stheno-v3.2: mit einer Figur anfangen

Stheno ist für Rollenspiel und Geschichten gedacht. In der ursprünglichen Auswahl bleibt es ein guter Einstieg für kleine englische Szenen, ausdrucksstarke Figuren, Abenteuer und Romanzen. Stheno-Modellkarte.

Die GGUF-Konvertierung von Bartowski hat etwa 4.92 GB für Q4_K_M und 5.73 GB für Q5_K_M. Auf 6 GB startest du mit Q4 und ungefähr 4k Kontext, danach prüfst du den freien Speicher. Das ist eine Testkonfiguration, keine Garantie für vollständige GPU-Ausführung.

Wachsen aus der Szene fünf NPCs, ein Inventar und Questzustände, vergleiche ein neueres Allround-Modell. Ausdrucksstarker Dialog und zuverlässige Weltverwaltung sind verschiedene Fähigkeiten.

Qwen3.5-9B: wenn die Szene Regeln braucht

Teste Qwen mit Geheimnissen und Abhängigkeiten: Ein NPC lügt, ein anderer kennt die Wahrheit, ein dritter darf sie nicht verraten. Das verrät mehr über seine Eignung als eine hübsche Begrüßung.

Qwen3.5-9B nennt 201 Sprachen und Dialekte sowie 262,144 Token Kontext. Das garantiert weder gleich gute Prosa in jeder Sprache noch diese Kontextlänge auf deiner GPU.

Bei Bartowskis GGUF hat IQ4_XS etwa 5.50 GB und Q4_K_M etwa 6.17 GB. Schon IQ4 lässt auf 6 GB wenig Spielraum. Prüfe Q3/IQ3 oder teilweise Auslagerung; plane Q4_K_M hier nicht für eine vollständig im VRAM liegende Konfiguration ein.

8 GB VRAM: bequemere 8–9B, knappere 12B-Versuche

Du kannst bei 8B die Quantqualität erhöhen oder 12B mit engem Speicherbudget testen. Ein 8–9B ist der einfachere Einstieg; probiere 12B gezielt zum Vergleich. Antwortzeit zählt genauso wie die Zahl im Modellnamen.

Für einen vielseitigen Einstieg eignet sich Qwen3.5-9B Q4_K_M, für englische Figurendialoge Stheno Q5_K_M. Beginne mit 4–8k Kontext, soweit unterstützt, und prüfe den freien Speicher nach dem Laden.

Saiga Nemo 12B Q4_K_M ist auf 8 GB ein Versuch mit Einschränkungen. Rund 7.48 GB Gewichte lassen wenig Raum für Historie und Puffer. Kurzer Kontext, ein kleineres Quant oder RAM-Auslagerung können helfen. Vergleiche Antwortzeit und Prosa.

Wenn Antworten quälend langsam kommen, kann ein kleineres Modell den besseren Abend liefern. Rollenspiel hat einen Rhythmus. Eine Figur, die für jedes „ja“ eine Minute braucht, entwickelt einen sehr eigenen.

12 GB VRAM: Rocinante-X, Saiga Nemo, Bloodmoon und Eclipse

12B ist eine interessante Größe für Rollenspiel zu Hause: genug Raum für Charaktere ohne Workstation-Anforderungen. Höhere Quants und lange Gespräche konkurrieren trotzdem um Speicher.

NemoMix und Qwen3-14B: zwei Gründe für einen breiteren Vergleich

NemoMix-Unleashed ist ein weiterer Nemo-RP-Kandidat. Der Autor betont Geschichten, weniger Wiederholungen und konkrete Einstellungen. Probier ihn, wenn 12B zu deiner Hardware passt, aber Rocinante oder Bloodmoon stilistisch nicht zünden.

Qwen3-14B ist ein vielseitiges Vergleichsmodell zwischen 9B und 27B. Prüfe die Anweisungen zum Modus ohne Denken für schnellere Dialoge. Vergleiche das Verhalten mit RP-Modellen, statt automatisch aus besserem Denken auf bessere Figuren zu schließen.

Rocinante-X 12B: Geschichten und Abenteuer

Rocinante-X lohnt einen Versuch für englische Dialoge und kreative Szenen. Der Autor betont Rollenspiel, Prosa und Gespräche: Trainingsziele, keine Zusage für jede Karte. Beschreibung und Vorlagenhinweise.

Starte mit Q5, sofern das Budget reicht. Der Autor nennt Mistral v3 Tekken oder Metharme und warnt vor falsch formatierten System-Prompts. Prüfe erst die Vorlage, bevor du merkwürdige Antworten mit Temperatur korrigierst. GGUF-Downloads.

Saiga Nemo 12B: ein weiterer Dialogkandidat

Vergleiche Saiga Nemo mit derselben Charakterkarte. Beurteile Dialog, Kontinuität und Antwortzeit in deinen Szenen. Originale Modellkarte.

Diese Dateigrößen stammen aus der GGUF-Konvertierung von QuantFactory:

Prüfe Originalmodell, Version und Chat-Vorlage. Gleiche Quantnamen machen verschiedene Konvertierungen nicht austauschbar.

Impish Bloodmoon und Angelic Eclipse: Persönlichkeiten vergleichen

Der Autor von Impish Bloodmoon betont weniger übertriebene Freundlichkeit und Unterstützung für Spielmechaniken. Ein Kandidat, wenn misstrauische oder eifersüchtige NPCs ständig zu hilfsbereiten Assistenten werden.

Angelic Eclipse zielt auf realistische Reaktionen und langsam wachsende Beziehungen. Vergleiche beide mit derselben Szene. Die hübschen Namen sind ein Bonus; entscheiden sollten die Antworten deiner Figur.

Gemma 4 12B: eine komplexere Sandbox testen

Vergleiche Gemma 4 12B, wenn das Modell NPCs spielen und Weltregeln verfolgen soll. Googles Übersicht beschreibt eine vielseitige Familie mit Schlussfolgern und Systemrollen-Unterstützung. Das rechtfertigt einen Vergleich mit RP-Feintunings, aber keinen vorschnell ausgerufenen Sieger.

16 GB VRAM: Gemory, Gemma 4 und Qwen3.5-27B

Vergleiche ein präziseres 12B, ein dichtes 24B und ein kompakteres 26B-MoE. Schreibstil, Cacheplatz und Tempo unterscheiden sich. Bei multimodalen Modellen enthalten die Größen nur die Hauptdatei des Sprachmodells.

Cydonia 24B: größeres Rollenspielmodell ohne MoE

Cydonia v4.1 ergänzt Gemory-MoE und 12B-Nemo um ein dichtes 24B. Starte mit Q4_K_S und probier Q4_K_M, wenn tatsächlich Platz ist. Der Autor nennt Mistral v7 Tekken. Kopiere nicht einfach Rocinante-Xs Vorlage, nur weil beide von Drummer kommen.

Auf 12 GB lässt Q3_K_M mit ungefähr 11.47 GB zu wenig Luft für eine bequeme Empfehlung. Daher steht Cydonia hier bei 16 GB. Ein Modell starten zu können macht es noch nicht zum besten Einstieg.

Gemory-26B-A4B: kreatives MoE ausprobieren

Gemory ist auf kreatives Schreiben und Rollenspiel ausgerichtet. Sieh dir die Modellkarte des Autors an; die Größen unten beziehen sich auf die Abiray-Konvertierung.

Ein Mixture-of-Experts-Modell aktiviert pro Token nur einen Teil seiner Parameter. Die übrigen Gewichte brauchen trotzdem Speicher. A4B bedeutet nicht den Speicherbedarf eines normalen 4B-Modells. Die Gemma-4-Modellkarte erklärt Gesamtparameter und aktive Parameter.

Standard-Gemma oder Qwen 27B?

Vergleiche Gemma 4 26B-A4B mit Gemory, wenn ein Modell Figuren und Sandbox-Regeln zusammen verwalten soll. Feintuning verändert Verhalten; dieselbe Basis garantiert nicht dieselbe Erfahrung.

Qwen3.5-27B ist ein Kandidat, wenn kleinere Modelle bei deinen Szenen scheitern. Bartowskis GGUF-Größen liegen bei etwa 17.98 GB für Q4_K_M, 15.78 GB für IQ4_XS und 14.82 GB für Q3_K_M. Auch eine Datei unter 16 GB garantiert keinen Platz für Kontext. Prüfe kompakte Quants und Auslagerung.

Ein 12B Q5/Q6 bleibt auf 16 GB eine sinnvolle Alternative mit mehr Historienplatz. Vergleiche ein größeres komprimiertes Modell mit einem kleineren präziseren, bevor du nur nach Parameterzahl entscheidest.

Welche Quantisierung herunterladen: Q4, Q5, Q6 oder Q3?

Eine praktische Reihenfolge ist Q4_K_M, dann bei genug Speicher Q5_K_M oder Q6_K. Vergleiche dasselbe Modell in derselben Konvertierungsversion.

• Q4_K_M: ein guter Ausgangspunkt zwischen Größe und Qualität.
• Q5_K_M: nächster Kandidat, wenn Speicher für die Historie übrig bleibt.
• Q6_K: sinnvoll, wenn Kontext und Tempo erhalten bleiben.
• Q8_0: für einen konkreten Vergleich, nicht bloß für eine größere Zahl.
• Q3/IQ3: größere Modelle auf kleinerem Budget testen; Kohärenz und Wiederholungen genau prüfen.

Quantisierung ist nur ein Faktor. Eine unpassende Karte oder falsche Vorlage kann Dialoge stärker beschädigen als der Unterschied zwischen Q4 und Q5.

Kontext und Figurengedächtnis: mit 4–8k beginnen

Zum Kontext gehören Anweisungen, Charakterkarte, Weltinformationen, Historie und Platz für die Antwort. 8k heißt nicht 8k allein für deine Nachrichten. Das Maximum der Modellkarte verspricht weder genug Speicher noch gleich zuverlässige Erinnerung über die ganze Länge.

Starte mit unterstützten 4–8k, teste danach 16k und mehr anhand des realen Verbrauchs. Überdehne ältere Modelle nicht, nur weil ein Eingabefeld größere Zahlen annimmt.

Halte für lange Geschichten eine kurze Zusammenfassung fest: Wo sind die Figuren, was wollen und wissen sie, was hat sich verändert? Aktualisiere sie nach wichtigen Ereignissen; stabile Fakten gehören separat dazu. Viel Kontext macht aus einem LLM keine Datenbank. Ein erfundener Bruder kann trotzdem ungefragt auftauchen.

Rollenspiel einrichten und ein Modell an einem Abend testen

Beginne mit Vorlage und Einstellungen der Modellkarte. Ohne Autorenpreset können Temperatur um 0.8 und top-p um 0.9 experimentelle Startwerte sein, keine universellen Optima. Ändere jeweils nur eine Einstellung.

Begrenze Antworten zunächst auf 150–300 Token. Kurze Züge lassen sich schneller beurteilen und geben dir Raum zum Handeln. Erhöhe Wiederholungsstrafen langsam; zu hohe Werte schaden auch dem Stil.

Eine Vergleichsszene:

Lea ist Mechanikerin auf einer Orbitalstation. Sie möchte weg, versteckt aber ein fehlendes Triebwerksteil. Der Spieler hat ihr gestern geholfen; sie ist dankbar und trotzdem misstrauisch. Ein Wachmann weiß vom fehlenden Teil, aber nicht, wer es genommen hat. Der Spieler bittet Lea um Zugang zur Werkstatt.

Ergänze: „Beschreibe Sprache und Handlungen der NPCs. Entscheide nicht, was der Spieler denkt, sagt oder tut.“ Spiele 20–30 Züge mit gleicher Karte, Szene und verfügbarem Kontext. Verwende für jedes Modell dessen richtige Vorlage.

Achte auf sieben Dinge:

1. Persönlichkeit. Lea bleibt misstrauisch und erkennt trotzdem die Hilfe an.
2. Subtext. Ihr Geheimnis beeinflusst die Sprache, ohne grundlos verraten zu werden.
3. Entscheidungsfreiheit. Das Modell überlässt dir deine Sätze und Entscheidungen.
4. Weltzustand. Der Wachmann erhält kein Wissen aus dem Nichts.
5. Initiative. NPCs handeln und treiben die Szene voran.
6. Längerer Dialog. Kein ständiger Neustart und keine dauernden Standardphrasen.
7. Tempo. Die Wartezeiten erhalten den Gesprächsrhythmus.

Notiere Einstellungen, Dateiversion und Anzahl neu erzeugter Antworten. Wiederhole den Test mit einer anderen Szene: Eine gute Antwort belegt noch keine Zuverlässigkeit.

GGUF starten: KoboldCpp, SillyTavern und Multiic

Der übliche Aufbau ist GGUF → kompatible Inferenzsoftware → Chatoberfläche oder Spiel. KoboldCpp und llama.cpp führen Modelle aus; SillyTavern und Multiic bieten unterschiedliche Figurenerlebnisse. Prüfe die Architekturunterstützung deiner Backend-Version, besonders bei neueren Qwen- und Gemma-Modellen. KoboldCpp und llama.cpp.

Die Multiic-Anleitung für lokale Modelle hilft beim Verbinden. Wenn du zwischen Spiel und anpassbarem Chat schwankst, lies den Vergleich von Multiic, SillyTavern und Alternativen. Das lokale Sprachmodell ist nur ein Teil des Systems: Cloud-Stimmen und Cloud-Bilder werden dadurch nicht lokal.

Was ein gewähltes Modell im Spiel antreibt — Charakterkarten, Gruppengespräche, Weltkontext und optionale Szenenbilder —, zeigt der Überblick über KI-Rollenspiel in Multiic.

Du wechselst von Character.AI? Hier gibt es einen Vergleich von neun Character.AI-Alternativen — von Online-Diensten bis zu komplett lokalen Setups.

Häufige Fragen zu lokalen Rollenspiel-LLMs

Welches Modell eignet sich zum Einstieg in englisches Rollenspiel?

Stheno Q4 auf kleinerer GPU oder Rocinante-X Q5 mit mehr Speicher. Bei 16 GB kannst du Gemory als kreatives MoE vergleichen. Karte und Szene entscheiden, was sich am besten anfühlt.

Läuft ein 12B-Modell auf einer GPU mit 8 GB?

Ja, mit passendem Quant und passenden Einstellungen, manchmal mit teilweiser Auslagerung. Aber 7.48 GB Gewichte lassen wenig Platz für den Rest. Ein 8–9B kann Tempo und Historie besser verbinden.

Reichen 16 GB für ein 26B-MoE?

Einige kompakte GGUFs sind realistische Testkandidaten, etwa Gemory Q3_K_M. Kontext und GPU-Auslagerung musst du weiterhin anpassen. A4B heißt nicht, dass nur vier Milliarden Parameter Speicher benötigen.

Warum wiederholt sich meine Figur oder schreibt meine Handlungen?

Prüfe Vorlage, Karte und Dialogbeispiele. Entferne Anweisungen, die beide Seiten der Szene schreiben lassen. Bleibt das Problem über verschiedene Karten bestehen, vergleiche ein anderes Modell. Ein höheres Quant garantiert kein besseres Verhalten.

Kann ich ohne Internet Rollenspiel betreiben?

Nach dem Download kann eine lokale Inferenzsoftware Text ohne Cloud-API erzeugen. Ob die ganze Anwendung offline funktioniert, hängt von weiteren Funktionen und Ressourcen ab. Prüfe Stimme, Bilder und Verbindungseinstellungen separat.

Wähle ein Modell wie einen Schauspieler: Wer soll diese Figur spielen? Eine denkwürdige Antwort, Anschluss an den Streit von gestern und ein gut gesetztes Nein können mehr zählen als die nächste beeindruckende Grafik.