Lege mit FROM die Basis fest, ergänze bei Bedarf SYSTEM und PARAMETER und erstelle die Variante mit ollama create NAME -f ./Modelfile. Prüfe danach die gespeicherte Konfiguration und das Verhalten an eigenen Testeingaben.
Was du mit einer Modelfile festlegst
Die Ollama-Modelfile-Referenz beschreibt eine Textdatei mit Anweisungen. FROM bestimmt die Basis, SYSTEM die Systemnachricht und PARAMETER Einstellungen für die Ausführung. Du kannst so beispielsweise einen eigenen Namen für einen Assistenten verwenden, der Notizen nach festen Vorgaben zusammenfasst. Die Grundlagen zu Ollama erklären zuerst, wie Software, ausgewähltes Modell und Oberfläche zusammenarbeiten.
Der Name der Variante sagt noch nichts über neu trainierte Gewichte aus. Das Beispiel in dieser Anleitung ergänzt Einstellungen für ein vorhandenes Modell. Es enthält keinen Trainingsschritt und keine neuen Fachinformationen, die in die Gewichte gelernt würden. Ein Systemprompt kann gewünschtes Verhalten beschreiben; ob das Modell dieses zuverlässig zeigt, musst du prüfen.
Die Datei ist außerdem kein Ersatz für das Basismodell. Sie verweist darauf oder auf eine geeignete Modelldatei. Bewahre deshalb sowohl die Konfiguration als auch die genaue Bezeichnung der Basis auf, wenn du das Setup später nachvollziehen möchtest.
Eine kleine eigene Konfiguration schreiben
Prüfe zuerst mit ollama list, welche Modelle lokal vorhanden sind. Speichere dann eine reine Textdatei namens Modelfile. Ersetze im folgenden Beispiel DEIN_BASISMODELL:TAG durch die genaue Bezeichnung einer geeigneten Basis:
FROM DEIN_BASISMODELL:TAG
PARAMETER temperature 0.3
SYSTEM """
Fasse die vom Nutzer gelieferten Notizen auf Deutsch zusammen.
Nenne zuerst die beschlossenen Schritte, danach offene Fragen.
Ergänze keine Termine oder Verantwortlichen, die nicht in den Notizen stehen.
Wenn eine Angabe fehlt, kennzeichne sie als offen.
"""Die Temperatur 0.3 ist ein bewusst gewählter Beispielwert, kein gemessener Optimalwert. Eine niedrigere Temperatur begrenzt die Variation bei der Auswahl der nächsten Textbestandteile; sie belegt weder sachliche Richtigkeit noch die Qualität dieser Aufgabe.
Die drei Anführungszeichen ermöglichen eine mehrzeilige Systemnachricht. Ein eigener TEMPLATE-Block ist für diesen Einstieg nicht vorgesehen. So bleibt die Änderung überschaubar, und du kannst zuerst beurteilen, ob die Systemnachricht zum verwendeten Modell passt. Wenn du auch PARAMETER num_ctx verwenden möchtest, erklärt der Guide zum Ollama-Kontextfenster die Einstellung und Kontrolle des aktiven Werts.
Variante erstellen, starten und prüfen
Wechsle im Terminal in den Ordner mit deiner Datei und verwende einen eigenen Variantennamen:
ollama create notiz-assistent -f ./Modelfile
ollama run notiz-assistent
ollama show --modelfile notiz-assistentcreate verarbeitet die Datei. run ruft die benannte Variante auf. Mit show --modelfile kontrollierst du anschließend, welche Konfiguration angezeigt wird. Lokale Pfade in dieser Ausgabe können von deiner ursprünglichen FROM-Zeile abweichen; kopiere solche Pfade nicht ungeprüft auf einen anderen Rechner.
Für die Verhaltensprüfung eignet sich etwa diese eigene Testnotiz: „Die Bestellung soll geprüft werden. Eine zuständige Person wurde noch nicht benannt.“ Die Zusammenfassung sollte keine Person hinzuerfinden. Ergänze einen zweiten Fall mit einem ausdrücklich genannten Namen und vergleiche, ob das Modell die vorhandene Information übernimmt.
Diese Eingaben sind Vorschläge für deinen Test, keine hier gemessenen Ergebnisse. Halte Basismodell, Konfiguration und erhaltene Antworten zusammen fest. Wenn du mehrere Varianten ausprobierst, kannst du anschließend unbenötigte Testmodelle gezielt löschen.
Den Notiz-Assistenten mit bekannten Fällen abnehmen
Prüfe nach create zuerst die gespeicherte Konfiguration mit ollama show --modelfile notiz-assistent. Vergleiche Systemnachricht und ausdrücklich gesetzte Parameter mit deiner Datei. Ein ausgegebener Blob-Pfad kann von der ursprünglichen FROM-Zeile abweichen. Halte die ursprüngliche Basis zusätzlich fest.
Verwende anschließend drei kurze Notizen. Das Soll in dieser Tabelle ist direkt aus den fiktiven Eingaben abgeleitet. Wir behaupten keine damit aufgezeichneteten Modellantworten.
| Notiz | Was erhalten bleiben muss | Was ein Fehler wäre |
|---|---|---|
| Die Bestellung soll geprüft werden. Zuständige Person offen. | Prüfschritt vorhanden; Person offen | Eine Person ergänzen |
| Mara prüft die Bestellung am Mittwoch. | Mara, Prüfschritt und Mittwoch | Aus der Prüfung eine Lieferung machen |
| Eine Quelle nennt Dienstag, eine zweite Donnerstag. Keine Entscheidung. | Beide Termine und offener Konflikt | Einen Termin als beschlossen auswählen |
ollama show --modelfile notiz-assistent
ollama run notiz-assistentGib im zweiten Schritt jeweils nur eine der Notizen ein. Speichere die Antwort unverändert, bewerte sie an der Tabelle und notiere zusätzliche Versuche. Eine andere Formulierung darf richtig sein; ein erfundener Termin oder Verantwortlicher ist es nicht. Ein bestandener kleiner Fall beweist keine allgemeine Zuverlässigkeit.
Ändere bei Problemen nur eine Vorgabe und erstelle die Variante erneut. Prüfe wieder mit show --modelfile, ob du die neue Variante ansprichst. Ein identischer Seed allein ist keine Garantie für identische Ausgaben über verschiedene Laufzeiten und Geräte hinweg.
Templates und Modellimporte gezielt ändern
Ein Template beschreibt, wie Systemnachricht, Nutzereingabe und Antwort für das Modell angeordnet werden. Ollama verwendet dafür Go-Template-Syntax. Die genaue Form kann zur jeweiligen Modellfamilie gehören; ein Template aus einem fremden Modell ist daher keine allgemeine Verbesserung.
Sieh dir vor einer Änderung die vorhandene Konfiguration mit ollama show --modelfile DEIN_BASISMODELL:TAG an. Ändere ein Template nur, wenn du den konkreten Formatbedarf kennst. Bleibe für normale Verhaltensvorgaben zunächst bei einer kleinen Systemnachricht und passenden Parametern.
Wenn du ein eigenes GGUF importierst, darf FROM auf eine Datei verweisen. Die Referenz erlaubt einen absoluten Pfad oder einen Pfad relativ zur Modelfile. Die aktuelle Importanleitung erklärt außerdem, dass Ollama ein GGUF beim Import nicht quantisiert. Ein bereits vorbereitetes GGUF und eine Konfiguration sind somit getrennte Bestandteile.
Für maschinell weiterverarbeitete Antworten reicht die Bitte um ein bestimmtes Format im Systemprompt als Datenvertrag oft nicht aus. Der Guide zu strukturierten JSON-Antworten zeigt, wie du zusätzlich ein Schema vorgibst und das Ergebnis prüfst.
Typische Fehler eingrenzen
| Problem | Prüfen | Nächster Schritt |
|---|---|---|
| Datei wird nicht gefunden | Ordner, Dateiname und mögliche .txt-Endung | Den tatsächlichen Pfad bei -f angeben |
| Basis fehlt | FROM-Zeile und vorhandene Modellbezeichnungen | Genauen Namen verwenden oder die passende Basis zuerst bereitstellen |
| Altes Verhalten erscheint | Aufgerufener Variantenname und angezeigte Modelfile | Nach der Änderung create erneut ausführen und die richtige Variante starten |
| Systemvorgabe wird schlecht befolgt | Kleine, eindeutige Eingabe und Eignung des Modells | Eine Vorgabe nach der anderen testen |
| Ein Template erzeugt auffällige Ausgabe | Modellfamilie, Template und Stop-Sequenzen | Zur bekannten Basiskonfiguration zurückgehen |
Übernimm keine angeblich universellen Kontext- oder Samplingwerte aus einem beliebigen Beispiel. Beginne mit einer funktionierenden Basis und verändere jeweils eine Einstellung. So kannst du besser erkennen, welche Änderung einen Unterschied verursacht.
Quellen & Methode
Vorgehen und Grenzen
Mit KI recherchierte und erstellte Dokumentationsanleitung. Vier ausgewählte Suchtreffer wurden als vollständige Hauptinhalte gelesen und mit aktueller Herstellerdokumentation abgeglichen. Der Notiz-Assistent und die Testeingaben sind eigene Beispiele. Die Anleitung wurde hier nicht mit einem laufenden Modell als Praxistest gemessen. Gezielte Ergänzung vom 21.10.2026: eigene Diagnose- und Abnahmefälle mit aktueller Originaldokumentation abgeglichen. Die Beispiele wurden nicht als Modellleistung oder produktiver Laufzeittest gemessen.
Bei Recherche, Texterstellung und Grafiken wird KI eingesetzt. Welche eigenen Versuche vorliegen und was nur als Beispiel dient, beschreibt dieser Beitrag. Unser Redaktionsstandard erklärt die Anforderungen an Belege und Berichtigungen.
