TECH. KI. KLARTEXT.
Tokenwerk

Technologie verstehen.
Besser entscheiden.

Magazin / KI & Modelle59 Beiträge

KI & Modelle

Ollama verstehen und ein eigenes Setup Schritt für Schritt konfigurieren.

Lesepfad · 8 Anleitungen

Dein Ollama-Setup

Grundlagen, Einrichtung und Konfiguration.

  1. Ollama verstehen
  2. Docker einrichten
  3. Verbindung prüfen
Alle 8 Anleitungen anzeigenWeitere Schritte einklappen
  1. Ollama Modelfile: Eigene Modelle konfigurieren
  2. Ollama-Kontextfenster einstellen und num_ctx prüfen
  3. Ollama mit JSON-Schema: Strukturierte Antworten erzeugen
  4. Ollama-Modelle löschen und Speicher freigeben
  5. Ollama deinstallieren: Windows, macOS und Linux

Alle Beiträge

59 Beiträge · Seite 6
KI & Modelle / Guide

llama.cpp nutzen: Vom ersten Modell zur lokalen API

llama.cpp verständlich einrichten: offizielle App oder CLI wählen, GGUF laden, erste Antwort prüfen und eine lokale API starten. Mit Befehlen und Fehlerhilfe.

Joel Heuchert · 5 Min.
Nach Aufgabe

Dein Thema, genauer.

Artikel & Anleitungen
Mit Übungen weiterlernen

Vom Artikel zur eigenen Aufgabe.

Alle Lernpfade →
Quellen & Methode

Nachvollziehbare Anleitungen.

Die Beiträge nennen ihre Quellen und unterscheiden Herstellerangaben, eigene Beispiele und tatsächlich durchgeführte Prüfungen.

Unser Redaktionsstandard →

Häufige Fragen

Welche Inhalte findest du unter „KI & Modelle“?

vLLM einrichten: Vom lokalen Modell zum geprüften API-Dienst: vLLM verständlich einrichten: Hardware prüfen, ein kleines Modell lokal bereitstellen und API sowie Antworten kontrollieren. Mit Befehlen und Ollama-Vergleich. RAG-Chatbot bauen: Mit eigener Wissensdatei und Quellenprüfung: Einen RAG-Chatbot mit n8n nachvollziehbar aufbauen: eigene Übungsdaten laden, Textstellen abrufen und Antworten prüfen. Mit Testdatei, Prompt und klaren Grenzen. llama.cpp nutzen: Vom ersten Modell zur lokalen API: llama.cpp verständlich einrichten: offizielle App oder CLI wählen, GGUF laden, erste Antwort prüfen und eine lokale API starten. Mit Befehlen und Fehlerhilfe.

Wie findest du einen passenden Beitrag?

Wähle einen Titel nach deiner Frage und öffne den Beitrag. Dort stehen die ausführliche Erklärung, Quellen und gegebenenfalls Prüfschritte.

Wie kannst du nach einem Thema suchen?

Die Themenübersicht bündelt Ressorts; über die Magazinsuche kannst du einen konkreten Begriff eingeben.