TECH. KI. KLARTEXT.
Tokenwerk

Technologie verstehen.
Besser entscheiden.

Das Magazin

Alle veröffentlichten Beiträge zu KI und digitalen Werkzeugen.

Alle Beiträge

183 Beiträge · Seite 21
KI & Modelle / Guide

llama.cpp nutzen: Vom ersten Modell zur lokalen API

llama.cpp verständlich einrichten: offizielle App oder CLI wählen, GGUF laden, erste Antwort prüfen und eine lokale API starten. Mit Befehlen und Fehlerhilfe.

Joel Heuchert · 5 Min.
Quellen & Methode

Nachvollziehbare Anleitungen.

Die Beiträge nennen ihre Quellen und unterscheiden Herstellerangaben, eigene Beispiele und tatsächlich durchgeführte Prüfungen.

Unser Redaktionsstandard →

Häufige Fragen

Welche Inhalte findest du unter „Das Magazin“?

RAG-Chatbot bauen: Mit eigener Wissensdatei und Quellenprüfung: Einen RAG-Chatbot mit n8n nachvollziehbar aufbauen: eigene Übungsdaten laden, Textstellen abrufen und Antworten prüfen. Mit Testdatei, Prompt und klaren Grenzen. Was ist eine NPU? KI-Hardware ohne die falschen Versprechen: Was eine NPU macht, wie sie sich von CPU und GPU unterscheidet und wann Software sie nutzt. Mit TOPS-Einordnung, Kompatibilitätskette und Rechnercheck. llama.cpp nutzen: Vom ersten Modell zur lokalen API: llama.cpp verständlich einrichten: offizielle App oder CLI wählen, GGUF laden, erste Antwort prüfen und eine lokale API starten. Mit Befehlen und Fehlerhilfe.

Wie findest du einen passenden Beitrag?

Wähle einen Titel nach deiner Frage und öffne den Beitrag. Dort stehen die ausführliche Erklärung, Quellen und gegebenenfalls Prüfschritte.

Wie kannst du nach einem Thema suchen?

Die Themenübersicht bündelt Ressorts; über die Magazinsuche kannst du einen konkreten Begriff eingeben.