Hardware / Guide
LLM-Geschwindigkeit messen: mehr als Rechenleistung
LLM-Geschwindigkeit nachvollziehbar messen: erstes Token, Gesamtdauer, Durchsatz und Speicher getrennt prüfen. Mit Messvorlage und klaren Grenzen.
Magazin / Hardware10 Beiträge
Hardware für lokale KI
Speicherbedarf einordnen, Modellvarianten prüfen und GPU-Betrieb nachvollziehen.
Lesepfad · 3 Anleitungen
Dein Rechner für lokale KI
Speicher planen, Varianten wählen, GPU prüfen.
Alle Beiträge
10 BeiträgeHardware / Guide
FlashAttention erklärt: Warum der Speicherzugriff zählt
FlashAttention verständlich erklärt: Kacheln, Speicherzugriff, FA2 bis FA4 und PyTorch SDPA. Mit nachrechenbarem Beispiel und klaren Hardwaregrenzen.
Hardware / Guide
Mac mini für lokale KI: Speicher wählen und den eigenen Ablauf prüfen
Mac mini für lokale KI einordnen: aktuelle Speicheroptionen, Modellgewichte, Kontext, Ollama und MLX. Mit eigener Rechenhilfe und einem Bedarfsblatt.
Hardware / Guide
Grafikkarte für KI: Speicher, Software und deinen Bedarf prüfen
Welche Grafikkarte passt zu lokaler KI? Prüfe Modell, VRAM, Betriebssystem und Laufzeit. Mit transparenter Speicherrechnung und einem eigenen Bedarfszettel.
Hardware / Guide
Was ist eine NPU? KI-Hardware ohne die falschen Versprechen
Was eine NPU macht, wie sie sich von CPU und GPU unterscheidet und wann Software sie nutzt. Mit TOPS-Einordnung, Kompatibilitätskette und Rechnercheck.
Hardware / Guide
Was ein KI-Benchmark wirklich misst
Was sagen KI-Benchmarks aus? Unterscheide Richtigkeit, Präferenz, Tempo und Indizes. Mit Methodenkarte und eigenem Prüffall statt pauschaler Rangliste.
Nach Aufgabe
Dein Thema, genauer.
Speicher & Quantisierung
RAM, VRAM und Modelldateien einordnen und Varianten an derselben Aufgabe prüfen.
Ollama mit GPU
Die Modellzuordnung prüfen und nativen Betrieb von Container-Zugriff unterscheiden.
Kontext & Ressourcen
Aktiven Kontext beobachten und gespeicherte Modelle gezielt verwalten.
Mit Übungen weiterlernen
Vom Artikel zur eigenen Aufgabe.
Lokale KI betreiben
Du kannst lokale Gewichte und Laufzeit unterscheiden, ein Modell passend auswählen und den Betrieb nachvollziehbar prüfen.
Lernpfad ansehen
Modelle und Benchmarks beurteilen
Du liest Benchmarks nach Methode und Bedingungen und triffst eine begründete Auswahl für deinen Einsatz.
Lernpfad ansehenPassende Vertiefung
Aus den anderen Ressorts.
KI & Modelle / Guide
Ollama mit Docker: Installation, Speicher und GPU
Ollama mit Docker Compose einrichten: Modelle dauerhaft speichern, Portzugriff begrenzen und CPU- oder GPU-Betrieb prüfen. Mit Konfiguration und Fehlersuche.
KI & Modelle / Guide
Ollama-Kontextfenster einstellen und num_ctx prüfen
Ollama-Kontextfenster mit num_ctx oder OLLAMA_CONTEXT_LENGTH einstellen und den tatsächlichen Wert prüfen. Mit API-Beispiel, Grafik und Speicherabwägung.
KI & Modelle / Guide
Ollama-Modelle löschen und Speicher freigeben
Ollama-Modelle gezielt mit ollama rm löschen: Namen prüfen, laufende Modelle stoppen und das Ergebnis kontrollieren. Mit Befehlen und Fehlersuche.
Quellen & Methode
Nachvollziehbare Anleitungen.
Die Beiträge nennen ihre Quellen und unterscheiden Herstellerangaben, eigene Beispiele und tatsächlich durchgeführte Prüfungen.
Unser Redaktionsstandard →Häufige Fragen
Welche Themen behandelt „Hardware“?
Speicher, Chips, Rechenleistung, Energie und die Infrastruktur für lokale KI.
Welche Beiträge findest du in dieser Rubrik?
LLM-Geschwindigkeit messen: mehr als Rechenleistung: LLM-Geschwindigkeit nachvollziehbar messen: erstes Token, Gesamtdauer, Durchsatz und Speicher getrennt prüfen. Mit Messvorlage und klaren Grenzen. FlashAttention erklärt: Warum der Speicherzugriff zählt: FlashAttention verständlich erklärt: Kacheln, Speicherzugriff, FA2 bis FA4 und PyTorch SDPA. Mit nachrechenbarem Beispiel und klaren Hardwaregrenzen. Mac mini für lokale KI: Speicher wählen und den eigenen Ablauf prüfen: Mac mini für lokale KI einordnen: aktuelle Speicheroptionen, Modellgewichte, Kontext, Ollama und MLX. Mit eigener Rechenhilfe und einem Bedarfsblatt.
Wie findest du den passenden Einstieg?
Wähle einen Beitrag nach deiner konkreten Frage. Guides führen durch praktische Schritte; Hintergrundartikel ordnen Zusammenhänge und Grenzen ein.