TOKENWERK · EIGENER GPU-BEDARFSZETTEL
Keine Kaufempfehlung und kein durchgeführter Hardwaretest.

Aufgabe und gewünschte Ausgabe:
Exakter Modelltag und Dateiformat:
Quantisierung:
Laufzeit und Version:
Betriebssystem, GPU-Modell und Treiberversion:
Dokumentierter Backendpfad:
Kontext und gleichzeitige Anfragen:
Freier Grafikspeicher vor Versuch:
CPU/GPU-Anteil bei geladenem Modell:
Erster Antwortbeginn und weiterer Durchsatz getrennt beobachten:
Qualitätsprüfung an derselben Aufgabe:
Stromversorgung, Kühlung, Gehäuse und Anschlüsse:
Aktueller Gesamtpreis und Folgekosten:

Reine Gewichtsschätzung in dezimalen GB: Parameterzahl * Bit / 8 / 1e9
7 Milliarden * 4 Bit / 8 = 3,5 GB
14 Milliarden * 4 Bit / 8 = 7 GB
Nur rechnerische Rohgewichte, ohne Quantisierungsmetadaten, Cache oder Laufzeitreserve.