Welche Grafikkarte brauche ich für mein Sprachmodell?
Wie viel Grafikkarte braucht ein Sprachmodell für 50 Leute? Ein Rechner sagt es, kalibriert mit eigenen Messungen.
„Welche Grafikkarte brauche ich?“ höre ich zu lokaler KI ständig. Statt die Frage jedes Mal neu zu beantworten, gibt es seit Oktober 2026 einen Rechner.
Er ist der Nachfolger meines alten LLM-Rechners, eine einzige Seite ohne fremde Abhängigkeiten. Aus Nutzern, Anfragen am Tag und Textmenge schätzt er, wie viele Anfragen gleichzeitig ankommen, und prüft dann Speicher, Tempo und Wartezeit. Die Wirkungsgrade habe ich mit Messungen auf meinem eigenen GPU-Server neu kalibriert, Modelle, Karten und Preise haben den Stand Oktober 2026.
Fazit
Eine ehrliche Schätzung in einer Minute ersetzt keine Beratung, aber sie macht das erste Gespräch deutlich kürzer.
Ausblick
Bisher geben wir den Rechner an Teilnehmende unserer Veranstaltungen weiter.