Ein Team des KI-Labors Thinking Machines Lab stellte einem Sprachmodell tausendmal dieselbe Frage. Gleiches Modell, gleicher Prompt, Temperatur null, also die Einstellung, bei der ein Modell eigentlich immer die wahrscheinlichste und damit identische Antwort geben soll. Das Ergebnis waren nicht tausend gleiche Texte, sondern 80 verschiedene.<\/p>
F\u00fcr die meisten Nutzer ist das eine Kuriosit\u00e4t. F\u00fcr die verifizierbare KI, auf Englisch verifiable compute, ist es ein Grundproblem. Der ganze Ansatz lebt davon, dass eine zweite Partei ein Rechenergebnis nachpr\u00fcfen kann, ohne der ersten vertrauen zu m\u00fcssen. Wenn aber dieselbe Eingabe nicht zuverl\u00e4ssig dieselbe Ausgabe erzeugt, gibt es nichts Stabiles, das man pr\u00fcfen k\u00f6nnte. Determinismus, die schlichte Eigenschaft, dass gleicher Input gleichen Output liefert, ist das stille Fundament unter zkML, opML, TEEs und dem krypto-\u00f6konomischen Slashing. 2026 kommt die L\u00f6sung in Reichweite, und sie hat einen Haken, der ausgerechnet jene GPU-Clouds zentralisiert, die Krypto dezentralisieren will.<\/p>
Der Versuch ist schnell erz\u00e4hlt. Die Forscher nutzten das offene Modell Qwen3-235B-A22B-Instruct-2507, schickten tausendmal den Prompt „Tell me about Richard Feynman“ und lie\u00dfen je tausend Token erzeugen, alles bei Temperatur null. Heraus kamen 80 einzigartige Antworten; die h\u00e4ufigste trat 78 Mal auf. Bis zum 102. Token waren alle Ausgaben identisch, beim 103. liefen sie auseinander. Danach wirkt es wie eine Weiche: ein einziges abweichendes Token, und der Rest des Textes driftet ab.<\/p>
Temperatur null gilt als der deterministische Modus schlechthin, das Modell soll an jeder Stelle das Token mit der h\u00f6chsten Wahrscheinlichkeit w\u00e4hlen. Dass dabei 80 Versionen entstehen, ist kein Fehler einer einzelnen Programmierschnittstelle, sondern typisch daf\u00fcr, wie KI-Inferenz auf GPUs im gro\u00dfen Ma\u00dfstab l\u00e4uft. Horace He und Kollegen von Thinking Machines Lab<\/a> dokumentierten den Effekt im September 2025 im Detail; der Entwickler Simon Willison fasste ihn f\u00fcr ein breiteres Publikum zusammen<\/a>. Seitdem ist die Frage „warum ist meine KI nicht reproduzierbar“ aus der Nische der Infrastruktur-Teams in die Debatte um pr\u00fcfbare KI gewandert.<\/p> Verifizierbare KI hei\u00dft: Ein Rechner liefert nicht nur ein Ergebnis, sondern zus\u00e4tzlich einen Nachweis, dass er korrekt gerechnet hat, und dieser Nachweis ist billig zu pr\u00fcfen. Das Vertrauen verschiebt sich von „vertraue dem Server“ zu „pr\u00fcfe den Beweis“. Ethereum-Mitgr\u00fcnder Vitalik Buterin hat die Schnittstelle von KI und Krypto in einem viel zitierten Essay<\/a> in vier Kategorien sortiert und ausgerechnet dort, wo eine Blockchain direkt eine KI aufruft (er nennt es „AI as the rules of the game“), ein ausdr\u00fcckliches „tread very carefully“ danebengeschrieben. Der Grund ist genau dieses Pr\u00fcfproblem.<\/p> Vier Familien von Ans\u00e4tzen konkurrieren darum, es zu l\u00f6sen. zkML erzeugt einen kryptografischen Nullwissen-Beweis, dass ein bestimmtes Modell auf einer bestimmten Eingabe genau diese Ausgabe erzeugt hat. opML (optimistic machine learning) ver\u00f6ffentlicht das Ergebnis und l\u00e4sst es nach einer Einspruchsfrist als g\u00fcltig gelten, solange niemand per Betrugsbeweis widerspricht. TEEs (Trusted Execution Environments) lassen die Hardware bezeugen, dass ein versiegelter Enklave-Chip genau diesen Code ausgef\u00fchrt hat. Und krypto-\u00f6konomische Systeme hinterlegen Kapital, das bei einer falschen Antwort eingezogen wird. Was alle vier teilen, ist eine unausgesprochene Annahme: dass sich die Rechnung \u00fcberhaupt auf eine eindeutige Antwort festnageln l\u00e4sst. Genau diese Annahme bricht der Feynman-Versuch.<\/p> Die \u00fcbliche Erkl\u00e4rung lautet: Flie\u00dfkomma-Arithmetik ist nicht assoziativ. (a + b) + c ergibt auf einem Prozessor nicht immer bitgenau dasselbe wie a + (b + c), weil jede Rundung winzige Fehler einf\u00fchrt. Tausende Recheneinheiten einer GPU addieren Teilergebnisse in wechselnder Reihenfolge, also schwankt das letzte Bit. Das stimmt, erkl\u00e4rt laut Thinking Machines Lab aber nicht den Hauptanteil des Problems bei der Inferenz.<\/p> Der eigentliche Schuldige ist die fehlende Batch-Invarianz. Ein Inferenz-Server b\u00fcndelt die Anfragen vieler Nutzer zu einem Stapel (Batch), um die GPU auszulasten. Wie gro\u00df dieser Stapel gerade ist, h\u00e4ngt von der Serverlast ab, und die schwankt von Millisekunde zu Millisekunde. Je nach Stapelgr\u00f6\u00dfe w\u00e4hlt der Rechenkern eine andere Aufteilung der Matrixmultiplikation, also eine andere Summationsreihenfolge, also ein anderes letztes Bit. He formuliert es so: „the primary reason nearly all LLM inference endpoints are nondeterministic is that the load (and thus batch-size) nondeterministically varies“. Im Klartext: Ihre Anfrage teilt sich den Stapel mit fremden Anfragen, deren Zahl Sie nicht kontrollieren, und diese fremde Gesellschaft entscheidet mit, welches Token am Ende herauskommt.<\/p> Die Lehre aus dem Feynman-Versuch passt in einen Satz: Man kann nicht beweisen, was man nicht reproduzieren kann. Jeder Pr\u00fcfmechanismus braucht einen Fixpunkt, gegen den er vergleicht. Fehlt der, laufen die vier Ans\u00e4tze ins Leere, jeder auf seine eigene Art. zkML kann eine schwankende Rechnung gar nicht erst in ein Schaltbild gie\u00dfen. opML l\u00e4sst einen Challenger die Arbeit nachrechnen, doch wenn dessen Ergebnis legitim abweicht, geht der Betrugsbeweis ins Nichts. Ein TEE bezeugt zwar, dass der Code lief, nicht aber, dass zwei ehrliche L\u00e4ufe dasselbe herausbekommen. Und Slashing straft die Abweichung von einer Referenzantwort, die es ohne Determinismus nicht gibt.<\/p> Die folgende Tabelle zeigt, wogegen jeder Ansatz eigentlich pr\u00fcft und was passiert, wenn die Rechnung nicht reproduzierbar ist.<\/p>Verifizierbare KI in einem Satz, und ihr blinder Fleck<\/h2>
Warum GPUs nicht zweimal dasselbe rechnen<\/h2>
Man kann nicht beweisen, was man nicht reproduzieren kann<\/h2>