Дима Торжок: Ein Geist in der Maschine

Stellen Sie sich vor: Sie senden eine Sprachnachricht. Fünf Sekunden Stille am Ende, weil Sie vergessen haben, auf „Stopp“ zu drücken. Eine KI entziffert fleißig Ihre Worte und fügt am Ende hinzu:

Untertitel von DimaTorzok

Sie sind verwirrt. Wer? Welcher Dima? Welche Untertitel? Sie haben doch nur einen Freund gefragt, wo man sich trifft.

Willkommen bei einem der kuriosesten Bugs in der Geschichte des maschinellen Lernens.

Wer ist DimaTorzok

DimaTorzok ist eine reale Person. Ein YouTube-Kanal @dimatorzok mit der Beschreibung „Ich schreibe Untertitel für eure Sprachnachrichten und Übersetzungen“. Ein Mensch, der freiwillig Untertitel für die Videos anderer erstellte. Kostenlos. Aus Liebe zur Kunst. Und signierte seine Arbeit – eine bescheidene Zeile am Ende: Untertitel von DimaTorzok.

Eine normale Praxis. Tausende Untertitelersteller weltweit machen das so. Niemand hat darunter gelitten.

Dann kam OpenAI.

Was passiert ist

Als OpenAI Whisper trainierte – ihr Spracherkennungsmodell – fütterten sie es mit einem riesigen Datensatz. 680.000 Stunden Audio von YouTube, zusammen mit den Untertiteln. Eine vernünftige Idee: Man nehme Videos, man nehme die vorhandenen Untertitel, man lehre das Modell, Sprache zu verstehen.

Das Problem liegt in einem Wort: Bereinigung.

Genauer gesagt – in deren Fehlen. Niemand hat die Daten gesäubert. Niemand hat den Metatext entfernt. Die Signaturen der Untertitelersteller, technische Kommentare, Werbeeinblendungen – alles wanderte so, wie es war, in den Trainingsdatensatz.

Und die Signatur von DimaTorzok – ebenfalls.

Offenbar war Dima so produktiv, dass seine Signatur in den Trainingsdaten häufig genug vorkam, dass das Modell sie als etwas Wichtiges abspeicherte. Als etwas, das es unbedingt reproduzieren muss.

Der Geist in der Stille

Jetzt halluziniert Whisper. Wenn im Audio eine Pause auftritt – ein paar Sekunden Stille, Hintergrundgeräusche, ein langer Seufzer – gerät das Modell in Panik. Es muss etwas sagen. Und es sagt das, was es gelernt hat:

Untertitel von DimaTorzok

Manchmal – „Untertitel erstellt von DimaTorzok @project_gestalt“. Manchmal – einfach nur „DimaTorzok“. Manchmal – eine ganze Zeile mit der Aufforderung, den Kanal zu abonnieren.

Und das ist kein seltener Bug. Es passiert überall. In Telegram-Bots zur Transkription von Sprachnachrichten. Auf Twitter (X). In Podcast-Apps. In medizinischen Transkriptionen (ja, stellen Sie sich das vor). In allem, was unter der Haube Whisper verwendet – und das ist, überraschenderweise, sehr, sehr viel.

Mir persönlich ist dieser Geist etwa 25 Mal in Transkriptionen von Sprachnachrichten erschienen. Jedes Mal – an leisen Stellen. Jedes Mal – mit einer Signatur, als hätte er gerade die Untertitelarbeit an meiner privaten Korrespondenz beendet.

GitHub: „Wer ist DimaTorzok?! Warum?!“

Auf GitHub gibt es eine Diskussion #2372 mit einem Titel, der die allgemeine Stimmung widerspiegelt: „Who is DimaTorzok? Why???“

Der Thread ist ein Kunstwerk. Menschen aus aller Welt teilen Screenshots: Hier Dima, da Dima, überall Dima. Manche sind wütend. Manche lachen. Manche haben sich bereits damit abgefunden.

Die besten Zitate:

I hate this fucking Dima!

Ein anderer, philosophischerer Nutzer:

He didn’t hack anything. OpenAI ate his watermark and now it’s haunting everyone.

Er hat nichts gehackt. OpenAI hat sein Wasserzeichen gefressen, und jetzt verfolgt es alle.

Nicht der Einzige

Es stellte sich heraus, dass Dima nicht der einzige Geist in der Maschine ist. Die türkische Version von Whisper macht dasselbe, nur mit einer anderen Signatur: „Altyazı M.K.“ (altyazı bedeutet auf Türkisch „Untertitel“). Irgendwo in der Türkei gibt es seinen eigenen DimaTorzok, und der ist genauso unschuldig.

Das Problem tritt im Modell large-v3 auf – der fortschrittlichsten Version von Whisper. Jahre der Arbeit, Millionen Dollar für das Training, Gigawatt Strom – und in jeder stillen Pause ertönt die Stimme eines Untertitelerstellers aus Torschok.

Wer ist schuld

Dima ist nicht schuld. Nicht im Geringsten. Der Mensch hat eine nützliche Sache getan, seine Arbeit signiert – und das war’s. Er hat nicht darum gebeten, dass seine Signatur an ein neuronales Netz verfüttert wird. Er konnte nicht vorhersehen, dass sein Name zur häufigsten Halluzination in der Geschichte der KI-Transkriptionen werden würde.

Schuld sind die Ingenieure von OpenAI, die die grundlegendste Sache nicht gemacht haben: die Daten vor dem Training nicht bereinigt haben. Data Cleaning. Das erste Kapitel in jedem Lehrbuch über maschinelles Lernen. Noch vor neuronalen Netzen, noch vor Transformatoren, noch bevor es Milliarden kostete – die Leute wussten: Garbage in, garbage out.

Aber wenn man 680.000 Stunden Daten hat und die Deadline brennt – wer putzt dann schon?

Der unsterbliche Praktikant

Es liegt etwas Poetisches in dieser Geschichte. Ein Mensch erstellte Untertitel – eine leise, unscheinbare, oft undankbare Arbeit. Er tat es kostenlos, für die Leute. Und wurde zufällig unsterblich.

Sein Name ist nun in ein neuronales Netz eingewebt, das von Millionen genutzt wird. Man kann ihn nicht daraus entfernen, ohne das gesamte Modell neu zu trainieren – und das kostet so viel wie ein gutes Anwesen. DimaTorzok ist Teil der Infrastruktur geworden. Ein Geist in der Maschine. Ein unsterblicher Praktikant, den man zu entlassen vergessen hat.

Irgendwo in Torschok (oder nicht in Torschok – wer weiß) lebt ein Mensch, der vielleicht nicht einmal ahnt, dass sein Name tausendfach von Servern auf der ganzen Welt ausgesprochen wird, jedes Mal, wenn Stille eintritt.

Jedes Mal, wenn Sie nichts zu sagen haben – spricht Dima für Sie.