Dima Torzhok : le fantôme dans la machine

Imaginez : vous envoyez un message vocal. Cinq secondes de silence à la fin, parce que vous avez oublié d’appuyer sur « stop ». L’IA s’efforce de transcrire vos mots, puis ajoute à la fin :

Sous-titres réalisés par DimaTorzok

Vous êtes perplexe. Qui ? Quel Dima ? Quels sous-titres ? Vous demandiez simplement à un ami où vous retrouver.

Bienvenue dans l’un des bugs les plus cocasses de l’histoire de l’apprentissage automatique.

Qui est DimaTorzok

DimaTorzok est une personne réelle. Une chaîne YouTube @dimatorzok avec la description « Je fais des sous-titres pour vos messages vocaux et traductions ». Une personne qui créait bénévolement des sous-titres pour les vidéos des autres. Gratuitement. Par amour de l’art. Et signait son travail — une ligne modeste à la fin : Sous-titres réalisés par DimaTorzok.

Une pratique normale. Des milliers de sous-titreurs font cela dans le monde entier. Personne n’en souffrait.

Puis OpenAI est arrivé.

Ce qui s’est passé

Quand OpenAI a entraîné Whisper — son modèle de reconnaissance vocale — ils lui ont donné un jeu de données gigantesque. 680 000 heures d’audio provenant de YouTube, accompagnées des sous-titres. L’idée était sensée : prendre des vidéos, prendre les sous-titres existants, apprendre au modèle à comprendre la parole.

Le problème tient en un mot : l’assainissement.

Plus précisément — son absence. Personne n’a nettoyé les données. Personne n’a retiré le méta-texte. Les signatures des auteurs de sous-titres, les commentaires techniques, les insertions publicitaires — tout est parti dans le jeu de données d’entraînement tel quel.

Et la signature de DimaTorzok aussi.

Apparemment, Dima était si prolifique que son autographe est apparu dans les données d’entraînement assez souvent pour que le modèle le retienne comme quelque chose d’important. Quelque chose qui devait absolument être reproduit.

Le fantôme dans le silence

Maintenant, Whisper hallucine. Quand une pause apparaît dans l’audio — quelques secondes de silence, un bruit de fond, un long soupir — le modèle panique. Il a besoin de dire quelque chose. Et il dit ce qu’il a appris :

Sous-titres réalisés par DimaTorzok

Parfois — « Sous-titres faits par DimaTorzok @project_gestalt ». Parfois — juste « DimaTorzok ». Parfois — une ligne entière avec un appel à s’abonner à la chaîne.

Et ce n’est pas un bug rare. Cela arrive partout. Dans les bots Telegram pour la transcription de messages vocaux. Sur Twitter (X). Dans les applications de podcasts. Dans les transcriptions médicales (oui, imaginez). Dans tout ce qui utilise Whisper en interne — et c’est, étonnamment, énormément de choses.

Personnellement, ce fantôme m’est apparu environ 25 fois dans les transcriptions de messages vocaux. Chaque fois — dans les moments de silence. Chaque fois — avec une signature, comme s’il venait juste de finir le sous-titrage de ma correspondance personnelle.

GitHub : « Qui est DimaTorzok ?! Pourquoi ?! »

Sur GitHub, il y a une discussion #2372 avec un titre qui résume le sentiment général : « Who is DimaTorzok? Why??? »

Le fil est une œuvre d’art. Des gens du monde entier partagent des captures d’écran : Dima ici, Dima là, Dima partout. Certains sont furieux. D’autres rient. D’autres ont déjà accepté.

Les meilleures citations :

I hate this fucking Dima!

Un autre utilisateur, plus philosophe :

He didn’t hack anything. OpenAI ate his watermark and now it’s haunting everyone.

Il n’a rien piraté. OpenAI a avalé son filigrane, et maintenant il hante tout le monde.

Pas le seul

Il s’avère que Dima n’est pas le seul fantôme dans la machine. La version turque de Whisper fait la même chose, mais avec une autre signature : « Altyazı M.K. » (altyazı signifie « sous-titres » en turc). Quelque part en Turquie, il y a son propre DimaTorzok, et il est tout aussi innocent.

Le problème se reproduit avec le modèle large-v3 — la version la plus avancée de Whisper. Des années de travail, des millions de dollars pour l’entraînement, des gigawatts d’électricité — et dans chaque pause silencieuse résonne la voix d’un sous-titreur de Torjok.

Qui est responsable

Dima n’est pas responsable. Pas le moins du monde. La personne faisait un travail utile, signait son œuvre — et c’est tout. Il n’a pas demandé à ce que sa signature soit donnée à un réseau de neurones. Il ne pouvait pas prévoir que son nom deviendrait l’hallucination la plus fréquente de l’histoire des transcriptions IA.

Les responsables sont les ingénieurs d’OpenAI, qui n’ont pas fait la chose la plus basique : ils n’ont pas nettoyé les données avant l’entraînement. Data cleaning. Le premier chapitre de tout manuel d’apprentissage automatique. Avant même les réseaux de neurones, avant même les transformeurs, avant même que cela ne coûte des milliards — les gens savaient : garbage in, garbage out.

Mais quand on a 680 000 heures de données et que la deadline brûle — qui va nettoyer ?

Le stagiaire immortel

Il y a quelque chose de poétique dans cette histoire. Une personne faisait des sous-titres — un travail discret, invisible, souvent ingrat. Elle le faisait gratuitement, pour les gens. Et par hasard, elle est devenue immortelle.

Son nom est maintenant intégré dans un réseau de neurones utilisé par des millions de personnes. On ne peut pas l’en retirer sans réentraîner complètement le modèle — ce qui coûte le prix d’une belle maison. DimaTorzok est devenu une partie de l’infrastructure. Un fantôme dans la machine. Le stagiaire immortel qu’on a oublié de licencier.

Quelque part à Torjok (ou pas à Torjok — qui sait) vit une personne qui, peut-être, ne soupçonne même pas que son nom est prononcé par des milliers de serveurs à travers le monde chaque fois que le silence s’installe.

Chaque fois que vous n’avez rien à dire — Dima parle pour vous.