Dima Torzhok: spoks mašīnā

Iedomājieties: jūs sūtāt balss ziņu. Piecas sekundes klusuma beigās, jo aizmirsāt nospiest “stop”. AI cītīgi atšifrē jūsu vārdus, un tad beigās pievieno:

Subtitrus veidoja DimaTorzok

Jūs esat neizpratnē. Kas? Kāds vēl Dima? Kādi subtitri? Jūs taču tikai jautājāt draugam, kur tiekamies.

Laipni lūdzam vienā no kuriozākajām kļūdām mašīnmācīšanās vēsturē.

Kas ir DimaTorzok

DimaTorzok ir reāls cilvēks. YouTube kanāls @dimatorzok ar aprakstu “Rakstu subtitrus jūsu balss ziņām un tulkojumiem”. Cilvēks, kurš brīvprātīgi veidoja subtitrus citu cilvēku video. Bez maksas. No mīlestības pret mākslu. Un parakstīja savu darbu – pieticīga rindiņa beigās: Subtitrus veidoja DimaTorzok.

Normāla prakse. Tā dara tūkstošiem subtitru veidotāju visā pasaulē. Neviens no tā necieta.

Un tad nāca OpenAI.

Kas notika

Kad OpenAI apmācīja Whisper – savu runas atpazīšanas modeli – tie to pabaroja ar milzīgu datu kopu. 680 000 stundu audio no YouTube kopā ar subtitriem. Saprātīga ideja: ņemam video, ņemam esošos subtitrus, mācām modeli saprast runu.

Problēma ir vienā vārdā: sanitizācija.

Precīzāk – tās trūkumā. Neviens neattīrīja datus. Neviens neizņēma meta-tekstu. Subtitru autoru paraksti, tehniskie komentāri, reklāmas iestarpinājumi – viss tika iemests apmācības datu kopā tāds, kāds tas ir.

Un DimaTorzok paraksts – arī.

Spriežot pēc visa, Dima bija tik ražīgs, ka viņa autogrāfs apmācības datos parādījās pietiekami bieži, lai modelis to iegaumētu kā kaut ko svarīgu. Kaut ko tādu, kas noteikti ir jāatveido.

Spoks klusumā

Tagad Whisper halucinē. Kad audio rodas pauze – dažas sekundes klusuma, fona troksnis, gara nopūta – modelis panikā. Tam kaut kas jāsaka. Un tas saka to, ko ir iemācījies:

Subtitrus veidoja DimaTorzok

Dažreiz – “Subtitrus veidoja DimaTorzok @project_gestalt”. Dažreiz – vienkārši “DimaTorzok”. Dažreiz – vesela rindiņa ar aicinājumu abonēt kanālu.

Un tā nav reta kļūda. Tas notiek visur. Telegram botos balss ziņu atšifrēšanai. Twitter (X). Podcastu lietotnēs. Medicīnas transkripcijās (jā, iedomājieties). Visā, kas iekšēji izmanto Whisper – un tas, pēkšņi, ir ļoti, ļoti daudz kas.

Man personīgi šis spoks ir parādījies apmēram 25 reizes balss ziņu transkripcijās. Katru reizi – klusās vietās. Katru reizi – ar parakstu, it kā viņš tikko būtu pabeidzis darbu pie subtitriem manai personīgajai sarakstei.

GitHub: “Kas ir DimaTorzok?! Kāpēc?!”

GitHub ir diskusija #2372 ar virsrakstu, kas atspoguļo kopējo noskaņojumu: “Who is DimaTorzok? Why???”

Pavediens ir mākslas darbs. Cilvēki no visas pasaules dalās ar ekrānuzņēmumiem: te Dima, tur Dima, visur Dima. Kāds ir nikns. Kāds smejas. Kāds jau ir samierinājies.

Labākās citāti:

I hate this fucking Dima!

Cits lietotājs, filozofiskāks:

He didn’t hack anything. OpenAI ate his watermark and now it’s haunting everyone.

Cilvēks neko nav uzlauzis. OpenAI apēda viņa ūdenszīmi, un tagad tā vajā visus.

Ne viens vien

Izrādās, ka Dima nav vienīgais spoks mašīnā. Whisper turku versija dara to pašu, tikai ar citu parakstu: “Altyazı M.K.” (altyazı – “subtitri” turku valodā). Kaut kur Turcijā ir savs DimaTorzok, un viņš ir tikpat nevainīgs.

Problēma atkārtojas modelī large-v3 – visprogresīvākajā Whisper versijā. Gadi darba, miljoni dolāru apmācībai, gigavati elektrības – un katrā klusā pauzē skan subtitru veidotāja balss no Toržokas.

Kurš vainīgs

Dima nav vainīgs. Ne kripatiņas. Cilvēks darīja noderīgu darbu, parakstīja savu darbu – un viss. Viņš nelūdza, lai viņa parakstu pabaro neironu tīklam. Viņš nevarēja paredzēt, ka viņa vārds kļūs par visbiežāko halucināciju AI transkripciju vēsturē.

Vainīgi ir OpenAI inženieri, kuri neizdarīja visvienkāršāko lietu: neattīrīja datus pirms apmācības. Data cleaning. Pirmā nodaļa jebkurā mašīnmācīšanās mācību grāmatā. Vēl pirms neironu tīkliem, vēl pirms transformieriem, vēl pirms tas kļuva miljardu vērts – cilvēki zināja: garbage in, garbage out.

Bet, kad tev ir 680 000 stundu datu un termiņš deg – kurš gan tīrīs?

Nemirstīgais stažieris

Šajā stāstā ir kaut kas poētisks. Cilvēks veidoja subtitrus – klusu, nemanāmu, bieži nepateicīgu darbu. Darīja to bez maksas, cilvēkiem. Un nejauši kļuva nemirstīgs.

Viņa vārds tagad ir iešūts neironu tīklā, ko izmanto miljoniem. To nevar izdzēst, pilnībā nepārmācot modeli – un tas maksā kā labs savrupmāja. DimaTorzok ir kļuvis par infrastruktūras daļu. Spoks mašīnā. Nemirstīgais stažieris, kuru aizmirsa atlaist.

Kaut kur Toržokā (vai ne Toržokā – kas to lai zina) dzīvo cilvēks, kurš, iespējams, pat nenojauš, ka viņa vārds tiek izrunāts tūkstošiem serveru visā pasaulē katru reizi, kad iestājas klusums.

Katru reizi, kad jums nav ko teikt, – Dima runā jūsu vietā.