Dima Torzhok: koneen kummitus

Kuvittele: lähetät ääniviestin. Viisi sekuntia hiljaisuutta lopussa, koska unohdit painaa “lopeta”. AI tunnollisesti purkaa sanasi, ja lopuksi kirjoittaa:

Tekstityksen teki DimaTorzok

Olet ymmälläsi. Kuka? Mikä Dima? Mitkä tekstitykset? Kysyit vain kaverilta, missä tavataan.

Tervetuloa yhteen koneoppimisen historian kummallisimmista bugeista.

Kuka on DimaTorzok

DimaTorzok on todellinen henkilö. YouTube-kanava @dimatorzok kuvauksella “Kirjoitan tekstityksiä ääniviesteihisi ja käännöksiisi”. Henkilö, joka vapaaehtoisesti teki tekstityksiä muiden videoille. Ilmaiseksi. Rakkaudesta taiteeseen. Ja allekirjoitti työnsä – vaatimaton rivi lopussa: Tekstityksen teki DimaTorzok.

Normaali käytäntö. Tuhannet tekstittäjät ympäri maailmaa tekevät näin. Kukaan ei kärsinyt tästä.

Sitten tuli OpenAI.

Mitä tapahtui

Kun OpenAI koulutti Whisperiä – puheentunnistusmalliansa – ne syöttivät sille jättimäisen tietoaineiston. 680 000 tuntia ääntä YouTubesta tekstityksineen. Järkevä idea: otetaan videoita, otetaan olemassa olevat tekstitykset, opetetaan malli ymmärtämään puhetta.

Ongelma on yhdessä sanassa: puhdistus.

Tarkemmin sanottuna – sen puuttuminen. Kukaan ei siivonnut dataa. Kukaan ei poistanut metatekstiä. Tekstittäjien allekirjoitukset, tekniset kommentit, mainoskatkot – kaikki meni koulutusaineistoon sellaisenaan.

Ja DimaTorzokin allekirjoitus – myös.

Kaiken mukaan Dima oli niin tuottelias, että hänen nimikirjoituksensa esiintyi koulutusdatassa riittävän usein, jotta malli muisti sen tärkeänä asiana. Jonain, joka ehdottomasti pitää toistaa.

Aave hiljaisuudessa

Nyt Whisper hallusinoi. Kun äänessä on tauko – muutama sekunti hiljaisuutta, taustakohinaa, pitkä huokaus – malli panikoi. Sen täytyy sanoa jotain. Ja se sanoo sen, minkä oppi:

Tekstityksen teki DimaTorzok

Joskus – “Tekstityksen teki DimaTorzok @project_gestalt”. Joskus – pelkkä “DimaTorzok”. Joskus – kokonainen rivi kehotuksella tilata kanava.

Ja tämä ei ole harvinainen bugi. Sitä tapahtuu kaikkialla. Telegram-boteissa ääniviestien purkamiseen. Twitterissä (X). Podcast-sovelluksissa. Lääketieteellisissä transkriptioissa (kyllä, kuvittele). Kaikessa, mikä käyttää Whisperiä – ja sitä on yllättäen todella, todella paljon.

Minulle henkilökohtaisesti tämä aave on ilmestynyt noin 25 kertaa ääniviestitranskriptioissa. Joka kerta – hiljaisissa kohdissa. Joka kerta – allekirjoituksella, ikään kuin se olisi juuri lopettanut tekstitystyön henkilökohtaiselle kirjeenvaihdolleni.

GitHub: “Kuka on DimaTorzok?! Miksi?!”

GitHubissa on keskustelu #2372 otsikolla, joka välittää yleisen tunnelman: “Who is DimaTorzok? Why???”

Lanka on taideteos. Ihmiset ympäri maailmaa jakavat kuvakaappauksia: täällä Dima, tuolla Dima, kaikkialla Dima. Joku on raivoissaan. Joku nauraa. Joku on jo hyväksynyt asian.

Parhaat lainaukset:

I hate this fucking Dima!

Toinen käyttäjä, filosofisemmin:

He didn’t hack anything. OpenAI ate his watermark and now it’s haunting everyone.

Hän ei hakkeroinut mitään. OpenAI söi hänen vesileimansa, ja nyt se kummittelee kaikille.

Ei ainoa laatuaan

Kävi ilmi, ettei Dima ole koneen ainoa aave. Whisperin turkkilainen versio tekee samaa, mutta eri allekirjoituksella: “Altyazı M.K.” (altyazı – “tekstitys” turkiksi). Jossain Turkissa on oma DimaTorzokinsa, eikä hänkään ole syyllinen.

Ongelma toistuu mallissa large-v3 – Whisperin edistyneimmässä versiossa. Vuosien työ, miljoonia dollareita koulutukseen, gigawatteja sähköä – ja jokaisessa hiljaisessa tauossa kuuluu Torzhokin tekstittäjän ääni.

Kuka on syyllinen

Dima ei ole syyllinen. Ei lainkaan. Henkilö teki hyödyllistä työtä, allekirjoitti työnsä – ja siinä kaikki. Hän ei pyytänyt, että hänen allekirjoituksensa syötettäisiin neuroverkkoon. Hän ei voinut ennakoida, että hänen nimestään tulisi AI-transkriptioiden historian yleisin hallusinaatio.

Syyllisiä ovat OpenAI:n insinöörit, jotka eivät tehneet kaikkein perustavanlaatuisinta asiaa: eivät puhdistaneet dataa ennen koulutusta. Data cleaning. Minkä tahansa koneoppimisen oppikirjan ensimmäinen luku. Jo ennen neuroverkkoja, ennen transformereita, ennen kuin tämä maksoi miljardeja – ihmiset tiesivät: garbage in, garbage out.

Mutta kun sinulla on 680 000 tuntia dataa ja määräaika painaa päälle – kuka siivoaa?

Kuolematon harjoittelija

Tässä tarinassa on jotain runollista. Henkilö teki tekstityksiä – hiljaista, huomaamatonta, usein kiittämätöntä työtä. Teki ilmaiseksi, ihmisille. Ja tuli vahingossa kuolemattomaksi.

Hänen nimensä on nyt upotettu neuroverkkoon, jota miljoonat käyttävät. Sitä ei voi poistaa sieltä ilman mallin täydellistä uudelleenkoulutusta – ja se maksaa kuin hyvä omakotitalo. DimaTorzokista on tullut osa infrastruktuuria. Aave koneessa. Kuolematon harjoittelija, jonka unohdettiin erottaa.

Jossain Torzhokissa (tai ei Torzhokissa – kuka tietää) asuu henkilö, joka ei ehkä edes tiedä, että hänen nimensä lausutaan tuhansien palvelimien toimesta ympäri maailmaa joka kerta, kun hiljaisuus laskeutuu.

Joka kerta, kun sinulla ei ole mitään sanottavaa – Dima puhuu puolestasi.