Indie-peliyhtiö Finji on joutunut erikoiseen kiistaan TikTokin kanssa. Sosiaalisen median alusta loi ja julkaisi tekoälyllä muokattuja mainoksia yhtiön peleistä ilman minkäänlaista lupaa. Night in the Woodsin ja Tunicin julkaisijana tunnettu Finji käytti TikTokia peliensä markkinointiin ja oli oman ilmoituksensa mukaan kytkenyt kaikki alustan tekoälyominaisuudet pois päältä. Tekoäly löysi silti tiensä yhtiön mainoksiin.
Ongelma paljastui, kun katsojat alkoivat kommentoida Finjin virallisiin mainoksiin nähneensä yhtiön nimissä julkaistuja mainoksia, jotka poikkesivat selvästi sen tyylistä. Finjin toimitusjohtaja ja perustaja Rebekah Saltsman pyysi helmikuun alussa Bluesky-palvelussa käyttäjiä lähettämään kuvakaappauksia epäilyttävistä mainoksista. Ja niitä alkoi tulla.
Kuvakaappauksista selvisi, että TikTok oli luonut Finjin mainoksista tekoälyllä muokattuja versioita, jotka näkyivät käyttäjille ikään kuin ne olisivat tulleet suoraan yhtiön viralliselta tililtä. Useimmat muokatut kuvat olivat suhteellisen muuttumattomia, mutta yksi erottui joukosta merkittävästi. Siinä tulevan Usual June -pelin päähenkilö June oli kuvattu bikiniasussa, liioitellun suurilla lanteilla ja reisillä sekä polven yli ulottuvilla saappailla. June on mustaihoinen naishahmo, ja muokattu kuva toisti haitallisia rasistisia stereotypioita. Hahmon todellinen ulkonäkö pelissä on täysin erilainen.
Finji ilmoitti, ettei se pystynyt edes näkemään tai muokkaamaan tekoälyn luomia versioita omista mainoksistaan. Tieto näistä mainoksista tuli yhtiölle ainoastaan käyttäjien kommenttien ja kuvakaappausten kautta.
Yhtiö otti yhteyttä TikTokin asiakastukeen 3. helmikuuta. Tukihenkilö vahvisti, että Finjin tilillä oli sekä Smart Creative- että Automate Creative -tekoälyominaisuudet kytkettyinä pois päältä. Smart Creative luo automaattisesti eri versioita mainoksista yhdistelemällä kuvia ja tekstejä, Automate Creative puolestaan optimoi mainosmateriaaleja tekoälyn avulla. Kumpikaan ei siis ollut käytössä. Tukihenkilö ei löytänyt välitöntä selitystä tapahtuneelle ja lupasi avata palvelupyynnön.
Kolme päivää myöhemmin TikTok vastasi väittäen, ettei mainoksissa näkynyt merkkejä tekoälyn tuottamasta sisällöstä ja että mainokset vaikuttivat muuttumattomilta. Finji lähetti kuvakaappauksen bikiniasuisesta hahmosta uudelleen. Tämän jälkeen TikTok myönsi, ettei se enää kiistänyt tapahtunutta, ja lupasi eskaloida asian ylimmälle mahdolliselle tasolle sekä yhdistää Finjin ylempään edustajaan.
Lupaus jäi lunastamatta. Neljä päivää myöhemmin Finji sai TikTokilta viestin, joka käsitteli katalogimainosmuotoa ja sen hyötyjä. TikTokin mukaan kyseistä mainosmuotoa käyttävät kampanjat saavuttavat tyypillisesti 1,4-kertaisen mainostuoton. Yhtiö tarjosi mahdollisuutta pyytää lisäämistä opt-out-listalle, mutta totesi samalla, ettei hyväksyntää voida taata. Eli Finji voisi anoa lupaa olla osallistumatta ominaisuuteen, johon se ei koskaan osallistunut. Finjin huolesta hahmon rasistisesta ja seksistisestä kuvauksesta viesti ei maininnut sanallakaan.
Finji vaati saada yhteyttä ylempään edustajaan. TikTok vastasi, että nykyinen yhteyshenkilö edusti jo korkeinta saatavilla olevaa tiimiä ja että eskalointitiimi oli antanut lopulliset päätelmänsä. Siitä huolimatta TikTok lupasi vielä eskaloida asian uudelleen sisäisesti.
Se jäi viimeiseksi viestiksi. Finji ei ollut saanut vastausta 17. helmikuuta lähettämäänsä tiedusteluun mennessä. TikTok kieltäytyi kommentoimasta asiaa julkisesti.
Saltsman kritisoi TikTokin toimintaa voimakkaasti. Hän totesi odottaneensa kunnollista anteeksipyyntöä, järjestelmätason muutoksia tekoälyn käyttöön maksavien asiakkaiden kohdalla sekä selvitystä siitä, miksi yhtiön tekoäly tuottaa rasistista ja seksistisestä sisältöä. Saltsman kertoi rakentaneensa yhtiönsä mainetta yli vuosikymmenen ja pitävänsä tapahtunutta loukkauksena työtään ja tiimiään kohtaan.