Egy tavaly elhunyt 10 éves lány édesanyja beperelte a TikTokot és annak anyavállalatát, a ByteDance-t, mivel azt állítja, hogy a vállalat algoritmusa egy „filmszakadásnak” nevezett kihívást támogatott a gyermek feedjében – írja a Gizmodo.

Csütörtökön benyújtott panaszában a pennsylvaniai Tawainna Anderson leírta, hogy lánya, Nylah tavaly meghalt, miután megfulladt, amikor megpróbálta végrehajtani az úgynevezett „filmszakadás kihívást”, amely arra ösztönzi az embereket, hogy rögzítsék, ahogy visszatartják a lélegzetüket vagy fuldokolnak, amíg el nem ájulnak. Az anya azt mondta, hogy december 7-én egy helyi kórházba vitte a kislányt, aki december 12-én belehalt sérüléseibe. A bíróságnak beadott dokumentumokban az az állítás szerepel, hogy a kihívást az algoritmus ajánlotta a kislánynak, amely „úgy vélte, hogy a halálos „filmszakadás” jó választás és valószínűleg érdekli majd a 10 éves Nylah Andersont”.

A „filmszakadás” állítólag évek óta fut a platformon, de hasonló kihívások már évtizedek óta részei az iskolai játszótéri környezetnek. Mégis, Nylah halála csak egy az elmúlt években bekövetkezett hasonló és nagy nyilvánosságot kapott TikTok-fojtogatási incidensek közül. Egy másik 10 éves olaszországi kislány tavaly januárban halt meg, 2021 áprilisában pedig egy 12 éves coloradói fiú vesztette életét, miután megkísérelték végrehajtani a kihívást.

A TikTok szóvivője egy e-mailben küldött nyilatkozatában elmondta: „Ez a felkavaró „kihívás”, amelyről az emberek a jelek szerint a TikToktól eltérő forrásokból értesültek, sokkal régebbi a mi felületünknél, és soha nem volt TikTok-trend. Továbbra is éberen őrködünk a felhasználók biztonsága fölött és azonnal eltávolítunk minden ehhez kapcsolódó tartalmat, amit csak találunk. Őszinte részvétünket fejezzük ki a családnak a tragikus veszteség miatt”. A platformnak szigorú szabályai vannak az önkárosítást szorgalmazó tartalmakkal szemben. Az alkalmazásnak van egy 13 év alatti felhasználóknak szóló, kurátori verziója, amely korlátozza a felhasználók által megosztható személyes adatokat, ahogyan a felhasználók kommentelési vagy tartalomposztolási lehetőségeit is, de nem világos, hogy az automatikus rendszerek hogyan korlátozhatják a tartalmak megjelenését a felhasználók feedjeiben.

A platform az Apple és a Google alkalmazásboltjaiban egyaránt 12+ besorolású, de a legtöbb alkalmazáshoz hasonlóan a fiók létrehozásához csak ki kell jelenteni, hogy a felhasználó fölötte van a kérdéses korhatárnak. A vállalat állítása szerint tavaly több mint 15 millió kiskorú fiókot távolított el.

Egy csütörtöki sajtótájékoztatón Anderson egyik ügyvédje, Bob Mangeluzzi azt mondta: „A TikTok a világ egyik legerősebb és technológiailag legfejlettebb vállalata, mit tett tehát a TikTok, miután tudomást szerzett erről? Arra használta az alkalmazását és az algoritmusát, hogy továbbítson egy „filmszakadás” videót egy 10 évesnek”. A keresetben szerepel, hogy az alkalmazás algoritmusát szándékosan úgy tervezték meg, hogy „maximalizálja a felhasználói elkötelezettséget és függőséget”, ami a gyerekeket ismételt részvételre ösztönzi. A per a TikTok-ot, mint az algoritmus tervezőjét célozza meg, mint olyan terjesztőt, aki a tartalmat Nylah számára továbbította. „Itt az ideje, hogy véget vessünk ezeknek a veszélyes kihívásoknak” – mondta Anderson a sajtótájékoztatón.