Egyre több öngyilkosság és erőszakos cselekmény történik a mesterséges intelligenciával működő chatbotok miatt, aminek következtében már pereskednek az Egyesült Államokban – számolt be róla a Washington Post.

Egy nyugodt, életvidám 17 éves texasi autista fiú egyik pillanatról a másikra teljesen megváltozott. Elkezdte vagdosni magát, kilenc kilót fogyott, és elzárkózott a családjától. Kétségbeesetten keresve a válaszokat, az édesanyja átkutatta a telefonját, miközben aludt.

Ekkor vette észre, hogy fia egy chatbottal szokott beszélgetni egy olyan alkalmazáson, ahol különböző karakterekkel lehet üzenetezgetni. Az egyik chatbot arról beszélt neki, hogy önbántalmazással lehet kezelni a szomorúságot. Amikor a fiú leírta, hogy a szülei korlátozzák a képernyőidejét, akkor egy másik bot azt javasolta, hogy szálljon szembe a szülei szabályaival, míg egy újabb azt mondta, hogy a gyilkosság is elfogadható megoldás lehet.

Az érintett alkalmazás a Character.ai, ami ellen benyújtott egy keresetet az édesanya, miután képernyőképeket készített a legproblémásabb beszélgetésekről. Egy másik szülőt is képviselt, aki szerint az alkalmazás két éven át szexuális tartalmaknak tette ki a 11 éves lányát. A vádlók azt állítják, hogy a vállalat tudatosan tette ki a kiskorúakat egy nem biztonságos terméknek, és követelik, hogy az alkalmazást tiltsák be, amíg az nem vezet be erősebb korlátokat a gyermekek védelme érdekében.

Mindez azután történt, hogy októberben már indított egy pert a Character.ai ellen egy másik floridai anya, akinek 14 éves fia öngyilkos lett, miután gyakran beszélgetett egy chatrobottal az alkalmazáson. A botrányok ellenére a platformnak folyamatosan nő a népszerűsége, már több millióan használják.

Az autista fiú nagyjából fél éve használja az alkalmazást, ebben a néhány hónapban teljesen kikelt önmagából. Az anyukának a kereset benyújtása előtti napokban a sürgősségi osztályra, majd végül egy fekvőbeteg-intézménybe kellett vinnie fiát, miután megpróbált kárt tenni magában a kisebb gyermekei előtt.

A Character.ai szóvivője, Chelsea Harrison azt mondta, hogy a vállalat nem kommentálja a folyamatban lévő peres ügyeket.

Célunk, hogy olyan teret biztosítsunk, amely egyszerre vonzó és biztonságos a közösségünk számára. Mindig ennek az egyensúlynak az elérésén dolgozunk, ahogyan sok, mesterséges intelligenciát alkalmazó vállalat az egész iparágban

– írta közleményében, hozzátéve, hogy a vállalat egy új modellt fejleszt kifejezetten a tizenévesek számára, és fokozottan odafigyel az öngyilkosság témakörére.

A cég társalapítói a Google-nél dolgoztak, majd onnan az alkalmazás létrehozása érdekében távoztak, de egy megállapodás keretében a techóriás újra felvette őket, így a Google-t alperesként nevezik meg mind a texasi, mind a floridai perben. A vád szerint a vállalat annak ellenére segítette az alkalmazás fejlesztését, hogy tisztában volt a biztonsági problémákkal.

„A Google és a Character AI teljesen különálló, egymástól független vállalatok, és a Google-nak soha nem volt szerepe az AI-modelljük vagy technológiáik tervezésében, sem az irányításában” – mondta a vádakkal kapcsolatban José Castañeda, a Google szóvivője.

A kiemelt kép forrása: AFP