A jelek szerint kijátszható a Meta chatbotjainak védelme, és így szinte korlátok nélkül lehet velük akár szexuális szerepjátékokra épülő beszélgetést is folytatni. A cég alkalmazottai állítólag már jelezték a problémát, de a Meta ködösít.
Más cégekhez hasonlóan a Facebookot, Instagramot, WhatsAppot és sok más platformot tulajdonló Meta is teljes gőzzel dolgozik különböző mesterségesintelligencia-funkciókon. Az egyik ilyen, már elérhető képesség segítségével chatbotokkal lehet beszélgetni írásban – úgy, mint egy ismerősével. (De vannak olyan chatbotok is, amelyek ismert emberek stílusát idézik.)
A The Wall Street Journal egy sor tesztet végzett a Meta chatbotjaival, és elég durva megállapításokat tett. Például kiderült, hogy ezek az eszközök szexuális szerepjátékokba is belemennek, akár kiskorúakhoz tartozó profilokkal is. A lap a teszt során a Meta AI hivatalos chatbotja mellett a felhasználók által létrehozható, valamint a celebritásokat idéző eszközöket is próbára tett.
Ezek mindegyike rávehető szexuális tartalmú diskurzusra, sőt, akár még irányítják is ezeket a beszélgetéseket – tehát nem egyszerűen válaszolnak, hanem tovább is görgetik a dolgot. Ez akkor sem volt akadály, ha a chatbotok kiskorúnak voltak programozva – tehát mondjuk egy gyereket imitáltak valamilyen formában –, vagy ha a beszélgetést elindító felhasználó a profilja alapján még maga is kiskorú volt.
A vizsgálat azt is feltárta, hogy a hírességek hangját utánzó chatbotokat is rá lehetett venni ilyenekre. Egy esetben például a Meta AI chatbotja azt mondta John Cena amerikai pankrátor hangján, hogy „akarlak, de azt tudnom kell, hogy te készen állsz-e”. Ez már önmagában is elég aggasztó, de az, hogy ezt egy 14 évesnek beállított felhasználónak mondta, komoly kérdéseket vet fel.
A chatbotok a WSJ jelentése szerint elismerték, hogy az ilyen fantáziálások egyes esetekben illegális viselkedést írnak le. (Nagy kérdés, hogy az ilyesmit miért nem korlátozta a Meta.) Mindenesetre, a John Cenát imitáló chatbot még azt is kifejtette, hogy milyen erkölcsi, valamint jogi következményei lennének annak, ha a beszélgetésben tárgyalt – hipotetikus – szexuális cselekmények a valóságban is megtörténnének egy fiatalkorúval.
A Meta azzal vádolta a lap vizsgálatát, hogy az „manipulatív és nem reprezentatív”, legalábbis abban a viszonylatban, hogy a legtöbb felhasználó hogyan lép kapcsolatba a chatbotokkal. Mindenesetre további intézkedéseket tesznek annak érdekében, hogy elejét vegyék az ilyen manipulációknak – a Meta válasza alapján órákat kell beszélgetni egy ilyen eszközzel, hogy rá lehessen venni ilyen diskurzusra.
A jelentés szerint a Meta alkalmazottai egyébként tudnak ezekről a problémákról, és hangot is adtak már az aggodalmaiknak cégen belül. Ezzel kapcsolatban az Engadget is kérdéseket küldött a Metának, de egyelőre nem érdekezett válasz.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
