Hiába tarolta le a világot, és fejlődött rengeteget az elmúlt két évben, egy komoly problémáját még mindig nem tudta levetkőzni a ChatGPT: a hallucinációt. Bár ez a jelenség nem korlátozódik az OpenAI eszközére (gyakorlatilag bármelyik mesterséges intelligenciánál jelentkezhet), de elég komoly gond – ilyenkor ugyanis valótlanságokat tálal tényként az eszköz.

Most egy osztrák érdekvédelmi csoport, a Noyb nyújtott be panaszt az OpenAI ellen, mert egy esetben a ChatGPT állítólag – valótlanul – azt állította egy norvég férfiról, hogy gyilkos. Az érintett csak annyit szeretett volna megtudni, hogy milyen információkkal rendelkezik róla a ChatGPT – a válasz pedig elég durva volt. A chatbot ugyanis azt állította róla, hogy 21 év börtönre ítélték, amiért két gyermekét megölte, és a harmadik életét is ki akarta oltani. A valótlan választ még valódi információkkal is megfűszerezte a ChatGPT, például a gyermekei számát, nemét illetően, és azzal, hogy hol élnek – ismerteti az eseteg az Engadget.

A Noyb szerint a válasz megsértette az EU adatvédelmi rendeletét, a GDPR-t. „A GDPR egyértelműen fogalmaz. A személyes adatok pontosak kell legyenek. Ha nem azok, a felhasználónak joguk van ahhoz, hogy megváltoztassák azokat, hogy a valóságot tükrözzék” – húzza alá Joakim Söderberg, a szervezet adatvédelmi jogásza.

Úgy véli, a ChatGPT által a felhasználók elé tárt rövid kikötés, hogy a chatbot tévedhet, egyértelműen nem elég: nem lehet csak úgy valótlanságokat terjeszteni, majd a végén megjegyezni, hogy talán az egész nem igaz.

A Noyb nem először tesz panaszt a ChatGPT-vel szemben; 2024-ben egy közszereplő pontatlan születési dátuma miatt történt ilyen, ami a jelenleginél kisebb súlyú tévedés. Az OpenAI ugyanakkor visszautasította a kérelmet, hogy korrigálja vagy törölje a születési dátumot, mondván nem tudnak a rendszerben lévő információkat módosítani. Legfeljebb tiltást vezethetnek be bizonyos vonatkozó parancsoknál.

Az OpenAI egyelőre nem reagált a Noyb új panaszára.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.