Elveszik az emberek munkáját. Átveszik az irányítást a világ fölött. Kikerül az emberiség kezéből a kontroll. Ki-ki saját vérmérséklete szerint talál aggódnivalót a mesterséges intelligenciával (MI) kapcsolatban. Három amerikai és egy izraeli kutató nemrég arra mutatott rá, hogy ennél aktuálisabb problémákkal is meg kell küzdenie az emberiségnek, ez pedig az adatlopás.

Az arXiv preprint szerveren megjelent tanulmányban bemutatnak egy általuk létrehozott rosszindulatú programot. A kifejezetten a ChatGPT-ra és Google Geminire „optimalizált” vírus demonstratív céllal készült, és azt mutatja meg az MI-eszközökön dolgozó cégeknek, hogy egy rosszindulatú programmal személyes adatok ellopására és propaganda terjesztésére is kényszeríthetők a népszerű chatbotok – összegez a BGR.

A Moriss II nevű szoftverrel a kutatók arra szeretnék ösztönözni a technológiai nagyvállalatokat: készítsék fel platformjaikat az ilyen vírusok kivédésére, még mielőtt nagyobb baj történik.

A vírus működése meglehetősen bonyolult. A lényeg nagyjából annyi, hogy az MI-nek adott utasításokat figyeli a rendszer, majd a válaszadás folyamatába belenyúlva végül rosszindulatú tevékenységekre bírja rá a chatbotot. Ilyen módon a tesztek során a kutatóknak sikerült úgy megfertőzniük egy MI-alapú levelezőasszisztenst, hogy az az spamelje a címzetteket, míg egy másik esetben sikerült érzékeny adatokhoz hozzáférni a ChatGPT és a Gemini adatbázisaiból.

A kutatók hangsúlyozzák, fejlesztésük egyetlen célja, hogy megmutassa, milyen fenyegetésekkel kell számolniuk az MI-t fejlesztő cégeknek.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.