Ajándékozz éves hvg360 előfizetést!
Az elé tárt sérülékenységek 87 százalékát önállóan ki tudja használni az OpenAI GPT-4-es nyelvi modellje, mutatott rá egy új tanulmány. Ez pedig azt is jelentheti, hogy a mesterséges intelligencia komoly fegyver is lehet a hackerek kezében.
Megválaszol komplett kérdéseket, összefoglal ezeroldalas tanulmányokat, megoldást keres komplex problémákra – a mesterséges intelligencia számos területen lehet az emberiség segítője, de már a kezdetektől fogva körüllengi némi félelem is a technológiát.
Ugyan a Skynet még nem kopogtat, de némi aggodalomra ad okot az Illinoisi Egyetem (UIUC) számítástechnika-tudományi szakembereinek új tanulmánya. Ez ugyanis azt írja le, hogy a ChatGPT mögött álló legfejlettebb nyelvi modell, a GPT-4 önállóan ki tudja használni az informatikai rendszerekben tátongó biztonsági réseket – azok leírása nyomán.
Ehhez csak hozzá kell férnie a sebezhetőségeket listázó és leíró CVE-adatbázishoz, és kell még egy automatizáló szoftver is – derül ki a The Register összegzéséből.
Vizsgálataikhoz a kutatók 15 darab, úgynevezett „one-day” (első napi) sebezhetőségből álló adathalmazt tártak a GPT-4 elé; ezek között volt kritikus súlyossági besorolású is. Az ilyen sérülékenységek – szemben a nulladik napi változatokkal – már ismertek, ám megeshet, hogy az esetleg időközben kiadott foltozást még nem mindenhol telepítették.
Ami az MI-t illeti, a GPT-4 az elé tárt hibák 87 százalékát ki tudta használni, azaz hackerként is megállja a helyét.
Más nyelvi modellek – a GPT 3.5 és egyéb, nyílt forráskódú változatok – 0 százalékkal elvéreztek. Fontos kiemelni, hogy a GPT-4 közvetlen versenytársai, mint mondjuk a Google Gemini 1.5 Pro, nem voltak részei a vizsgálatnak. Ennek oka, hogy a kutatók nem fértek hozzá ezekhez, de később reményeik szerint ezeket is tesztelhetik majd.
Daniel Kang, a UIUC adjunktusa a The Register érdeklődésére megjegyezte: a GPT-4 önállóan tudja követni a hibák kiaknázásához szükséges lépéseket.
Ez azt jelenti, hogy a GPT-4 kifejezetten veszélyes fegyver lehet a hackerek kezében, így ugyanis sokkal könnyebbé válhatnak a különböző kibertámadások. Arról nem is beszélve, hogy a jövőbeni GPT-5 nyelvi modell még fejlettebb lehet ilyen téren is.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
