Egy egyszerű e-kereskedelmi sablon és nagy nyelvi modellekre (LLM) épülő eszközök segítségével a Sophos képes volt egy teljesen működőképes webhelyet felépíteni MI által generált képekkel, hanganyagokkal és termékleírásokkal, valamint egy hamis Facebook-bejelentkezési szekcióval és hamis fizetési oldallal. Egy ilyennel el lehetne lopni a felhasználók bejelentkezési adatait és hitelkártyaadatait. A weboldal létrehozásához és működtetéséhez minimális technikai tudásra volt szükség, ráadásul ugyanazzal az eszközzel a Sophos több száz hasonló webhelyet tudott létrehozni percek alatt egyetlen gombnyomással.

„Természetes és várható, hogy a bűnözők az automatizálás új technológiájához fordulnak. Annak idejében a spamek létrehozása kritikus lépés volt a csalástechnológiában, mert megváltoztatta a játékteret. Az új MI-k kapcsán ugyanez várható; ha létezik olyan technológia, amely teljes körű, automatizált fenyegetéseket tud létrehozni, az emberek végül használni fogják. Már láthattuk a generatív MI-elemek integrálását a klasszikus csalásokba, mint például az MI által generált szövegeket vagy fényképeket, amelyek az áldozatok csapdába csalásához készültek” – mondta Ben Gelman, a Sophos senior adattudósa.

A támadók MI iránti hozzáállásának kutatása során a Sophos több jelentős darkwebes fórumot vizsgált meg az LLM-mel kapcsolatos értekezések terén. Míg úgy tűnik, hogy a kiberbűnözők MI-használata a kezdeti szakaszban jár, azért a darkweben már aktív diskurzusokat folytatnak a benne rejlő lehetőségekről.

„Noha a ChatGPT megjelenése óta jelentős aggodalomra ad okot az MI-vel és az LLM-ekkel való visszaélés a kiberbűnözők által, kutatásunk azt találta, hogy a fenyegetések mögött állók eddig inkább szkeptikusak, mint lelkesek. Az általunk vizsgált darkwebes fórumok közül négyből kettőn csak 100 MI-vel kapcsolatos bejegyzést találtunk. Összehasonlításként: a kriptovalutával kapcsolatban 1000 posztot találtunk ugyanebben az időszakban” – idézi a Sophos közleménye Christopher Buddot, a vállalat X-Ops kutatási igazgatóját.

A vizsgálódás során találtak olyan kiberbűnözőket, akik kártékony programokat vagy támadóeszközöket próbáltak létrehozni mesterséges intelligencia segítségével, de az eredmények kezdetlegesek voltak és gyakran ütköztek szkepticizmusba a többi felhasználó részéről. Egy esetben az egyik bűnöző, aki buzgón be akarta mutatni a ChatGPT-ben rejlő lehetőségeket, akaratlanul is jelentős információkat árult el valódi személyazonosságáról.

”Számos eszmefuttatást is találtunk az MI társadalomra gyakorolt potenciális negatív hatásairól és használatának etikai vonatkozásáról. Egyelőre úgy tűnik, a kiberbűnözők ugyanazokat a vitákat folytatják a mesterséges intelligenciáról mint mi, többiek” – hangsúlyozta Budd.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.