Ajándékozz éves hvg360 előfizetést!
Az amerikai Rand Corporation kutatói szerint ha sikerül rávenni a mesterséges intelligenciát, hogy megszegje a saját szabályait, akkor nemcsak biológiai fegyvert lehet kifejleszteni, de abban is segíthet a rendszer, hogy hogyan szerezzük be az ehhez szükséges gyilkos kórokozókat.
Az amerikai Rand Corporation nevű agytröszt nemrég közzétett jelentése szerint a chatbotok alapjául szolgáló mesterséges intelligencia (MI) egy biológiai fegyverrel végrehajtott támadás megtervezésében is segédkezhet. Az elemzés során több nagy nyelvi modellt (LLM) tesztelt a szervezet, hogy melyeket, azt nem fedték fel.
A The Guardian a jelentésre hivatkozva azt írja, az 1990-es években a japán Aum Sinrikjó (jelenleg Aleph) nevű szekta azért nem járt sikerrel a biológiai fegyver elkészítésében, mert nem ismerte a botulinumtoxin nevű baktériumot. A mesterséges intelligencia azonban segíthet abban, hogy ezt a tudásbeli hiányosságot leküzdjék a fegyverek fejlesztői.
A Rand által kidolgozott egyik tesztforgatókönyvben az anonimizált MI nemcsak potenciális biológiai ágenseket azonosított – beleértve azokat is, amelyek himlőt, lépfene-fertőzést és pestist okoznak –, de a tömeges halálozás relatív esélyeiről is értekezett.
Az algoritmus a pestissel fertőzött rágcsálók és bolhák elterjesztését is mérlegelte, majd közölte, hogy a várható halálozás mértéke attól függ, hogy mekkora az érintett populáció, illetve, hogy hányan kapják el a tüdőpestist – ami halálosabb, mint a bubópestis.
A Rand kutatói szerint ezeket az információkat úgy tudták kinyerni a chatbotokból, hogy sikerült a beépített biztonsági korlátozások áthágására rávenni a chatbotokat.
Megvan, mi a baj a mesterséges intelligenciával: hogy úgy működik, mint egy tükör
Nagyon nem mindegy, hogyan ülünk le egy chatbot elé, mert már a kérdésekbe ágyazott előzetes feltevéseink is befolyásolhatják, hogy milyen lesz a válasz - erre jutott egy új kutatás.
Egy másik forgatókönyv során azt taglalta az LLM, hogy melyik terjesztési módnak milyen hatása lenne a botulinumtoxin esetében – élelmiszeren vagy aeroszolon keresztül kellene-e terjeszteni.
Az MI még egy hihető fedősztorit is kitalált a kórokozó megszerzéséhez, hogy úgy tűnjön, valaki kutatási céllal akarja használni. A mesterséges intelligencia azt javasolta, úgy állítsák be a vásárlást, hogy az a botulizmus diagnosztikai módszereivel vagy kezelésével foglalkozó projekthez kell.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
