Tech HVG 2024. augusztus. 24. 08:03

Gombamérgezést szenvedett egy család, miután egy mesterséges intelligenciával generált könyvet használtak útmutatóként

Újfajta veszély leselkedik az emberekre, ha gyanútlanul vesznek szakkönyveket az interneten. Ez pláne akkor aggasztó, ha arról ad leírást a kötet, hogy mi fogyasztható, és mi mérgező.

Kezd potenciálisan halálos veszéllyé válni, hogy az internetet gombamód ellepik a mesterséges intelligenciával generált könyvek. A gond pedig konkrétan érinti a gombákat is, melyekről közismert, hogy az egyes fajtáikat nehéz megkülönböztetni, pedig egy kis eltérés is lehet végzetes.

Pedig a jelek szerint gombaútmutató könyveket is generálnak már a mesterséges intelligenciával, majd ezeket a neten árulják. Miközben simán lehet, hogy az MI biztonságosnak mond egy mérgező gombát.

Egy esetben pedig úgy tűnik, már baj is származott ebből: a The Deep View hírlevél szerkesztői felfigyeltek egy Reddit-bejegyzésre, melynek szerzője arról ír, hogy a családja gombamérgezést szenvedett, miután egy MI-generált gombaazonosító könyvet használt.

Megmagyarázhatatlan, kiszámíthatatlan, irányíthatatlan: egzisztenciális katasztrófát okozhat, és nem látni, hogyan lehetne kontrollálni az MI-t

A Louisville-i Egyetem mesterségesintelligencia-szakértője, Roman V. Yampolskiy szerint az eddigi tudományos publikációk nem igazolják azt a feltevést, hogy a mesterséges intelligencia kontrollálható marad.

A brit család „egy nagy online kereskedőtől” szerezte be a könyvet, melynek leírása azt ígérte, hogy a segítségével a kezdők is biztonsággal vághatnak bele a gombászásba. Miután betegek lettek, alaposabban megvizsgálták a könyvet, és egy sor bizonyítékot találtak arra vonatkozóan, hogy annak szerzője bizonyára nem más, mint az MI.

Az egyik ilyen, hogy egy ajánlás után a könyv szövegében benne maradt az a szövegrészlet, hogy „Jelezd, ha van még valami, amiben tudok segíteni” – egy könyv ritkán folytat párbeszédet az olvasóval, mint az ismert.

Szintén árulkodó jel volt, hogy a szakértőként feltüntetett szerző nevére rákeresve nem találtak semmit az interneten. A nem nevesített online kereskedő időközben törölte az oldalt. Ami igazán problémás, az az, hogy előzetesen semmilyen jelzést nem adtak arra, hogy az adott kötetet az MI írta.

Szokott online vásárolni? Akkor nagyon figyeljen az értékelésekre

Egyre több terméknél jelenik meg az Amazonon olyan értékelés, amit a ChatGPT és a hozzá hasonló mesterséges intelligencia ír. Az ilyen szövegekkel könnyen át lehet verni és meg lehet károsítani a leendő vásárlókat.

Hogy mennyire volt súlyos a mérgezés, arról nem szól a hírlevél, ám idéznek egy 2023-as 404 Media-cikket, mely éppen erről szól: az Amazont ellepték az MI-generált gombaútmutatók. A megszólított szakemberek szerint ez akár halálos veszélyt is jelenthet az emberekre nézve.

Jelen állás szerint az egyetlen védekezési mód az az, ha csak megbízható forrásból szerez be ilyen szakkönyveket, és ellenőrzi a szerzőjét is. Utóbbi segíthette volna a megmérgezett családot is, de mivel ez még egy viszonylag új probléma, talán nem is sejtették, hogy egy könyv ilyen veszélyeket rejthet.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.