Tech hvg.hu 2019. szeptember. 12. 14:03

Rasszistává vált a Microsoft chatbotja, de nem ezért akarta Taylor Swift beperelni a vállalatot

A világ egyik legnagyobb vállalatát perelte volna be Taylor Swift énekesnő egy – kissé elszabadult – chatbot neve miatt. A perből végül semmi sem lett, a perrel megfenyegetett Microsoft ugyanis kivonta a robotot a piacról – igaz, nem az énekesnő miatt.

Még 2016-ban történt a Taylor Swift és a Microsoft közötti furcsa eset, amelyről a nagyvállalat elnöke, Brad Smith ír most megjelent Tools and Weapons című önéletrajzi regényében – írja a The Guardian. A népszerű énekesnő egy chatbot neve miatt akarta beperelni a redmondiakat.

De miről is volt szó? A Microsoft egy mesterséges intelligencia alapú chatbotot készített a kínai piac számára, majd 2016 tavaszán bejelentette, hogy Xiaolce, azaz a chatbot az Egyesült Államokba is megérkezik, és ott a Tay névre fog hallgatni. A chatbotot úgy tervezték, hogy tanuljon az online beszélgetésekből, és folyamatosan javítsa magát annak segítségével, amit a felhasználók mondanak neki. Hát ez a tanulás, néhány kisebb csoportnak köszönhetően, olyan „jól” sikerült, hogy Tay (a Tay Tweets fiók alatt) elkezdte ismételgetni az ötleteiket más beszélgetőpartnereknek, szinte pillanatok alatt rasszistává vált. Döbbenetes dolgokat kezdett mondani, például tagadta a holokausztot, állította, támogatja a népirtást vagy például Bush elnök nyakába varrta a szeptember 11-i terrorcselekményt.

Tay itt még csak ártalmatlan beszélgetést folytat
YouTube/Cnet

Azonban nem ez verte ki a biztosítékot Taylor Swift énekesnőnél, a probléma már korábban felmerült, és ez a chatbot neve (Tay) volt, ami szerinte nagyon hasonlít az övéhez. Brad Smith leírja, hogy éppen szabadságon volt, amikor elkövette azt a hibát, hogy megnézte a telefonját és a mailjeit. Az egyik levél egy Beverly Hills-i ügyvédtől érkezett, aki Taylor Swift jogi képviselőjeként mutatkozott be. „A Tay név, amint azt bizonyára ön is tudja, összekapcsolódik az ügyfelemmel” – írta az ügyvéd. Bár Smithnek erről (legalábbis addig) fogalma sem volt, azért az e-mail felkeltette a figyelmét, már csak azért is, mert az ügyvéd a szövetségi és állami törvények megsértésére hivatkozott, miután a chatbot neve nem kívánatos asszociációkat hoz létre az énekesnő nevével.

Az ügyből végül nem lett per, ugyanis a Microsoft leállította az elszabadult chatbotot, és kivonta a piacról, persze nem a Taylor Swiftére hasonlító név, hanem a vállalhatatlan chatek miatt. Smith azt is leírja a könyvében, hogy ez az epizód is megerősítette abban őket, hogy jobban kell figyelni a mesterséges intelligenciára, biztosítékokat kell bele építeni.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.

Kult Balla István, Németh Róbert 2024. november. 30. 20:00

„Ez az első olyan lemezanyag, aminek az írása közben józan voltam” – Analog Balaton-interjú

„A leszaromság is abból jöhet, hogy csináljuk, amit szeretünk, és nem kell magunkat megerőltetni” – írja le a nemrég Repedés című albummal jelentkező Analog Balaton a hozzáállásukat a világhoz. Szomorú-e a mai popzene? Milyen volt a tagok – Zsuffa Aba és Vörös Ákos – híres Kinizsi utcai albérlete? Miben más józanul dalokat írni, mint a korábbi gyakorlat? Interjú.