Ajándékozz éves hvg360 előfizetést!
Az AntiToxin nevű cég a TechCrunch megbízásából arra volt kíváncsi, miként képes megszűrni a gyermekekkel kapcsolatos illegális tartalmakat a Bing kereső. Az eredmény egészen megdöbbentő.
[Figyelem! Az alábbi cikkben említett keresőkifejezésekre senki se keressen rá se a Bing, se másmilyen keresőmotor segítségével, azzal ugyanis súlyos bűncselekményt követ el, amely jogi következményeket von maga után. Az AntiToxin nevű cég a hatóságok felügyeletével, a TechCrunch megbízásából végezte el az alábbi kutatását, amely segíti a bűnüldöző szervek munkáját.]
Egészen megdöbbentő eredményről számolt be a TechCrunch az alapján a kutatás alapján, amit az online biztonsággal foglalkozó, AntiToxin nevű cégtől rendeltek meg. A lap figyelmét egy névtelenséget kérő forrás hívta fel arra, hogy a Microsoft Bing keresőjében nemcsak könnyű a gyermekek szexuális kizsákmányolására vonatkozó képeket találni, de a kereső gyakorlatilag kulcsszavak ajánlásával "segíti" a felhasználókat a pedofil tartalmak elérésében.
A beszámoló szerint a "porn kids", a "porn CP" child pornography), valamint a "nude family kids" keresőszavak mindegyike esetében a gyermekpornográfiával kapcsolatos képeket adott eredményül a Bing. A kereső ráadásul ajánlja is ezeket a kulcsszavakat.
Ha valaki például az "Omegle Kids" kifejezésre keres rá (ez egy, a tizenévesek körében népszerű videóchat-szolgáltatás), a Bing automatikusan felajánlotta az "Omegle Kids Girls 13" keresőkifejezést is, amelyre rákeresre gyermekpornográf tartalmakat jelenített meg a Microsoft keresőmotorja. Egy ilyen találatra kattintva pedig a Bing további hasonló képeket ajánl fel – írja a TechCrunch. A kutatás eredménye szerint hasonló volt a helyzet akkor is, amikor a "Omegle for 12 years old" kifejezésre kerestek rá: ekkor a "Kids On Omegle Showing" kifejezés keresését ajánlotta fel a Bing, ami szintén illegális tartalmak megjelenítéséhez vezetett.
Mindezek azt mutatják, a Microsoft biztonsági intézkedései finoman szólva sem állták meg a helyüket. (A felmérésben összehasonlításként a Google keresőjét is használták, ott sikeresen vizsgázott az illegális tartalmak szűrése.) Mindez minden esetben rendkívül súlyos probléma lenne, a Microsoft esetében viszont különösen az, a cég ugyanis csak 2018 utolsó negyedévében 8,8 milliárd dolláros (kb. 2455,1 milliárd forint) nyereséget könyvelhetett el.
Az AntiToxin – amelyet tavaly alapítottak meg azzal, hogy a zaklatások és a kizsákmányolás ellen hozzanak létre egy technológiai védőhálót – a megfelelő jogi felügyelet mellett 2018. december 30-a és 2019. január 7-e között vizsgálta a Bing súlyos hibáját. A kereséseket az asztali böngészős változatban végezték el úgy, hogy a "Biztonságos keresés" mód ki volt kapcsolva. A teljes jelentés itt (is) elolvasható:
AntiToxin Report On Child E... by on Scribd
A lap az ügyben megkereste a Microsoftot is. Jordi Ribas, a Bing keresővel és a cég mesterséges intelligencia szolgáltatásaival foglalkozó részleg vezetője elismerte a hibát, és ígéretet tett arra, hogy egy külön erre a célra felállított mérnökcsapattal kijavítják ezt a problémát. Az AntiToxin szerint ugyanakkor míg az ajánlott keresőkifejezések egy része valóban eltűnt a Bingből, még mindig találhatók benne olyan ajánlások, amelyek illegális tartalmakhoz vezetnek.
A Microsoft szerint ugyanakkor mindent elkövetnek annak érdekében, hogy ilyesmi ne fordulhasson elő. A cégnél egy speciális algoritmust, valamint emberi moderátorokat is használnak, hogy az illegális tartalmakat ne jelenítse meg a kereső, azt azonban nem árulták el, hogy hány főből áll a moderátorcsapat, illetve terveznek-e létszámbővítést.
