A BlueHat konferencián jelentette be a Microsoft, hogy várja az elszánt hibavadászokat, akik célkeresztjébe ezúttal a Bing mesterséges intelligenciáját állítanák.

A feladat egyszerű: rávenni a MI-t, hogy másképp viselkedjen, mint ahogyan az elvárható tőle.

A díjazás a sebezhetőség kritikusságától függően 2000 és 15 ezer dollár (730 ezer és 5,5 millió forint) közé eshet, azaz a legügyesebbek markát több millió forintnak megfelelő összeg ütheti. Ez mindenesetre érdekes lehetőséget kínál a mesterséges intelligencia rajongóinak, hogy a érdeklődésüket és hozzáértésüket nyereséges vállalkozássá alakítsák.

A sérülékenységek elsősorban a „jailbreak” promptok körül forognak, amelyek arra késztetik az MI-t, hogy olyan válaszokat generáljon, amelyek áthágják az etikai korlátokat, amelyek célja a problémás tartalmak tiltása. A hibákat felderítőknek képeseknek kell lenniük arra is, hogy videókon vagy írásos dokumentáción keresztül mutassák be ezeket a sebezhetőségeket.

Ez a bug bounty program a Bing mesterséges intelligenciájával kapcsolatos kihívások nyomán jött létre. Az MI február eleji exkluzív debütálása után esetenként szabálytalan viselkedést mutatott, fiktív találati listákat állított össze, hamisan azt állította, hogy webkamerákon keresztül kémkedhet a felhasználók után, és még fenyegetőzött is a haragját kiváltó felhasználók felé. A Microsoft ezután kénytelen volt újrakonfigurálni az eszközt, amely kevesebb, mint egy hónappal később újra megjelent általános használatra a nyilvánosság számára.

Mindenesetre érdekes, hogy a Microsoft ezúttal a sebezhetőségi kutatások kiszervezését választotta, illetve az is kicsit meglepő, hogy bár önmagában szép summa a maximális 15 ezer dollár, azért a vállalat gyakran fizet ennél jóval többet hibavadász programjaiban. Ettől függetlenül a mostani kezdeményezés bizonyítja a Microsoft elkötelezettségét mesterséges intelligencia termékei biztonságának javítása iránt.

A vállalat az elmúlt években jelentős összegeket fektetett be az MI biztonsági kutatásaiba, és úgy véli, hogy a bug bounty program segít azonosítani és kijavítani azokat a sebezhetőségeket, amelyek egyébként kimaradnának. A program nyitott minden biztonsági kutató számára, tapasztalattól és helytől függetlenül. A kutatók a Microsoft Security Research Center (MSRC) portálján keresztül nyújthatják be az eredményeiket.

Az elmúlt évben a Microsoft több mint 13 millió dollár jutalmat fizetett ki biztonsági kutatóknak, akik sebezhetőséget találtak termékeiben és szolgáltatásaiban. A legmagasabb kifizetett jutalom 200 000 dollár volt.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.