Nem egy példát láthattunk már a mesterséges intelligencia furcsa működésére, az azonban, ami az Amazon rendszerével történt, mind közül az egyik legijesztőbb. A Reuters jelentése szerint Jeff Bezos vállalata évekig dolgozott egy projekten, amellyel a munkaerő-toborzás folyamatát szerették volna automatizálni.

Hogy a rendszer szelektálni tudjon, minden olyan életrajzot megadtak neki, amelyeket a vállalatnak küldtek be a különféle pozíciókra jelentkezők. Az Amazon híres arról, hogy többségében férfiak dolgoznak náluk, így a beérkezett dokumentumok is javarészt férfi pályázóktól származtak. És ekkor ütött be a baj: a rendszer megtanította saját magát, hogy minden olyan szót hagyjon figyelmen kívül az értékelésben, ami a beküldött pályázatok alapján női jelentkezőkhöz köthető. Ellenben a férfi munkakeresőktől származó kifejezéseket automatikusan magasabb kvalitásúnak ítélte.

A toborzó program fejlesztését végző csapat állítólag mindent megpróbált, hogy befolyásolni tudja az addigra már erősen szexistává vált rendszert, de semmit nem tudtak kezdeni vele, így 2017 elején inkább leállították az egészet.

Úgy tudni, hogy az Amazon humánerőforrás-részlege valóban alkalmazta a programot, hogy kiszűrjék a jelentkezőket, de teljes egészében soha nem támaszkodtak rá. A vállalat nem kommentálta a cikket.

Ha máskor is tudni szeretne hasonló dolgokról, kövesse a HVG Tech rovatának Facebook-oldalát.