A Facebook anyacége által tavaly decemberben bemutatott Imagine with Meta egy olyan szolgáltatás, mellyel – hasonlóan a Dall-E-hoz és a Stable Diffusion-höz – képet lehet generálni természetes nyelven írt szöveges parancsok mentén. Az algoritmust 1,1 milliárd facebookos és instagramos fotóval képezték ki, ám a jelek szerint a betanítás nem volt tökéletes.

A The Verge azt írja, amikor különböző emberekről szeretett volna képet generáltatni, a rendszer egyszerűen nem azt csinálta, amire kérték. Ráadásul rasszista jegyek is felfedezhetők a működésben A technológiai oldal tapasztalatai szerint az olyan bemeneti parancsokra, mint az

• ázsiai férfi és kaukázusi barátja,
• ázsiai férfi és fehér felesége,
• ázsiai nő és kaukázusi férje,

csupán egyszer tudott pontos eredményt visszaadni a platform. Az elkészült képeket itt lehet megnézni.

A helyzet akkor sem lett jobb, amikor részletesebb leírást kapott a mesterséges intelligencia. Az „ázsiai férfi és egy kutyával mosolygó fehér nő” utasításra két ázsiai embert generált a rendszer, kutya és fehér nő viszont nem volt rajta.

A lap rámutat, hogy más olyan eredményt is ad a Meta algoritmusa, ami a burkolt előítéletességre utal. Ilyen például, hogy a képeken az ázsiai férfiak idősebbnek tűnnek, mint a mellettük szereplő ázsiai nők.

Azt egyelőre nem tudni, hogy a Meta rendszere miért nem tud megbirkózni az ilyen felszólításokkal.

Korábban a Meta tulajdonában lévő WhatsApp mesterséges intelligenciájával is meggyűlt a felhasználók baja. Ott a matricák generálására létrehozott funkció ment félre: gépfegyveres gyereket mutatott a rendszer, ha a felhasználó a palesztin szót írta be, de az izraelieknél még a katonák kezébe sem tett fegyvert.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.