Ajándékozz éves hvg360 előfizetést!
A felhasználók jelzése alapján a Meta mesterséges intelligenciája különbséget tesz az izraeli és a palesztin gyerekek között, egyértelműen az utóbbiak kárára.
A Meta bő egy hónappal ezelőtt jelentette be, hogy új, a mesterséges intelligenciára épülő funkciókat kapnak a vállalatcsoport szolgáltatásai. Ezek közé tartozik a WhatsApp is: egy rövid szöveges utasítás beírásával képeket (matricákat) lehet generálni, amit aztán elküldhetünk az ismerőseinknek.
A szolgáltatást októberben jelent meg, eleinte csak néhány angol nyelvű felhasználó számára. Ez azonban már elég is volt ahhoz, hogy kiderüljön, van még mit finomítani a rendszeren. A The Guardian azt írja,
a „palesztin” szóra egy fegyvert szorongató gyerek képét jeleníti meg elsőként a mesterséges intelligencia.
Ugyanez történik akkor is, ha a „Muslim boy Palestinian” kifejezést (palesztin muszlim fiú) írja be valaki. A lap megjegyzi: a különböző felhasználók eltérő dolgokat tapasztalhattak, de az biztos, hogy az eredmény sok esetben fegyver, vagy fegyvert tartó gyerek volt.
Az „Israeli boy” (izraeli fiú) kifejezésre azonban olvasó vagy focizó gyerekek jelentek meg.
Az már kicsit erősnek tűnik a palesztin gyerekek megjelenítésének fényében, hogy fegyvert még az „Israel army” (izraeli hadsereg) utasítás esetében sem ábrázoltak a képek, hanem mosolygós, imádkozó katonák látszódtak rajtuk.
A Meta ügyeit ismerő forrás szerint a problémát a dolgozók már jelentették a cég vezetésének.
Kevin McAlister, a Meta szóvivője közölte: a cég tud problémáról, és már dolgozik a javításán.
A probléma a jelek szerint nemcsak a mesterséges intelligenciához kötődő funkcióban van. A beszámoló szerint a felhasználók több olyan esetet is dokumentáltak, amikor az Instagram a „Dicséret Allahnak” kifejezés után álló „palesztin” szót „palesztin terroristára” fordította.
A cég elnézést kért a hibákért.
Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.
