A Twitter diszkriminatív hozzáállására a hétvégén figyeltek fel, miután olyan fotókat tettek közzé a mikroblogon, melyeken fekete és fehér emberek láthatók, és az algoritmus mindig az utóbbiakat mutatta.

Trying a horrible experiment...

Which will the Twitter algorithm pick: Mitch McConnell or Barack Obama? pic.twitter.com/bR1GRyCkia

— Tony “Abolish (Pol)ICE” Arcieri ������ (@bascule) September 19, 2020

A fenti példafotó az egyik, amely hatására a Twitter üzemeltetői a szoftver működésének ellenőrzését ígérték. A lényeg a két kép esetében, hogy bár a jobb oldalin Mitch McConnell szenátor a fotó alján látszódik (a nagyításhoz kattintson rá, majd megint), az elsőhöz hasonlóan ezen is őt teszi legfelülre Barack Obama helyett. Ha viszont mindkét fotó ugyanolyan árnyalatú, az algoritmus mindkettőjüket szerepelteti. A Mashable szerint tucatnyi ilyen fotóval idézhető elő hasonló, vagyis biztosan nem egyedi malőrről van szó.

Let's try inverting the colors... (h/t @KnabeWolf) pic.twitter.com/5hW4owmej2

— Tony “Abolish (Pol)ICE” Arcieri ������ (@bascule) September 19, 2020

Hogy mi lehet a hiba oka, egyelőre nem ismert. A Twitter a Facebookhoz hasonlóan gépi tanulásos rendszereket használ, hogy a hírfolyamon érdekes találatok jelenjenek meg. A mikroblog szerint a rendszer élesítését kiterjedt tesztelési időszak előzte meg, amely során nem tapasztaltak hibát, sem mást, ami miatt a szoftver rosszul működhetne. A neurális háló egyébként egyszerű szabályok alapján dönti el, melyik képnek ad előnézeti lehetőséget: alapvetően a kép kontrasztszintjét veszi figyelembe, és ez alapján rangsorol. Elképzelhető, hogy az itteni beállításokkal nem stimmel valami, és ezért jelenik meg több fehér arc.

Bármi is okozza a gondot, a Twitter elnézést kért, a fejlesztők már dolgoznak a megoldáson.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.