Shane Jones még januárban fejezte ki aggodalmát az OpenAI képgeneráló mesterséges intelligenciájával, a DALL-E 3-mal kapcsolatban. A szakember akkor arra utalt, hogy a rendszer olyan biztonsági résekkel rendelkezik, amelyek megkönnyítik az erőszakos vagy szexuális tartalmú képek készítését. Akkor azt is állította, hogy a Microsoft jogászai megakadályozták, hogy nyilvánosságra hozza a problémát.

A CNBC beszámolója szerint Jones most egyenesen az amerikai szövetségi kereskedelmi bizottságához (FTC) fordult a panaszával. Levelében azt írja, többször is kérte a Microsoftot, tegye elérhetetlenné a DALL-E 3-ra alapozott Copilot Designert (korábbi nevén Bing Image Creator), amíg nem lehet azt mondani, hogy biztonságos a használata. Elmondása szerint ezt a cég vezetése nem vette figyelembe, ezért most azt akarja elérni, hogy a cég tájékoztassa a felhasználókat a veszélyekről.

A Copilot Designer androdidos alkalmazás jelenleg is elérhető a Google Play áruházában, a besorolása szerint pedig minden korosztálynak ajánlott a használata. Jones szerint azonban jelenlegi formában legfeljebb a felnőtteknek lenne szabad hozzáférniük.

Bár a szolgáltatás mögött dolgozó DALL-E 3 mesterséges intelligenciába beépített az OpenAI olyan biztosítékokat, amelyek az erőszakos tartalmak generálását hivatottak megelőzni, Jones szerint ezek könnyen kijátszhatók, és az elképzelhető legdurvább erőszakos képeket lehet így legeneráltatni vele.

Bizonyos utasítások beírásával például olyan képeket hozott létre a rendszer, amelyeken démonok faltak fel csecsemőket, vagy autóbalesetekben szexualizálva jelenített meg nőket amellett, hogy magát a balesetet véres brutalitással ábrázolta. De készített fegyvert szorongató és kábítószerező gyerekekről készült felvételeket is, valamint olyanokat, amelyek szerzői joggal védett elemeket is tartalmaztak.

A CNBC megjegyzi: Jones állításai valósak, minden egyes általa leírt képet újra el tudtak készíttetni a szolgáltatással. Az OpenAI januárban tagadta, hogy ilyesmi lehetséges lenne.

Bár a Microsoft állítólag naponta 1000 visszajelzést kap a szolgáltatásról, ám a cég azt állítja, nincs elegendő erőforrása ezek feldolgozásához és a problémák megoldásához.

Nem a Microsoft képgeneráló rendszere az egyetlen, amellyel kapcsolatban komoly problémák merültek fel. A vállalat nemrég lekapcsolta a képgeneráló mesterséges intelligenciáját, mert színes bőrű náci katonákat kezdett ábrázolni, majd nem sokkal később bocsánatot kért miatta.

Ha máskor is tudni szeretne hasonló dolgokról, lájkolja a HVG Tech rovatának Facebook-oldalát.