Egy harmincas évei elején járó férfi chatelt szexuális témában egy 13 éves floridai lánnyal, és azt tervezték, hogy másnap órák után találkoznak. Ebben a Facebook akadályozta meg őket, egészen pontosan annak biztonsági automatizmusa, ami a tartalomelemzés után gyanúsnak jelölte meg a beszélgetést, amit így a Facebook illetékesei elolvastak, majd hívták a rendőrséget.

A Reuters által bemutatott történet mögött a Facebook szoftver-ember működtetésű biztonsági rendszere áll. A szoftver figyeli a nyelvhasználatot, illetve a tartalmat, és a gyanúsnak tűnő részleteket elküldi elolvasásra, így végül emberek döntenek arról, szükség van-e valamilyen intézkedésre.

A Reuters beszámolójában arról nem esik szó, hogy az angol nyelvű tartalmakon kívül más nyelven is figyelik-e a Facebooknál a megosztásokat és üzeneteket. Ha egyelőre nem is így van, ahogy a funkciókat, úgy valószínűleg a háttérben futó biztonsági algoritmusokat is kiterjesztik idővel más nyelvekre is.