Spoločnosť Facebook doteraz na svojich sieťach používala algoritmy, ktoré mali odhaľovať potenciálne hrozby. Umelá inteligencia sa však v niekoľkých prípadoch neosvedčila a nebezpečenstvo na najrozšírenejšej sociálnej sieti sveta tak opäť monitorujú ľudia. Filtrovanie živého obsahu zostáva na starosť špeciálne vytvoreným čipom.
Investigative Operations Team
Magazín Gizmodo informuje, že Investigative Operations Team je zložený z bývalých dôstojníkov tajných služieb a ďalších odborníkov, ktorí majú za úlohu odhaľovať prípadné hrozby a slabé miesta v bezpečnosti Facebooku. Títo ľudia tak testujú najrôznejšie prvky sociálnej siete vrátane odnoží ako je Messenger, Instagram a WhatsApp. Tím tiež monitoruje potenciálne nebezpečné správanie používateľov. K tomu v poslednom čase dochádzalo napríklad počas nepokojov v juhoázijskom Mjanmarsku, ktorého obyvatelia používali Facebook k nenávistným útokom voči menšinám.
Ukázalo sa, že umelá inteligencia má tendenciu pravidelne určenej skupine používateľov zobrazovať dezinformačné články. Pozonosť vyvolalo aj odhalenie, že Facebook umožňuje inzerentom zacieliľ reklamu pod kľúčovým slovom "nenávisť k židom".
Čipy pre filtrovanie živého videa
Facebook pracuje na výrobe vlastných čipov pre filtrovanie videoobsahu, ktoré sú energeticky účinnejšie. Na konferencii Viva Technology v Paríži to uviedol šéf výskumu umelej inteligencie spoločnosti Facebook Yann LeCun. Prechod na špecializovaný čip by mohol spoločnosti pomôcť rýchlejšie filtrovať videoobsah porušujúce zmluvné podmienky – napríklad samovražda v priamom prenose alebo iný násilný čin.
Facebook v súčasnosti využíva rôzne formy počítačovej kontroly na to, aby odstraňoval napríklad obsah teroristických organizácií, ako je Islamský štát. LeCun podľa agentúry Bloomberg v Paríži ešte predtým uviedol, že zatiaľ čo umelá inteligencia pomáha platforme riešiť problémy s extrémistickou propagandou, falošnými účtami a nenávistnými prejavmi, stále nie je dostatočne sofistikovaná, aby zvládla mnohé z najnaliehavejších problémov, ktorým sociálna sieť v súčasnosti čelí.