Immagini di nudo, messaggi violenti, contenuti pornografici: sono i contenuti che Facebook intende bandire dai live streaming. Il successo dilagante delle dirette video ha infatti spinto gli ingegneri di Zuckerberg a sperimentare un algoritmo d’intelligenza artificiale che sia in grado di controllare e bloccare automaticamente le trasmissioni che ritiene inappropriate.
Il live streaming è senz’altro la feature del momento su Facebook, ma all’aumentare degli utenti che condividono in diretta i propri video, cresce anche il rischio d’infrazione al regolamento del social network. Attualmente, la rimozione dei contenuti vietati funziona soprattutto grazie alle segnalazioni dell’utenza, che avvengono solo successivamente alla pubblicazione del video o dell’immagine inappropriata; ma un software di filtraggio automatico lavorerebbe invece a monte, impedendo a monteche pornografia e violenza approdino online.
Sulla nuova IA di controllo sta lavorando la divisione Apprendimento Automatico della compagnia di Zuckerberg, che sembra aver già individuato il sistema per rilevare in automatico i contenuti inappropriati. Secondo Yann LeCun, direttore di Facebook per l’intelligenza artificiale, il nocciolo della questione non è certo tecnico, bensì etico: “Qual è il bilanciamento tra filtraggio e censura? Fra la libertà di sperimentare e la decenza?” Ma soprattutto, aggiungiamo noi: è davvero opportuno affidare ad un’Intelligenza Artificiale la valutazione di contenuti non sempre classificabili in modo oggettivo?
