El pasado mes de marzo, varios atacantes retransmitieron en directo, a través de Facebook, un asalto con armas de fuego a la mezquita de Christchurch (Nueva Zelanda), que se saldó con 50 muertos y un número similar de heridos.
200 personas presenciaron esa retransmisión en directo (otras 4.000 lo hicieron una vez finalizada), y hubo que esperar media hora hasta que una de ellas se animó a reportar lo que estaba viendo.
Facebook cuenta con moderación de contenidos tanto humana como automatizada, pero en aquella ocasión eso no bastó para evitar la difusión de las imágenes de la matanza. Ayer, en un comunicado, la compañía señalaba el motivo de ello:
"El video del ataque en Christchurch no activó nuestros sistemas automatizados de detección debido a que no disponemos de suficiente contenido de esa clase (filmaciones en primera persona de eventos violentos) como para entrenar con eficacia nuestra tecnología de aprendizaje automático".
De modo que la compañía de Marck Zuckerberg ha decidido asociarse con las fuerzas del orden para que éstas le provean de material de archivo de sus ejercicios de entrenamiento con armas de fuego, extraído de sus cámaras corporales.
En este caso, el proveedor será el Servicio de Policía Metropolitana del Reino Unido (aunque están explorando acuerdos similares en EE.UU.), que incluirá tomas de sus simulaciones de incidentes terroristas y de toma de rehenes. Facebook no pagará directamente por el acceso a este material pero, según el Financial Times, compensará a la Policía Metropolitana proporcionando al cuerpo cámaras corporales de manera gratuita.
¿El objetivo? Lograr que, ahora sí, su sistema de IA sea capaz de identificar automáticamente imágenes de un ataque, impidiendo el acceso a la retransmisión y notificándoselo a la policía. Al mismo tiempo, esperan reducir el número de falsos positivos detectados entre vídeos extraídos de videojuegos o películas de acción.
Neil Basu, el máximo responsable de contraterrorismo del Reino Unido, explica que gracias a este "proyecto innovador",
."La tecnología que Facebook está tratando de crear podría ayudar a identificar los ataques con armas de fuego es sus primeras etapas y, potencialmente, ayudar a que las policías de todo el mundo respondan antes a este tipo de incidentes".
"La tecnología que detiene automáticamente la retransmisión en directo de este tipo de ataques también ayudará a prevenir significativamente la exaltación de tales actos, así como la promoción de las ideologías tóxicas que los impulsan".
