Facebook está desarrollando tecnología para facilitar la búsqueda y eliminación de fotos y videos íntimos publicados sin consentimiento del sujeto, lo que se suele
llamar «pornografía vengativa».
En la actualidad, los usuarios de Facebook o las víctimas de esta práctica deben denunciar las imágenes para que los contralores de contenido las revisen.
La empresa ha sugerido que los usuarios envíen sus imágenes íntimas a Facebook para que la red pueda identificar las publicaciones no autorizadas. Pero muchos usuarios rechazan la idea de enviar fotos o videos reveladores a la red social, sobre todo dada su historia de fallas en materia de privacidad.
La nueva herramienta de aprendizaje de la empresa está diseñada para hallar y señalar automáticamente las imágenes y enviarlas a seres humanos para su revisión.
Esta y otras redes sociales han tenido problemas para vigilar y contener las publicaciones impropias de los usuarios, sean amenazas violentas, teorías conspirativas o imágenes íntimas.
Facebook ha recibido duras críticas por permitir que mensajes ofensivos permanezcan demasiado tiempo, por no borrar publicaciones que no cumplen con sus normas y a veces por borrar imágenes de valor artístico o histórico. La empresa espera que su nueva tecnología le ayude a descubrir las publicaciones indebidas.