Facebook está probando un nuevo y controvertido método para hacer frente al crecimiento de la llamada “pornografía de venganza”.

La red social más grande del mundo está pidiendo a los usuarios que suban fotos o vídeos desnudos de sí mismos a su aplicación Messenger para ayudar a entrenar su algoritmo en lo que respecta al reconocimiento de imágenes explícitas.

Facebook se ha asociado con la oficina del comisario australiano de e-Safety del gobierno australiano en la iniciativa, que afirma que permitirá a las víctimas de “abusos basados en imágenes” tomar medidas.

“Vemos muchos escenarios en los que tal vez se tomaron fotos o videos por consenso en un momento dado, pero no hubo ningún tipo de consentimiento para compartir las imágenes o videos de una manera más amplia”, dijo la comisionada de e-Safety, Julie Inman Grant, a la Corporación de Radiodifusión de Australia.

La idea es que cualquiera que esté preocupado por una imagen explícita en particular de sí mismo siendo compartida en Internet debe enviar una copia de esa imagen a través de Messenger a los sistemas de Facebook.

Facebook utilizará entonces su tecnología para identificar y darle una huella digital.

“No están almacenando la imagen, sino que están almacenando el enlace y utilizando inteligencia artificial y otras tecnologías de concordancia fotográfica”, explicó Inman Grant.

Si alguien -como un hacker o una expareja – trata de subir la imagen a Facebook, Instagram o Messenger en un acto de venganza pornográfica, la huella digital será reconocida y se impedirá que se cargue.

Facebook introdujo en abril un método similar, aunque menos preventivo, para prevenir la propagación de la venganza pornográfica.

Esto implicó el uso de una técnica similar de comparación de fotos para identificar imágenes que ya habían sido reportadas y removidas de la red social, para ayudar a frustrar nuevos intentos de compartir nuevas imágenes.

Sin embargo, la tecnología detrás de esta tarea no es infalible. Los hackers y los investigadores han demostrado cómo las “imágenes adversarias” pueden utilizarse para engañar a los algoritmos de IA (Inteligencia Artificial) insertando suficientes datos ocultos entre las líneas de una imagen para hacer que parezca diferente de la fuente.

La tecnología de Facebook aún está en fase de prueba, por lo que tendrá que pasar por pruebas rigurosas antes de que se despliegue en toda la red social.