Facebook usa Machine Learning para combatir el porno de venganza
Facebook ha revelado que su más reciente iniciativa para conbatir el llamado “porno venganza”
El porno de venganza es el termino usado para referirse al acto de publicar en redes sociales o web fotos o video intimos compartidos por otra persona sin su consentimiento, y que se ha vuelto algo recurrente gracias a los smartphones y las aplicaciones de mensajería instantánea. Muchos países, incluido varios estados de México, tienen leyes específicas para castigar la porno venganza, pero esto no impide que la practica siga ocurriendo.
Facebook ha introducido a o largo de los años varias medidas para combatir el problema, entre ellas el botón de “Reportar” para que sea más fácil denunciar las imágenes de este tipo.
Con su más reciente adición, Facebook busca ayudar a la victima detectando automáticamente las imágenes o videos con “casi desnudos” que son compartidos a través de Facebook o Instagram.
“Esto significa que podemos encontrar este contenido antes que cualquiera lo reporte, lo que es un factor importante por dos razones: a menudo las víctimas tienen miedo de las represalias, por lo que les da miedo informar sobre dicho contenido o no saben que estas imágenes han sido compartidas.”
Su software de aprendizaje automático marcará el contenido visual que crea sea parte de una porno venganza, de forma que un empleado humano pueda revisarlo.
“Si la imagen o video viola las reglas de la plataforma, lo removeremos, y en caso de ser necesario desactivaremos la cuenta por compartir contenido íntimo sin permiso. Si alguien cree que cometimos un error, ofreceremos un proceso de apelación.”
Adicionalmente, Facebook está lanzando un hub de soporte llamado “No sin mi consentimiento” que ofrece diferentes herramientas y recursos para las victimas de porno venganza.
