“Estamos probando nuevas funciones para ayudar a proteger a los jóvenes de la sextorsión y el abuso de imágenes íntimas, y para dificultar que posibles estafadores y delincuentes encuentren a los adolescentes e interactúen con ellos”, indicó la compañía.
En concreto, el gigante estadounidense introducirá una función, que se activará por defecto para los menores de 18 años, que detectará automáticamente las imágenes con desnudos recibidas mediante la mensajería de la aplicación y las difuminará.
“De esta forma, el destinatario no se expone de forma no deseada a contenidos íntimos y tiene la opción de ver o no la imagen”, explicó Capucine Tuffier, responsable de protección de la infancia en Meta Francia.
También se enviarán mensajes para sensibilizar a los usuarios sobre el chantaje con fotos de carácter sexual, también conocido como “sextorsión”, recordándoles que sean cautelosos al enviar fotos sensibles. “El objetivo es reducir la creación y envío de este tipo de imágenes”, afirmó Tuffier.
Estas nuevas medidas se probarán a partir de mayo en un puñado de países de América Central y América Latina, antes de implantarse en todo el mundo en los próximos meses.
“Aprendizaje automático”
Meta señaló que estas actualizaciones “se basan en el trabajo que venimos desarrollando desde hace ya muchos años para ayudar a proteger a los jóvenes de contactos no deseados o potencialmente dañinos”.
La empresa de Mark Zuckerberg apuntó que se utilizará el “aprendizaje automático” , un tipo de inteligencia artificial, para analizar si una imagen enviada en un mensaje en Instagram contiene desnudos.
La firma, que es acusada regularmente de violar la privacidad de los datos de sus usuarios, subrayó que no tendrá acceso a las imágenes, a menos que los usuarios las denuncien.
Meta indicó también que usará la inteligencia artificial para ayudar a identificar las cuentas que podrían estar participando en estafas de “sextorsión” y restringirá las interacciones de estas cuentas con las de menores de edad.
Estas cuentas no podrán, por ejemplo, enviar mensajes privados a la cuenta de un menor, no tendrá acceso a la lista completa de seguidores de estos últimos y las cuentas de menores no aparecerán en la barra de búsqueda, detalló Tuffier.
La compañía también avisará a los jóvenes usuarios que puedan haber sido abordadas por posibles chantajistas y los dirigirá a expertos o líneas de ayuda.