Instagram va contra adolescentes que se hacen pasar por adultos

Meta, la empresa matriz de Instagram, ha decidido reforzar sus medidas de protección para menores de edad en su plataforma. En un esfuerzo por evitar que los adolescentes evadan las restricciones de seguridad haciéndose pasar por adultos, la compañía ha comenzado a implementar una nueva inteligencia artificial capaz de detectar estos casos con mayor precisión.

Esta decisión marca un paso importante hacia la creación de un entorno digital más seguro para los usuarios jóvenes, en un contexto donde la protección infantil en redes sociales está siendo cada vez más vigilada por organismos reguladores y la sociedad en general.

El objetivo: identificar a los “adolescentes sospechosos”

La intención de Meta es clara: que los adolescentes registren su edad real en Instagram y no manipulen su fecha de nacimiento para evitar las restricciones pensadas para su grupo etario. Para esto, ha desarrollado un clasificador de edad basado en IA que analiza múltiples señales para determinar si un usuario mintió sobre su edad.

Algunas señales clave que analiza la IA son:

• El contenido de mensajes, especialmente relacionados con cumpleaños.
• La fecha de creación del perfil.
• Patrones de interacción con publicaciones y usuarios.
• Comportamientos característicos del uso adolescente.

¿Qué pasa si la IA detecta un perfil falso?

Si el sistema detecta que una cuenta clasificada como adulta en realidad parece corresponder a un adolescente, Instagram aplicará automáticamente las configuraciones predeterminadas para usuarios menores de edad, sin importar la configuración previa.

Estas configuraciones incluyen:

• Perfil privado por defecto.
• Restricciones en los mensajes directos (no pueden recibir mensajes de desconocidos).
• Contenido limitado en el feed y en la sección de explorar.
• Limitación del acceso a Instagram Live.
• Filtros automáticos para imágenes sensibles (como nudes) en los DMs.

Además, si un menor de 16 años quiere transmitir en vivo o desactivar la función de difuminado de imágenes explícitas, deberá contar con el permiso de sus padres o tutores.

¿Cómo funciona esta IA?

Meta explicó que el sistema se entrenó con conjuntos de datos etiquetados por revisores humanos, que analizaron publicaciones y mensajes anónimos (como felicitaciones de cumpleaños) para identificar patrones relacionados con la edad.

Este modelo:

• Se prueba país por país, para adaptarse a variaciones culturales y de comportamiento.
• Se ajusta para funcionar bien con nuevos usuarios, que aún no tienen un historial amplio de actividad.
• Se reentrena periódicamente con datos actualizados, para mantener la precisión a lo largo del tiempo.

Los usuarios que sean identificados erróneamente como adolescentes tendrán la opción de apelar y solicitar una revisión manual de su configuración.

¿Dónde y cuándo se aplicará esta función?

Por ahora, la herramienta no se implementará globalmente. Comenzará con una prueba piloto en Estados Unidos, enfocada en detectar lo que Meta llama “adolescentes sospechosos” y aplicar los controles correspondientes.

Esta medida se suma a otros esfuerzos previos de la compañía para crear una experiencia más segura en sus plataformas, especialmente luego de años de críticas por no proteger adecuadamente a los menores.

Un problema persistente

Instagram lleva años enfrentando el reto de controlar el acceso de adolescentes a su plataforma. Muchos jóvenes falsean su edad al registrarse, lo que les permite navegar sin restricciones y sin los controles parentales o limitaciones de contenido que se aplican a los menores.

El uso de inteligencia artificial representa un avance tecnológico importante, pero también plantea nuevas preguntas sobre privacidad, vigilancia y errores de clasificación, especialmente cuando se involucran usuarios jóvenes.

¿Qué sigue?

Meta afirma que seguirá perfeccionando su modelo y recopilando datos para garantizar la eficacia sin sacrificar la experiencia del usuario. Si la prueba en Estados Unidos es exitosa, es muy probable que la función se extienda a otros países en los próximos meses.

Esta medida abre un nuevo capítulo en el uso de la IA para regulación automatizada en redes sociales, y podría sentar un precedente para otras plataformas que enfrentan los mismos desafíos.

Mantente informado sobre todo lo relevante en Alternativo Mx.

Gusano barrenador en México: todo lo que debes saber

Mantente informado también de otros temas en Noticias Gobierno.