Meta Platforms acaba de anunciar planes para utilizar inteligencia artificial (IA) para analizar imágenes y vídeos, con el fin de determinar si los usuarios tienen menos de 13 años o no.
Esta tecnología se aplicará en plataformas como Facebook e Instagram, con el objetivo de mejorar la protección de los niños en el entorno en línea.
Según Meta, el sistema de IA escaneará señales visuales como la altura, la estructura ósea o las características corporales para estimar la edad del usuario.
La empresa enfatiza que esta no es una tecnología de reconocimiento facial, sino que solo analiza las características comunes para dar una evaluación de la edad, sin determinar la identidad personal.
Además de los datos de imágenes, la IA también combina el análisis del contenido del texto y el comportamiento interactivo.
Señales como publicaciones sobre cumpleaños, menciones de calificaciones académicas o contenido en biografías, comentarios... son recopiladas por el sistema para aumentar la precisión al detectar cuentas que no tienen edad suficiente.
Actualmente, esta tecnología se ha probado en varios países y Meta tiene como objetivo expandirse a escala global.
En el futuro, se espera que el sistema se integre más profundamente en muchas funciones como Instagram Live o Facebook Groups.
Cuando la IA identifica una cuenta que probablemente pertenece a un usuario menor de 13 años, Meta desactivará temporalmente esa cuenta.
Los usuarios deberán realizar un proceso de verificación de edad si desean restaurar, para garantizar el cumplimiento de las regulaciones de edad mínima en la plataforma.
Esta medida se produce en un contexto en el que Meta enfrenta muchas presiones legales relacionadas con la seguridad infantil.
Recientemente, un jurado en el estado de Nuevo México solicitó a la empresa que pagara una multa civil de 375 millones de dólares por cargos de poner en peligro a los niños y proporcionar información falsa sobre el nivel de seguridad de la plataforma.
El fallo también obligó a Meta a realizar grandes cambios en la política operativa.
Junto con el endurecimiento del control de edad, Meta también ha ampliado el sistema de "Cuenta para adolescentes" en Instagram a 27 países de la Unión Europea y Brasil.
Estas cuentas están diseñadas con un nivel de protección más alto, como limitar los mensajes de extraños, ocultar comentarios negativos y el modo de privacidad predeterminado.
Además, Meta dijo que implementará esta tecnología en Facebook en Estados Unidos, y luego se expandirá al Reino Unido y a la UE en un futuro próximo.
Esto se considera un paso importante para fortalecer los esfuerzos para controlar el contenido y proteger a los usuarios jóvenes en las plataformas de redes sociales.
