Meta ha anunciado un cambio significativo en la operación de su inteligencia artificial para menores de edad. La compañía rompe con la premisa de privacidad total en las conversaciones con chatbots cuando se detectan riesgos de autolesiones o suicidio. A partir de ahora, MetaAI incorporará alertas a los padres, contacto con más de 75 especialistas en salud mental y, próximamente, la capacidad de contactar servicios de emergencia si identifica señales de peligro.
Contexto: uso de IA entre adolescentes
Según el Centro de Investigación Pew, más del 60% de los adolescentes utilizan asistentes de IA como ChatGPT o Gemini a diario para buscar información, realizar tareas, explorar intereses y, cada vez más, como apoyo emocional. Ante esta realidad, Meta busca que los jóvenes tengan experiencias con IA adecuadas a su edad y que los padres estén informados si se detecta que su hijo podría estar pasando por un momento difícil.
Medidas específicas implementadas
Cuando un adolescente manifieste pensamientos relacionados con suicidio o autolesión, Meta proporcionará información sobre líneas de ayuda y alentará al usuario a contactar a un adulto de confianza. Además, se enviará una alerta a los padres que utilicen la herramienta de supervisión de Instagram, siempre que una revisión humana confirme que la conversación muestra señales de riesgo.
Larry Magid, director ejecutivo y cofundador de ConnectSafely, organización sin fines de lucro especializada en seguridad digital y bienestar en línea, señaló: “Apoyo la decisión de Meta de notificar a los padres cuando, tras una revisión exhaustiva, se determina que una conversación con la inteligencia artificial de Meta contiene indicios de posible suicidio o autolesión que justifiquen una alerta”. Magid considera que la medida logra un equilibrio entre la privacidad de los adolescentes y la necesidad de informar a los padres si sus hijos corren riesgo de hacerse daño.
Proceso de detección y revisión
Para desarrollar la herramienta, Meta colaboró con padres y expertos que aportaron criterios para identificar qué conversaciones con IA justifican una alerta, como aquellas en las que un adolescente hace referencia clara a hacerse daño, aunque no sea muy notoria. Posteriormente, se desarrolló un sistema específico para detectar esas conversaciones. Antes de enviar una alerta, todos los chats señalados por la IA serán revisados de forma manual. Si la intención del adolescente es ambigua, se actuará con precaución y se alertará a los padres. La compañía reconoce que es posible notificar a los padres aunque no haya riesgo real, pero considera que es un punto de partida adecuado para asegurar la salud de los menores.
Disponibilidad y expansión global
Meta confirmó que estas alertas ya están disponibles para los padres que utilizan la supervisión parental de Instagram en Estados Unidos, Reino Unido, Australia y Canadá. Estarán disponibles para padres supervisores de todo el mundo a final de año. En cuanto a la vinculación con centros de emergencia, la organización afirma estar desarrollando la capacidad de contactarlos si la conversación de una persona (adulto o adolescente) con MetaAI sugiere que está en riesgo. El año pasado, Meta realizó más de 19,000 alertas de este tipo en todo el mundo, lo que permitió a los servicios de emergencia realizar controles de bienestar a personas en riesgo de suicidio.
Contexto regulatorio
El endurecimiento de las medidas de Meta coincide con un entorno regulatorio cada vez más estricto. El bufete de abogados Freshfields, en su Informe de Tendencias en Derecho de Datos, señala que la protección de datos y la seguridad digital de niños y adolescentes ya representan uno de los principales desafíos de cumplimiento para las empresas tecnológicas. El despacho identifica una tendencia común entre Estados Unidos, Reino Unido, Brasil y Australia que exige mayores responsabilidades en el diseño de productos, la moderación de contenidos, la arquitectura de datos y el desarrollo de sistemas de IA dirigidos o accesibles a menores.
