OpenAI ha suspendido indefinidamente sus planes para lanzar un chatbot de contenido sexual explícito, conocido internamente como 'modo Citron', según informó la compañía. La decisión responde a crecientes preocupaciones sobre riesgos sociales y reputacionales, así como a críticas de empleados e inversionistas.
La función, que permitiría a usuarios adultos verificados generar contenido erótico, fue anunciada el año pasado como parte de una relajación de restricciones en ChatGPT. Sin embargo, algunos empleados cuestionaron si el producto era compatible con la misión de la empresa de beneficiar a la humanidad, mientras que inversionistas expresaron inquietud por posibles daños reputacionales frente al beneficio comercial.
La suspensión ocurre la misma semana en que OpenAI cerró su aplicación de video social Sora, criticada por generar contenido de IA de bajo valor añadido. Estos movimientos se dan en un contexto de presión regulatoria y social sobre la industria tecnológica, con empresas como Meta enfrentando demandas por el impacto de sus plataformas en menores.
El debate sobre los límites del contenido generado por IA se ha intensificado desde la popularización de herramientas como ChatGPT. Reguladores en Estados Unidos y la Unión Europea han exigido mayores controles, especialmente tras la aprobación de marcos como la Ley de Servicios Digitales, que impone obligaciones estrictas para mitigar riesgos sistémicos.
Casos de uso indebido de IA para crear 'deepfakes' sexuales, incluidos montajes con rostros de celebridades y menores, han generado alarma global. Expertos advierten sobre daños psicológicos, reputacionales y legales, y subrayan la dificultad de contener su rápida difusión en internet.
Analistas señalan que la decisión de OpenAI refleja un giro hacia modelos más conservadores en contenido, en un entorno donde la regulación y la opinión pública pesan cada vez más sobre la innovación tecnológica.
