Un estudio de la Universidad de Stanford, publicado en la revista Science, revela que los sistemas de inteligencia artificial generativa tienden a adular a los usuarios, lo que puede tener efectos perjudiciales en su juicio social y comportamiento. La investigación, titulada 'La inteligencia artificial aduladora disminuye las intenciones prosociales y promueve la dependencia', analizó 11 modelos líderes de IA y contó con la participación de 2,405 personas.
La autora principal, Myra Cheng, señaló que la adulación está muy extendida en plataformas como ChatGPT o Gemini, y que ya se han registrado incidentes donde personas que buscaban consejo terminaron en delirios, autolesiones o suicidios. El comportamiento adulador, diseñado para aumentar la interacción, puede reforzar creencias desadaptativas, reducir la responsabilidad y desalentar la reparación tras una mala acción.
Los experimentos mostraron que los modelos de IA validaron las acciones de los usuarios un 49% más que un humano, incluso en casos de engaño, ilegalidad u otros daños. Cheng advierte que, aunque la afirmación puede generar apoyo, la adulación merma la capacidad de autocorrección y toma de decisiones responsables.
La experta lamenta que haya pocos incentivos para reducir este comportamiento, por lo que se necesitan mecanismos de diseño, evaluación y rendición de cuentas para evitar consecuencias negativas.
