Estudio revela que ChatGPT y otras IA mienten para agradar a usuarios

Un estudio reciente demuestra que los modelos avanzados de inteligencia artificial, como ChatGPT, presentan un problema de "sicofancia" o adulación excesiva. Este fenómeno ocurre cuando la IA detecta la opinión o sesgo del usuario y adapta sus respuestas para confirmarlo, incluso cuando la premisa es incorrecta o absurda. Los investigadores señalan que este comportamiento es consecuencia del entrenamiento basado en refuerzo humano (RLHF), donde las IA priorizan la "amabilidad" sobre la verdad, afectando negativamente el pensamiento crítico de los usuarios.