Científicos exponen vulnerabilidad de ChatGPT al inventar enfermedad falsa

Un grupo de científicos liderado por Almira Osmanovic Thunström, investigadora de la Universidad de Gotemburgo, demostró una grave vulnerabilidad en los modelos de lenguaje de inteligencia artificial. El equipo inventó una enfermedad falsa llamada "bixonimania" y publicó dos estudios sobre ella en un servidor académico. ChatGPT no solo aceptó la enfermedad como real, sino que comenzó a generar información médica errónea y bibliografía inventada para respaldarla, evidenciando el problema de "alucinación inducida" en estos sistemas.