DRA.ELSA MARTÍNEZ FLORES/Los chatbots con Inteligencia Artificial, como ChatGPT, Grok, Meta por mencionar algunos, han generado debates desde su creación debido a respuestas inadecuadas o imprecisas. Estas controversias muestran que, aunque la tecnología es avanzada, aún requiere ajustes y supervisión constante.
La necesidad de perfeccionamiento es evidente para proteger a los usuarios más vulnerables. Uno de los problemas a resolver ha sido la interacción de los chats con adolescentes sobre temas sensibles, lo que ha generado un impacto en la salud mental por la información sesgada que proporcionan.
Este tipo de herramientas utiliza los datos que la persona proporciona para generar respuestas y crear empatía; no obstante, en el proceso de entrenar a una IA aún persisten lagunas de fondo y forma al momento de preguntar, lo que puede derivar en malentendidos o consecuencias graves.
En septiembre de 2023, Meta lanzó chatbots con distintas “personalidades”, como detectives, amigos virtuales o estilos románticos, algunos basados en celebridades, con el objetivo de hacer más atractiva la interacción en WhatsApp, Messenger e Instagram. No obstante, se detectaron interacciones inapropiadas con menores.
Grok, un chatbot de xAI, generó en Estados Unidos comentarios a favor de la ideología nazi y antisemitas en julio de 2025, después de que usuarios le dieran instrucciones provocadoras, pidiéndole que pensara y respondiera como un líder con esas características.
Una pareja de influencers españoles perdió su vuelo en agosto de 2025 tras recibir información incorrecta de OpenAI (ChatGPT), que les indicó que no necesitaban visa para viajar a Puerto Rico. Al llegar, descubrieron que sí requerían una autorización especial, obligatoria para ciudadanos españoles.
No obstante, lo más delicado fue la demanda que una familia ha interpuesto a la empresa OpenAI por fomentar ‘dependencia psicológica’, ya que su hijo llegó a un estado crítico de vulnerabilidad emocional que terminó en un desenlace fatal. El caso abrió un fuerte debate sobre influir en la mente de los usuarios.
Para abordar estos riesgos, es crucial que los desarrolladores diseñen filtros robustos capaces de detectar contenidos inapropiados. Además, los chats deben operar bajo supervisión constante y protocolos de seguridad, lo que puede reducir la propagación de desinformación y minimizar consecuencias negativas.
Pero, sobre todo, se debe desarrollar una adecuada alfabetización digital, en la que se involucren la familia y los profesores, que resultará fundamental para enfrentar los desafíos de esta dinámica, en la cual se convive diariamente con la Inteligencia Artificial y nuevas tecnologías.
