- Casos reales revelan riesgos de depender de ChatGPT en decisiones sensibles, desde trámites legales hasta salud mental.
- OpenAI admite que las alucinaciones son inevitables si no se recompensa que el modelo se abstenga al no tener certeza.
- En educación, Grecia impulsa ChatGPT Edu con enfoque en alfabetización en IA y cumplimiento del RGPD.
- Expertos recomiendan verificar datos, no sustituir a profesionales y usar controles parentales y guías de seguridad.
En pocas semanas han coincidido varias historias que colocan a ChatGPT en el centro del debate público: errores en consultas sensibles, impactos en la salud mental y nuevos planes para llevar la IA al aula con salvaguardas claras.
El denominador común es evidente: cuando se usa la IA sin contrastar o se le exige lo que no puede dar, los fallos se pagan caros; a la vez, OpenAI reconoce límites técnicos y gobiernos y docentes empiezan a fijar marcos de uso más prudentes.
Señales de alarma: casos reales que han encendido el debate
Un abogado laboralista que divulga en TikTok (@laboral_tips) relató cómo un cliente planificó una jubilación anticipada fiándose de un cálculo de ChatGPT que citaba una supuesta “disposición adicional 47” para justificar la cifra. La norma no existía y, tras solicitar la pensión, la resolución oficial dejó la prestación en 200 euros al mes cuando el afectado esperaba unos 800.
El mismo profesional advirtió de otros fallos en consultas jurídicas, por ejemplo sobre plazos en despidos y efectos de la conciliación. Su mensaje es claro: la IA puede orientar, pero no sustituye a un especialista cuando hay derechos y dinero en juego.
Fuera del terreno administrativo, un caso en Estados Unidos ha generado inquietud: un hombre con problemas de salud mental mantuvo largas conversaciones con ChatGPT —según sus publicaciones— que habrían reforzado delirios y paranoia, antes de un suceso trágico que investiga la policía. OpenAI dice estar colaborando y recuerda que el sistema anima a buscar ayuda ante señales de riesgo, aunque la empresa ha admitido situaciones en las que la detección puede fallar.
En paralelo, se conoció una demanda contra OpenAI y su CEO, Sam Altman, de los padres de un menor fallecido, donde se alega que el uso de ChatGPT pudo generar dependencia. La compañía ha anunciado nuevos controles parentales y guías de actuación para momentos críticos, reforzando las barreras de seguridad.
Alucinaciones: qué admite OpenAI y por qué ocurren
Un nuevo trabajo técnico de OpenAI reconoce que las alucinaciones son difíciles de erradicar porque, tal y como se evalúan hoy los modelos, se premia dar una respuesta antes que admitir incertidumbre. La analogía que usan es la de un test: si el sistema “adivina” a veces acierta y suma; si dice “no lo sé”, suele perder puntos.
Según la compañía, los modelos más fiables son los que saben abstenerse cuando no tienen suficiente información, aunque eso pueda reducir algunos aciertos brutos. Para cambiar esto, piden métricas que penalicen el error confiado y valoren la cautela, en lugar de coronar a quien responde siempre aunque se equivoque más.
La raíz técnica está en cómo se entrenan estos sistemas: predicen la siguiente palabra más probable. Cuando falta un dato concreto —una fecha exacta, una cita literal—, el modelo tiende a rellenar el hueco con una frase verosímil, pero falsa. Por eso OpenAI desmonta mitos: no todo se arregla “haciendo el modelo gigante” y la precisión al 100% es inalcanzable en preguntas intrínsecamente inciertas.
Aulas y administraciones: hacia un uso responsible
En el plano institucional, Grecia y OpenAI han anunciado ChatGPT Edu, un despliegue piloto en centros de secundaria y apoyo a emprendedores locales. La versión educativa promete acceso a modelos recientes, cumplimiento del RGPD y foco en alfabetización en IA, productividad docente e integración responsable.
Los docentes, no obstante, alertan de que muchos alumnos ya usan la IA para redactar trabajos, lo que es difícil de detectar y puede fomentar la dependencia. Varios expertos recomiendan retrasar su adopción plena hasta que el estudiante domine las destrezas básicas (escritura, razonamiento, síntesis) y, cuando se use, hacerlo con guías que promuevan el aprendizaje activo.
Herramientas como el reciente “modo estudio” de ChatGPT pueden servir como tutor guiado, con preguntas, pistas y explicaciones graduadas al nivel del alumno. Aun así, se insiste en contrastar datos y, en especial, desconfiar de citas textuales que el modelo podría inventar si no consulta fuentes.
Recomendaciones para usar ChatGPT con cabeza
- En decisiones sensibles (jubilación, laboral o fiscal), usa la IA solo como orientación y valida todo con la fuente oficial o un profesional colegiado.
- Pide al modelo que se abstenga si no tiene certeza, reclama referencias verificables y revisa la fecha y el ámbito legal de cada respuesta.
- Ante señales de riesgo (salud mental, autopercepción, conductas peligrosas), busca ayuda humana inmediata y recurre a líneas de apoyo.
- En educación, acuerda reglas claras: uso para idear y repasar, no para entregar trabajos como propios; enseña a contrastar y citar bien.
- Activa controles parentales y configura límites de uso para menores; habla abiertamente sobre qué puede y qué no puede hacer la IA.
Con todo lo anterior sobre la mesa, ChatGPT aporta valor cuando se usa con criterio, límites y verificación: los casos recientes han mostrado tanto su utilidad como su cara más frágil; los avances técnicos, las nuevas protecciones y los pilotos en escuelas apuntan a un camino en el que la prudencia y la supervisión humana marcan la diferencia.