- La CNMV advierte de la fiabilidad limitada de ChatGPT para consultas financieras, con un 57% de respuestas incorrectas según un estudio.
- Las universidades españolas adaptan sus evaluaciones para evitar que los estudiantes deleguen su criterio en la IA.
- Una investigación revela que ChatGPT y otros chatbots filtran datos de conversaciones a redes publicitarias y analítica.
- Expertos coinciden en la necesidad de supervisión humana y responsabilidad personal al usar estas herramientas.
La irrupción de ChatGPT ha cambiado la forma en que millones de personas se acercan a tareas cotidianas, desde la organización de las finanzas personales hasta la preparación de exámenes universitarios. Su capacidad para generar respuestas fluidas y aparentemente precisas ha llevado a que muchos usuarios deleguen en esta herramienta decisiones que antes requerían consultar a un profesional o un esfuerzo personal de análisis. Sin embargo, ese mismo atractivo es el que está encendiendo las alarmas entre reguladores, académicos y expertos en seguridad.
En España, el fenómeno ha calado hondo. Un informe de McKinsey señala que alrededor del 70% de quienes utilizan asistentes de inteligencia artificial los emplean para comparar servicios bancarios, entender productos financieros o pedir consejo sobre inversiones. Paralelamente, las facultades de Derecho han visto cómo la primera generación de estudiantes que ha tenido ChatGPT desde el primer día de carrera se gradúa, lo que ha obligado a los centros a repensar sus métodos de enseñanza y evaluación. A esto se suma la investigación de la Agencia Española de Protección de Datos sobre el tratamiento que ChatGPT hace de la información de sus usuarios.
Errores de cálculo y la ‘trampa de fluidez’ en el ámbito financiero
Un estudio de la empresa tecnológica Saturn reveló que ChatGPT, Claude, Copilot, Grok y Gemini responden de forma incorrecta al 57% de las consultas financieras. Los fallos detectados incluyen desde errores de cálculo hasta la omisión de cambios fiscales futuros o la invención de normas que no existen. Estos desaciertos pueden traducirse en pérdidas económicas para quienes confían ciegamente en la inteligencia artificial generativa y sus riesgos reales. La Comisión Nacional del Mercado de Valores (CNMV) ha publicado un análisis que corrobora la fiabilidad limitada y condicional de estos chatbots, sobre todo cuando se les plantean preguntas simples como ‘¿qué acciones debería comprar?’ sin aportar contexto. En cambio, su utilidad aumenta cuando el usuario guía y supervisa adecuadamente sus respuestas.
Ricardo Crisóstomo, coautor del estudio de la CNMV, advierte del peligro de caer en la ‘trampa de fluidez’. Esta consiste en que la seguridad con la que responden los modelos genera una sensación de precisión que dificulta detectar los errores, especialmente cuando el usuario carece de conocimientos para cuestionar la información. ‘Hemos observado respuestas muy bien argumentadas y convincentes que, sin embargo, contenían errores en los datos, en los cálculos o en la aplicación de principios financieros básicos’, explica. Por su parte, Diana Mykhalyuk, también coautora, insiste en la relevancia de la supervisión humana con criterio. Los investigadores reconocen que estos chatbots pueden aportar valor como herramientas de apoyo al análisis, por ejemplo, recopilando y sintetizando información, comparando empresas o identificando riesgos, siempre que se les proporcionen instrucciones estructuradas y datos de calidad.
Aun así, los expertos coinciden en que nunca se debe delegar en la máquina la decisión final de inversión. Martí Pachamé, miembro del Comité de Acreditación y Certificación de EFPA España, recuerda que la idoneidad de seguir una recomendación depende de los objetivos, el plazo, la liquidez necesaria y, sobre todo, el riesgo que cada persona pueda y quiera asumir. Ante una sugerencia de inversión generada por IA, conviene preguntarse de dónde sale la información, si está actualizada, si se puede comprobar y si se entiende el riesgo asociado. ‘Y hay otra pregunta que a veces olvidamos: si algo sale mal, ¿quién responde? La IA no asume ninguna responsabilidad’, advierte. Jordi Martínez, director de Educación Financiera del Instituto de Estudios Financieros, añade que delegar demasiado criterio en la máquina podría provocar que los asesores adoptaran decisiones muy parecidas, amplificando movimientos del mercado y, llevado al extremo, convirtiendo la gestión activa en pasiva. Para el pequeño ahorrador, recomienda poner en cuarentena cualquier recomendación financiera procedente de esta tecnología.
El reto de las aulas: aprender Derecho sin renunciar al criterio propio
La primera generación de graduados en Derecho que ha contado con ChatGPT durante toda la carrera ha puesto de manifiesto un debate de fondo. Las universidades españolas han reaccionado con protocolos de uso, formación específica en IA y un rediseño de los sistemas de evaluación. En Esade Law School, su decano, Jorge Castiñeira, explica que la IA no cambia el soporte del trabajo jurídico, sino su núcleo: el razonamiento, la redacción y la primera versión del criterio. Por eso, han articulado su respuesta en tres planos: una normativa institucional clara, asignaturas de alfabetización en IA y una evaluación que pondera el proceso por encima del resultado. ‘La frontera no está entre usar o no usar la IA, sino entre delegar la tarea y delegar el juicio‘, sentencia.
En ICADE, el profesor Iñigo A. Navarro señala que existen herramientas profesionales como Harvey que los alumnos deben conocer para su futuro desempeño. El principal riesgo, apunta, es una menor formación de base si se usa la IA para realizar tareas que el propio estudiante aún no domina. Juan José Sánchez Puig, CEO de ISDE, insiste en que la universidad no puede dar la espalda a una tecnología que ya forma parte del entorno profesional, pero debe enseñar a utilizarla con criterio. ‘No se trata únicamente de enseñar a usar herramientas de IA, sino de enseñar a utilizarlas con criterio‘, afirma. Antonio Descalzo, decano de la Universidad Carlos III de Madrid, trabaja para evitar riesgos en originalidad, creatividad y desarrollo del juicio crítico. Alfonso Martínez-Echevarría, decano de la CEU San Pablo, subraya que la universidad está inmersa en un proceso de reformulación de protocolos para incorporar las bondades de la IA a la enseñanza.
Tradicionalmente, los abogados aprendían el oficio con labores rutinarias como la búsqueda de jurisprudencia, la revisión de documentos o la elaboración de ‘due diligence’. Estas tareas enseñaban a investigar, detectar errores y distinguir lo importante de lo accesorio. Ahora, la IA ha asumido casi por completo esas funciones, lo que plantea un riesgo: que el joven profesional renuncie a ese esfuerzo formativo porque la herramienta le da todo de forma instantánea, sin saber siquiera discernir si es correcto. ‘La universidad no puede formar estudiantes que sepan preguntar a una IA pero no sepan cuestionar su respuesta’, alerta Sánchez Puig. Los expertos consideran que la IA es muy útil para profesionales con experiencia que ya dominan la materia, pero entraña más peligro para las nuevas generaciones. Un estudiante que use la IA de forma recurrente para todo tipo de tareas corre el riesgo de convertirse en un profesional sin criterio propio, con poca capacidad resolutiva y sin habilidades sociales para negociar o presentar.
Para mitigar estos riesgos, los centros han modificado sus métodos de evaluación. Se han incrementado las pruebas orales y las exposiciones. En una de las universidades encuestadas, el 80% de la nota del Trabajo de Fin de Máster corresponde a la exposición oral, frente al 20% del trabajo escrito. Algunos centros especifican en las fichas de las asignaturas el grado de uso de IA permitido, que va desde la prohibición hasta el uso extensivo dirigido. En los exámenes, generalmente está prohibido salvo autorización expresa del profesor. Una universidad exige conocer la trazabilidad de los trabajos: qué ‘prompts’ se introdujeron, qué se aceptó, qué se descartó y con qué fundamento jurídico. En la calificación global, el proceso pondera un 40%, el contraste con otras fuentes un 20%, la exposición oral del caso un 25% y el resultado final solo un 15%. El objetivo es premiar el razonamiento, no solo la respuesta. Los principales riesgos detectados por las universidades son la merma en la redacción y en la capacidad de desarrollar un juicio crítico, seguidos de la creatividad y las habilidades de negociación. También se apunta a la falta de empatía, un intangible clave en la relación con los clientes.
Privacidad en entredicho: los chats también alimentan redes publicitarias
Mientras tanto, la privacidad de las conversaciones con ChatGPT y otros asistentes está bajo sospecha. Una investigación del Instituto IMDEA Networks y la Universidad Carlos III de Madrid ha demostrado que seis de las nueve versiones web analizadas (ChatGPT, Gemini, Claude, Grok, Perplexity y Mistral) y tres aplicaciones móviles (ChatGPT, Claude y Perplexity) filtran datos directos de las conversaciones a través de rastreadores publicitarios. Los títulos de los chats, las preguntas formuladas, los documentos subidos o incluso capturas de pantalla se comparten con empresas de mercadeo de datos personales. El estudio, aceptado en la conferencia PETS, concluye que estos servicios han heredado la infraestructura publicitaria y de analítica de las plataformas web y móviles, introduciendo los datos de las conversaciones directamente en las redes de rastreo existentes. Esto resalta los riesgos de privacidad en ChatGPT que deben analizarse con cautela.
El análisis reveló que rechazar las cookies, navegar en modo incógnito u otros métodos de protección tienen muy poco impacto: hasta un 80,8% de los rastreadores de terceros permanecen activos. El mayor peligro, según los investigadores, no es solo la filtración, sino que esa información viaje acompañada de indicadores personales que permiten a terceros asociar las interacciones con usuarios individuales y crear perfiles de comportamiento a largo plazo. Grok, el asistente de xAI, fue el caso más grave. En su versión web, las conversaciones son accesibles públicamente por defecto mediante direcciones URL que se transmiten automáticamente a siete redes publicitarias, entre ellas Meta, TikTok, Google Ads y Twitter Analytics. Al generar un enlace para compartir el chat, la plataforma reenvía a Meta y TikTok el texto de la última pregunta y, en el caso de TikTok, una captura de pantalla. Los investigadores registraron hasta 70 accesos automáticos de rastreadores externos procedentes de 14 países en los enlaces de Grok.
La Agencia Española de Protección de Datos ha elevado el caso al Comité Europeo de Protección de Datos para estudiar si estas transferencias vulneran la normativa comunitaria. Este organismo mantiene abierta una investigación desde hace más de tres años sobre el tratamiento de datos de ChatGPT. Preguntados por estas prácticas, Google aseguró que el informe malinterpreta cómo funcionan sus productos y que no tienen anuncios en Gemini. OpenAI indicó que utiliza herramientas de análisis para comprender el tráfico, diagnosticar errores y supervisar el rendimiento, y que esa información no se usa con propósitos publicitarios ni se vende o comparte con anunciantes. Microsoft afirmó que no ha encontrado ninguna infracción de la legislación aplicable. Los investigadores, no obstante, recalcan que la mayoría de los problemas detectados reflejan prácticas intencionadas a nivel de producto, no vulnerabilidades de seguridad explotables. En el caso de Grok, identificaron un problema de seguridad que podría ser explotado por ciberdelincuentes debido a los débiles controles de acceso en los recursos de conversación. Avisaron a xAI el 17 de abril, pero la compañía no emitió respuesta oficial ni corrigió la privacidad por defecto de sus enlaces. El 15 de agosto, OpenAI actualizó la política de privacidad de ChatGPT para mencionar explícitamente el uso de rastreadores de terceros.
La inteligencia artificial conversacional, y ChatGPT en particular, se ha convertido en una herramienta cotidiana para millones de personas en España, ya sea para consultar dudas financieras, preparar oposiciones o simplemente organizar tareas. Pero su creciente influencia viene acompañada de sombras: errores de cálculo que pueden costar dinero, una dependencia académica que amenaza con erosionar el criterio profesional y una gestión de la privacidad que expone las conversaciones más íntimas a redes publicitarias. Los reguladores españoles y europeos han empezado a moverse, con la CNMV analizando su fiabilidad en finanzas y la AEPD investigando el tratamiento de datos. La conclusión que se repite entre los expertos es que estas herramientas pueden ser útiles como apoyo, pero nunca deben sustituir la supervisión humana ni la responsabilidad personal. La clave está en usar la IA sin renunciar al juicio propio, manteniendo siempre la capacidad de cuestionar, verificar y decidir.
Editor profesional de Tecnología y Software