Uso de ChatGPT: sesgos, límites humanos y riesgos reales

App Guías » Guías » Uso de ChatGPT: sesgos, límites humanos y riesgos reales

ChatGPT se ha colado en nuestra vida diaria a una velocidad que pocos esperaban: lo usamos para escribir, resumir, traducir, buscar ideas o incluso para tomar decisiones delicadas. Pero cuanto más lo integramos en el trabajo, la escuela o la vida personal, más evidente se hace que no es una mente infalible, sino una tecnología con límites muy claros y con sesgos que se parecen sospechosamente a los nuestros.

Comprender los sesgos y límites humanos que arrastra ChatGPT no es un capricho teórico, sino una necesidad práctica y ética: afecta a cómo tomamos decisiones, cómo tratamos datos sensibles, cómo educamos y cómo regulamos esta tecnología. A lo largo de este artículo vas a ver, con ejemplos muy concretos, en qué acierta la IA generativa, dónde patina, qué riesgos abre para la privacidad, la creatividad o la salud mental, y cómo están reaccionando profesionales, empresas y reguladores para intentar ponerle coto.

Qué es realmente ChatGPT y por qué no es una “mente” humana

ChatGPT es un modelo de lenguaje basado en la arquitectura GPT (Generative Pre-trained Transformer), entrenado con cantidades gigantescas de texto para aprender patrones y generar respuestas coherentes. Funciona gracias a mecanismos de autoatención que le permiten relacionar palabras y contextos a larga distancia, lo que explica que pueda mantener conversaciones relativamente fluidas y producir textos muy verosímiles.

Su entrenamiento se realiza en dos grandes fases: primero un preentrenamiento masivo con textos de la web, libros, artículos, código, etc., y después un ajuste fino con conjuntos de datos más reducidos, muchas veces curados y evaluados por personas, para que el sistema se comporte de forma más útil, segura y alineada con ciertas normas.

Desde el punto de vista del usuario, ChatGPT se percibe como un “interlocutor” que sabe de casi todo, está disponible 24/7 y responde en múltiples idiomas. Se usa para atención al cliente, redacción de contenidos, apoyo a estudiantes, ayuda a programar, generación de ideas, interfaces conversacionales para otros sistemas y un largo etcétera.

Sin embargo, hablar de ChatGPT como si “pensara” o “sintiera” igual que un humano es engañoso. No tiene un “yo”, ni conciencia subjetiva, ni sabe que existe. Opera como una “caja negra”: procesa enormes volúmenes de datos y produce salidas plausibles, pero ni el propio usuario ni muchas veces los desarrolladores pueden seguir paso a paso el “razonamiento” interno que lleva a cada respuesta.

Algunos expertos proponen hablar de una tercera categoría de entidad: algo que no es una máquina clásica predecible (pulso un botón y siempre pasa lo mismo), ni un ser humano con interioridad y emociones, sino una inteligencia estadística que maneja patrones complejos y resuelve problemas concretos, pero “vacía por dentro”. Esa ambigüedad alimenta gran parte del debate actual sobre qué entendemos por comprensión.

Sesgos cognitivos: cuando la IA imita nuestros errores

Uno de los problemas más serios detectados en ChatGPT es que reproduce sesgos cognitivos humanos. Un estudio académico publicado en la revista Manufacturing & Service Operations Management evaluó el rendimiento del sistema en 18 pruebas de sesgo cognitivo y encontró resultados mixtos: en algunos casos se comportaba como una persona, con los mismos errores, y en otros mostraba una racionalidad estadística superior.

Entre los sesgos observados se encontraron patrones como el exceso de confianza en ciertas respuestas, la aversión al riesgo incluso cuando asumirlo sería racional, o la tendencia a seguir intuiciones engañosas. En cambio, en tareas de evaluación de probabilidades, el modelo llegó a tener un desempeño mejor que la media humana, ajustándose mejor a los datos.

El problema es que muchas organizaciones ya están usando o planean usar IA para procesos críticos: selección de personal, concesión de créditos, priorización de pacientes, apoyo a decisiones administrativas, etc. Si el modelo hereda prejuicios de los datos con los que se entrena, puede perpetuar injusticias en lugar de corregirlas.

Los investigadores y reguladores insisten en que la IA no es un árbitro neutral. Tal y como advertía Samuel Kirshner, si no se controla y audita, la IA puede agravar problemas de decisión ya existentes: discriminar sin motivos objetivos, reforzar estereotipos o consolidar errores estadísticos que afectan a miles de personas.

Esto obliga a pensar en mecanismos de control concretos: supervisión humana cualificada, evaluación periódica de sesgos, transparencia en los criterios de decisión, posibilidad de recurso por parte de las personas afectadas y marcos normativos que obliguen a las empresas y administraciones a rendir cuentas sobre el uso de estos sistemas.

Uso profesional: productividad, presión extra y revisión constante

En entornos corporativos, ChatGPT ha demostrado ser una herramienta muy potente para ganar tiempo: redactar borradores de informes, preparar presentaciones, resumir documentos o generar ideas iniciales. Sin embargo, la experiencia de muchos profesionales muestra que el ahorro de tiempo en unas tareas se compensa con nuevas cargas en otras.

Un informe de la consultora UpSlide, basado en una encuesta a más de 500 profesionales de banca de inversión y asesoría en Reino Unido y Estados Unidos, concluye que la IA no está reduciendo la carga de trabajo global, sino desplazándola hacia los perfiles sénior. El 83 % cree que estas herramientas incrementan la presión sobre los más experimentados, porque deben revisar y validar lo que genera la IA antes de entregarlo a clientes.

El 41 % de los encuestados afirma dedicar más de 11 horas semanales a tareas de control de calidad asociadas a sistemas generativos. Antes revisaban el trabajo de un junior en quien podían confiar hasta cierto punto; ahora se enfrentan a un modelo que puede sonar impecable, pero que no avisa cuando inventa cosas o se equivoca gravemente.

Profesionales como Munar ilustran muy bien este cambio en la práctica diaria. Al principio, valoraba sobre todo la rapidez: respuestas en segundos, estructuras claras, textos “listos para usar”. Pero con el tiempo empezó a notar que muchas respuestas eran previsibles, estandarizadas y que diferentes preguntas terminaban recibiendo prácticamente la misma contestación.

También detectó errores de bulto y “refritos” de contenido, hasta el punto de adoptar la norma de verificar siempre la información por duplicado. Su percepción actual es clara: la IA funciona mejor como herramienta analítica o de apoyo estructural, pero falla cuando se trata de creatividad profunda o pensamiento genuinamente original. La paradoja que resume es el sentir de muchos: “la uso más que antes, pero soy mucho más escéptica”.

IA y salud mental: apoyo estructural sí, sustituto del vínculo humano no

En el ámbito psicológico y de la salud mental, la IA puede ser muy útil como apoyo, siempre que se mantenga en segundo plano. La psicóloga clínica María Dolores Delblanch, con casi dos décadas de experiencia, utiliza herramientas como ChatGPT para diseñar tareas de activación conductual, esbozar planes de intervención o generar listas de ejercicios y recursos.

Lo que antes podía llevarle dos horas, ahora lo obtiene en unos diez minutos. Por ejemplo, le pide un programa de trabajo para un paciente con depresión mayor o un esquema de abordaje para un trastorno de ansiedad generalizada con rumiaciones, y considera que el resultado es “bastante aceptable” como punto de partida. Ese ahorro le permite concentrarse en la parte más artesanal y humana de la terapia.

El problema aparece cuando el uso de la IA salta de la consulta al salón de casa del paciente. Delblanch observa que algunos consultan al chat antes o después de cada sesión. Hay quien conoce a una persona nueva y pregunta: “¿Es la persona adecuada para mí?”, y llega a terapia diciendo “la máquina me ha dicho que sí”, como si fuera una especie de oráculo relacional.

Desde el punto de vista clínico, la psicóloga se pregunta sobre qué base se emite ese juicio. La respuesta puede sonar empática y convincente, pero el sistema no tiene acceso a la historia vital del paciente, ni a su contexto familiar, ni a sus traumas, ni a sus habilidades emocionales. No ve el lenguaje corporal, no percibe los silencios incómodos, no detecta contradicciones entre lo que se dice y lo que se siente.

Además, Delblanch señala que el sistema tiende a dar la razón al interlocutor. Si el usuario introduce la opinión de un profesional, la IA la refuerza; si luego aporta una visión contraria, intenta integrarla también. “Contesta siempre, aunque no sepa lo que dice”, resume. En situaciones límite, como posibles relaciones de maltrato, esa inclinación a validar puede ser peligrosa: una respuesta bienintencionada puede interpretarse como aval a dinámicas dañinas.

Algo parecido ocurre en contextos médicos con enfermedades graves. El caso de Sandra, una paciente con diagnóstico de cáncer, es ilustrativo. Empezó a utilizar ChatGPT para entender mejor qué le estaba pasando: tratamientos, quimioterapia, efectos secundarios… En ese sentido el sistema le resultó muy útil, ofreciéndole explicaciones claras y consejos prácticos para prepararse física y mentalmente.

El problema llegó cuando empezó a preguntar por porcentajes de curación y estadísticas de supervivencia. La IA respondió con números fríos, sin calibrar el impacto psicológico de recibir esas cifras en un momento de máxima vulnerabilidad. Para Sandra, esa información cruda generó un nivel de ansiedad que repercutió incluso en su familia.

La lección que se desprende de estos casos es bastante contundente: la IA puede ser eficaz como apoyo estructural, organizando datos y ofreciendo guías generales, pero no sustituye ni el juicio clínico ni el vínculo humano. Aporta orden y accesibilidad, pero tiende a simplificar en exceso, a reforzar expectativas irreales y a transmitir una falsa sensación de seguridad donde solo hay probabilidades.

Sesgos, ilusión de comprensión y límites creativos

Más allá de la precisión factual, el gran atractivo de ChatGPT es la “ilusión de comprensión”. Responde con fluidez, sintetiza información, parece entender matices. Eso ha llevado incluso a científicos inicialmente escépticos a admitir que estos modelos hacen cosas “muy parecidas a pensar”, aunque de una forma radicalmente distinta a la mente humana.

Sin embargo, esa fluidez puede ser tramposa. El modelo genera secuencias de palabras estadísticamente probables, no verdades contrastadas ni ideas propias. No tiene experiencias, no vive en un cuerpo, no padece ni disfruta. Esa ausencia de interioridad explica por qué tropieza cuando se le exige creatividad verdaderamente original, humor muy sutil o reflexión filosófica profunda.

En tareas creativas, muchos usuarios comprueban que la IA brilla para la “fase cero”: lluvia de ideas, esquemas, variaciones sobre un mismo tema, borradores rápidos. Pero cuando se trata de encontrar una voz única, un ángulo inesperado o una reflexión que conecte con emociones complejas, el resultado suele sonar derivativo, correcto pero plano.

Los sesgos presentes en los datos de entrenamiento refuerzan además una cierta uniformidad cultural. Si el modelo se entrena mayoritariamente con textos procedentes de determinados entornos, lenguas y perspectivas, tenderá a reproducirlos. Esto puede invisibilizar experiencias minoritarias, reforzar estereotipos o presentar como “neutral” una visión profundamente situada.

Por todo ello, utilizar ChatGPT como fuente única de conocimiento o creatividad es una mala idea. Funciona mejor como espejo que devuelve destilado lo que ya existe, y como asistente que acelera tareas repetitivas, que como generador de pensamiento genuinamente nuevo.

Riesgos de privacidad, confidencialidad y uso empresarial

Cuando se utiliza ChatGPT en empresas, el primer gran frente de riesgo es la gestión de datos. Introducir información interna o de terceros en un sistema externo puede suponer fugas de datos, violaciones de confidencialidad y conflictos legales, especialmente si se trata de secretos comerciales, planes de producto o información estratégica.

Si un empleado copia en el chat el plan de lanzamiento de un nuevo producto —con especificaciones técnicas y estrategia de marketing— para “pulir” un informe, esa información puede acabar integrada en los datos que alimentan el modelo o ser accesible de formas que escapan al control de la compañía. Esto choca de lleno con muchas políticas internas de seguridad.

En sectores regulados como la sanidad, los riesgos son todavía mayores. Imagina una organización sanitaria que usa el sistema para ayudar a responder consultas de pacientes y vuelca datos clínicos concretos: síntomas, diagnósticos, antecedentes. Podría estar infringiendo leyes como la HIPAA en EE. UU. o la normativa europea de protección de datos al compartir información especialmente sensible con un tercero sin las garantías adecuadas.

Existen además problemas de propiedad intelectual sobre el contenido generado. Aunque los términos de servicio suelen decir que el output pertenece al usuario que introduce el prompt, la cosa se complica si el resultado incluye fragmentos muy próximos a obras protegidas o reproduce código bajo licencias de software libre incompatibles con el uso comercial que pretende la empresa.

También hay limitaciones contractuales sobre el uso de ChatGPT para entrenar otros sistemas de IA. Si una compañía quiere apoyarse en esa tecnología para construir su propio modelo, puede encontrarse con que los términos de uso lo prohíben expresamente, comprometiendo su estrategia de desarrollo a largo plazo.

Por eso muchas organizaciones están optando por soluciones alternativas, como plataformas empresariales de IA (por ejemplo, watsonx de IBM) que permiten un control mucho más estricto sobre dónde se almacenan los datos, quién accede a ellos y con qué finalidades se usan, incorporando capas de gobierno y cumplimiento normativo.

Plagio, educación y detección de contenido generado por IA

En el mundo educativo y académico, ChatGPT plantea un dilema muy claro: es una herramienta potentísima para aprender, pero también tentadora para copiar. Su capacidad para producir trabajos completos, estructurados y con un tono convincente hace muy fácil caer en el plagio asistido por IA.

Hay dos grandes tipos de deshonestidad que se han identificado. Por un lado, la intencionada: estudiantes o profesionales que piden directamente “hazme este trabajo” y luego lo entregan como si fuera suyo, consciente y deliberadamente. Por otro, la involuntaria: quien usa el modelo para aclararse con un tema y acaba incorporando al texto final formulaciones casi calcadas, creyendo que son explicaciones “de dominio público”.

Detectar contenido generado por IA no siempre es sencillo, pero suele haber señales: textos demasiado pulidos, extensos y homogéneos, tono impersonal, ausencia de experiencias concretas o ejemplos muy situados, estructura perfecta pero sin la típica irregularidad humana. Han surgido además herramientas específicas de detección que analizan patrones lingüísticos para estimar la probabilidad de que un texto venga de una máquina.

Las consecuencias del plagio asistido por IA pueden ser serias: desde suspensos y expulsiones en el ámbito académico hasta pérdida de credibilidad profesional e incluso problemas legales en contextos laborales. Más allá de la sanción, se erosiona la confianza general: profesores que sospechan de todos los trabajos, revisores que dudan de los artículos, empleadores que miran con recelo lo que producen sus equipos.

Pero quizá el coste más profundo es educativo. Depender de la IA para hacer el “trabajo pesado” de investigar, sintetizar o argumentar reduce las oportunidades de practicar pensamiento crítico, escritura y análisis, que son justo las habilidades que se supone que se están formando.

Privacidad de datos, seguridad y posibles usos indebidos

Cada interacción con ChatGPT implica el tratamiento de datos: desde el contenido de las preguntas hasta metadatos como la IP, el dispositivo, la ubicación aproximada y patrones de uso. Aunque los proveedores aplican cifrado en tránsito y en reposo y controles de acceso, siempre existe un riesgo residual asociado al simple hecho de generar, almacenar y procesar esa información.

Una fuente de riesgo son los datos residuales de las conversaciones. Hay usuarios que comparten, a veces sin darse cuenta, información muy personal: problemas familiares, datos económicos, detalles laborales internos, etc. Aunque la infraestructura sea segura, basta con que el dispositivo o la red del usuario estén comprometidos para que esa información quede expuesta.

También puede darse una compartición involuntaria: copiar respuestas del chat y reenviarlas sin revisar puede arrastrar datos o contextos que identifiquen a terceros, o revelar más información de la que se pretendía compartir. La responsabilidad aquí no es solo técnica, sino también de cultura digital.

Más inquietante es el potencial para usos maliciosos de la propia herramienta. Personas con mala fe pueden usar la IA para redactar correos de estafa extremadamente convincentes, elaborar campañas de desinformación, personalizar mensajes engañosos o generar contenido falso difícil de distinguir de noticias reales.

Frente a estos riesgos, la clave es la combinación de medidas técnicas y conciencia del usuario: revisar mensajes sospechosos, contrastar la información importante en varias fuentes fiables, no compartir datos sensibles a la ligera y entender que ninguna plataforma —por segura que se presente— elimina por completo los peligros asociados al uso imprudente.

Regulación, ética y el marco europeo de la IA

La velocidad con la que han irrumpido sistemas como ChatGPT ha pillado a muchos legisladores a contrapié. Aun así, en el entorno europeo se ha avanzado con relativa rapidez hacia un marco regulatorio específico: el futuro Reglamento de Inteligencia Artificial de la UE (conocido como Reglamento IA).

Este Reglamento no se centra en una tecnología concreta, sino en el nivel de riesgo de los sistemas. Establece cuatro categorías: riesgo mínimo o nulo (por ejemplo, videojuegos), riesgo limitado (chatbots como ChatGPT cuando se usan para interacción general), riesgo alto (aplicaciones que afectan a la salud, la seguridad o derechos fundamentales, como selección de personal o sistemas de crédito) y riesgo inaceptable (manipulación cognitiva, puntuación social, categorización biométrica discriminatoria, vigilancia masiva, etc.), que se prohíben de entrada.

Para los sistemas generativos como ChatGPT se prevén obligaciones específicas de transparencia: informar claramente al usuario de que está interactuando con una IA, etiquetar contenido generado (textos, imágenes, audio), y respetar derechos de propiedad intelectual en los datos de entrenamiento. También se exigen medidas para evitar que estos modelos generen contenidos que vulneren la ley o dañen derechos fundamentales.

En paralelo, las autoridades de protección de datos han empezado a actuar frente a riesgos concretos. La autoridad italiana fue pionera al ordenar en 2023 un bloqueo temporal de ChatGPT mientras investigaba posibles infracciones del Reglamento General de Protección de Datos (RGPD), señalando problemas de transparencia, base jurídica para el tratamiento de datos y protección de menores.

Como resultado de ese proceso, OpenAI implementó varios cambios: mayor claridad en su política de privacidad, herramientas para que los usuarios europeos puedan oponerse al uso de sus datos para entrenar el modelo, formularios para pedir la supresión de información personal inexacta y controles de edad más estrictos para limitar el acceso de menores sin consentimiento paterno.

España, a través de la AEPD, también abrió actuaciones de investigación y algunas autoridades regionales recomendaron a administraciones y centros educativos no integrar ChatGPT en servicios públicos que traten datos personales hasta tener más garantías. Grandes empresas españolas han optado por limitar o prohibir su uso interno por motivos de seguridad y confidencialidad.

Todo este movimiento regulatorio y corporativo refleja la misma idea de fondo: la tecnología es neutra respecto a las leyes, pero quienes la desarrollan, comercializan y utilizan no lo son. Sobre ellos recae el deber de diligencia: valorar riesgos, cumplir las normas de protección de datos, respetar la propiedad intelectual y evitar usos discriminatorios o manipuladores.

Organizaciones como OpenAI, por su parte, han articulado una postura ética pública basada en principios como distribuir ampliamente los beneficios de la IA, priorizar la seguridad a largo plazo, cooperar con otras instituciones y comunidades de investigación, y trabajar activamente para reducir sesgos en los modelos. Son compromisos que, sin embargo, hay que contrastar con prácticas concretas y con la supervisión de reguladores independientes.

El papel de la comunidad —investigadores, usuarios y críticos— es esencial para que la IA evolucione de forma alineada con valores sociales. Investigadores y desarrolladores pueden detectar problemas técnicos y proponer soluciones; los usuarios aportan feedback real sobre cómo les afecta el sistema; los críticos señalan puntos ciegos y evitan que la tecnología avance en una burbuja autocongratulatoria.

Todo apunta a que vivir con sistemas como ChatGPT será uno de los grandes retos de nuestra época: aprender a integrarlos donde aportan valor, a desconfiar sanamente de su aparente infalibilidad, a combinarlos con supervisión humana y a blindar, en la medida de lo posible, los derechos fundamentales frente a su uso negligente o abusivo. La IA generativa no es una mente sustituta ni una simple herramienta mecánica; es un nuevo tipo de actor en nuestro ecosistema informativo, y nuestra responsabilidad colectiva es decidir bajo qué reglas juega.