- Casos como el de Chase Nasca reavivan el debate sobre el impacto del algoritmo de TikTok en la salud mental juvenil y la posible adicción.
- La UE intensifica la cooperación con TikTok para frenar la desinformación sobre migraciones y endurece el control de contenidos ilegales.
- Investigaciones alertan de comunidades y contenidos de riesgo (crímenes reales, consejos financieros dudosos) que esquivan la moderación.
- Estudios apuntan también usos educativos de TikTok en España, lo que obliga a matizar el debate sobre móviles y redes en el aula.
La red social TikTok vive un momento delicado en el que se cruzan acusaciones de adicción, riesgos para la salud mental y presiones regulatorias desde Estados Unidos y Europa, al tiempo que surgen estudios que señalan posibles usos positivos en educación y en la lucha contra la desinformación. El debate ya no se limita a si la plataforma engancha o no a los más jóvenes, sino a cómo está diseñado su algoritmo y qué responsabilidad asumen sus propietarios cuando algo sale mal.
En paralelo, en la Unión Europea se consolida una línea de actuación que combina vigilancia reforzada, cooperación con las grandes tecnológicas y normas más estrictas para quienes influyen en las decisiones de los usuarios, ya sea en temas de migración, violencia, finanzas o contenidos sensibles. TikTok se ha convertido en un caso paradigmático de este pulso entre innovación, negocio publicitario y protección de los ciudadanos, especialmente menores.
TikTok, algoritmos y salud mental: el caso que ha sacudido a Estados Unidos
Uno de los episodios más controvertidos que rodean a TikTok está vinculado a la muerte de Chase Nasca, un adolescente estadounidense de 16 años, cuyo caso se ha conocido en el contexto de una demanda judicial y de una investigación periodística. Un documento interno de la propia compañía, revelado tras ser requerido por periodistas y abogados, detalla cómo el joven quedó atrapado en un bucle de contenido sobre suicidio, autolesiones y depresión justo antes de quitarse la vida.
Según ese análisis confidencial, en las dos semanas previas a su muerte TikTok recomendó a Chase miles de vídeos, de los cuales una gran mayoría se centraba en sufrimiento emocional, soledad o depresión. Una parte nada desdeñable de ese contenido habría incumplido las propias normas de la plataforma sobre autolesiones y suicidio. En las horas finales, el menor llegó a marcar como favoritos varios vídeos explícitamente relacionados con el suicidio.
El caso se enmarca en un experimento de la compañía que recuerda al clásico A/B testing de cualquier servicio digital: a principios de 2022 TikTok actualizó su algoritmo para la mayoría de usuarios con el objetivo declarado de reducir los bucles de contenido dañino, diversificando lo que aparecía en el feed y tratando de romper patrones repetitivos de temática sensible. Sin embargo, una fracción de las cuentas estadounidenses, aproximadamente un 10%, quedó como grupo de control con el sistema antiguo, menos restrictivo.
La cuenta de Chase Nasca figuraba precisamente en ese grupo de control, de modo que no se le aplicaron las nuevas salvaguardas de seguridad. El documento interno afirma que las estrategias de la empresa para evitar las llamadas “burbujas de filtros” no tuvieron efecto en su caso “por diseño”, es decir, como consecuencia directa de cómo se definió el experimento. Esta frase ha dado munición a quienes sostienen que las grandes plataformas han priorizado el crecimiento y el tiempo de uso por encima del bienestar de los menores.
La compañía analizó de forma detallada la trayectoria de la cuenta: el joven buscaba principalmente vídeos de deportes y comedia, pero también canciones y contenidos que expresaban sentimientos de soledad. Ese patrón habría activado el algoritmo y, según el documento, terminó encajonando al usuario en una dinámica donde se le recomendaba repetidamente material vinculado a suicidio y autolesión, sobre todo en los días inmediatamente anteriores al desenlace.
Las revelaciones contrastan con la postura oficial que TikTok mantenía en 2023, cuando, en respuesta por escrito a una pregunta del Congreso de Estados Unidos sobre si era consciente de casos de suicidios vinculados al uso de la plataforma, afirmó que no creía que el uso de TikTok hubiera provocado que usuarios se quitaran la vida. En ese momento, la empresa ya había llevado a cabo su investigación interna sobre el caso de Chase, lo que ha alimentado aún más las críticas sobre transparencia.
Tras conocerse estos detalles, TikTok insiste en que la seguridad y el bienestar de los adolescentes son una prioridad y afirma que está reforzando las inversiones en sistemas automatizados de detección y en equipos especializados que actúan de forma proactiva para retirar contenido que vulnera sus normas comunitarias. No obstante, el caso se suma a un contexto más amplio en el que varias redes sociales, incluida TikTok, afrontan en Estados Unidos miles de demandas por supuestamente diseñar productos adictivos que dañan la salud mental de niños y jóvenes.
Europa aprieta: control de bulos sobre migración y contenido ilegal
Mientras en Estados Unidos se dirimen responsabilidades en los tribunales, en la Unión Europea se refuerza la vía regulatoria y la cooperación directa con las plataformas. Bruselas ha puesto el foco, entre otros asuntos, en la desinformación relacionada con los cruces migratorios hacia Ceuta, donde TikTok y las redes de Meta han sido señaladas como canales clave para difundir mensajes que animan a intentos de entrada masiva.
La Comisión Europea ha activado un mecanismo específico de colaboración con TikTok, Meta y organizaciones de verificación de datos para monitorizar estos contenidos. Portavoces comunitarios subrayan que los verificadores trabajan 24 horas al día revisando publicaciones y que las plataformas están aplicando políticas contra el contrabando de personas, la incitación al odio y la violencia. Además, las tecnológicas se han comprometido a mostrar información fiable cuando los usuarios buscan determinados términos, con la idea de cortar la propagación de rumores y bulos.
En este contexto, TikTok asegura haber movilizado un equipo especial de seguridad dentro de su protocolo global para reaccionar ante acontecimientos emergentes, con capacidad para seguir en tiempo real tendencias regionales y posibles comportamientos engañosos. Hasta el momento, la compañía sostiene que no ha detectado ninguna operación encubierta de influencia organizada en torno a la situación de Ceuta, aunque las instituciones comunitarias siguen programando reuniones periódicas con plataformas y verificadores para valorar la evolución de los mensajes.
Desde el punto de vista jurídico, expertos en derecho digital recuerdan que organizar o promover cruces masivos irregulares a un territorio europeo no se considera una simple expresión de opinión, sino un acto ilícito equiparable a coordinar otro tipo de actividades ilegales. En consecuencia, las grandes plataformas no solo pueden, sino que tienen el deber de supervisar y, llegado el caso, retirar ese tipo de mensajes en virtud de la normativa europea sobre servicios digitales.
Para llevar a cabo esta supervisión, compañías como Meta y TikTok se apoyan en algoritmos de detección y sistemas basados en inteligencia artificial, que señalan canales o grupos donde se habla de estos temas. El filtrado resulta más sencillo en redes de publicación abierta, pero se complica en servicios de mensajería cifrada, donde el contenido no es accesible del mismo modo. En cualquier caso, el mensaje político es claro: las plataformas deben implicarse activamente en la prevención de abusos y en la lucha contra campañas organizadas de desinformación.
Comunidades de riesgo: crímenes reales, violencia y subculturas extremas
Más allá de los casos individuales y los bulos concretos, diferentes investigaciones están apuntando a la existencia de subculturas problemáticas que han encontrado en TikTok un espacio de crecimiento. Una de ellas es la llamada Comunidad de Crímenes Reales (TCC, por sus siglas en inglés), un fenómeno que, aunque no es exclusivo de esta plataforma, ha adoptado formas particulares en el formato de vídeo corto.
El análisis académico de este ecosistema distingue entre un consumo generalista, centrado en documentales, podcasts o análisis de casos históricos, y capas más profundas de participación que idealizan a los perpetradores de asesinatos o ataques masivos. En TikTok proliferan vídeos editados que mezclan imágenes de archivo, memes y clips generados por inteligencia artificial, a veces recreando la ropa de los atacantes o convirtiéndolos en personajes casi de ficción.
Los investigadores alertan de que este tratamiento puede presentar a los autores de los crímenes despojados del contexto de violencia, transformándolos en figuras atractivas para determinados usuarios. Al evitar en muchos casos las imágenes explícitas, este contenido logra esquivar los sistemas de moderación automática, diseñados para detectar sobre todo escenas gráficas.
En el extremo más radical, parte de esta comunidad se solapa con espacios abiertamente extremistas, donde se expresan apoyos a ataques pasados o se incita a nuevas agresiones. Algunos informes vinculan ya decenas de ataques o complots en Estados Unidos en los últimos años con personas que participaban en foros y grupos conectados a esta cultura digital de adoración a agresores, repartida entre varias plataformas, entre ellas TikTok.
Las normas comunitarias de TikTok prohíben la incitación o glorificación de actos violentos, pero su aplicación resulta compleja cuando el material se presenta como sátira, humor negro o ediciones estilizadas. A esto se suma la descentralización de las redes, que permite a estas comunidades reorganizarse rápidamente en otros servicios cuando alguna plataforma endurece sus restricciones, como ya ha ocurrido con el desplazamiento de parte de estos grupos desde Tumblr hacia otras redes sociales.
Consejos financieros en TikTok: influencia, riesgos y respuesta europea
Otro frente abierto para TikTok en Europa tiene que ver con los contenidos financieros que consumen los usuarios más jóvenes. Un análisis de 150 vídeos populares sobre inversión y dinero en la plataforma, todos ellos con al menos 100.000 visualizaciones, ha puesto de manifiesto que gran parte de estos clips se difunden sin ofrecer información completa ni garantías sobre la cualificación de quienes los elaboran.
En concreto, el estudio concluye que más del 70% de los creadores analizados no mostraba una trayectoria verificable en servicios financieros ni acreditaba formación suficiente para dar asesoramiento fiable, mientras que en más del 60% de los vídeos no se explicaban adecuadamente los riesgos asociados a los productos recomendados. Entre los contenidos analizados hay desde sugerencias sobre acciones o criptomonedas hasta consejos de endeudamiento o estrategias para “hacerse rico” rápidamente.
Reguladores europeos como la Autoridad Europea de Valores y Mercados (ESMA) y supervisores nacionales, entre ellos el regulador financiero alemán BaFin, han detectado una tendencia clara: las redes sociales se han convertido en una fuente principal de información financiera para muchos inversores de las generaciones millennial y Z. Esto aumenta el impacto de los llamados “finfluencers”, que a menudo operan sin las mismas obligaciones de transparencia que los intermediarios financieros tradicionales.
En respuesta, el Parlamento Europeo ha respaldado la idea de establecer estándares mínimos para quienes ofrecen recomendaciones de inversión en redes sociales. Entre las exigencias que se plantean figuran la obligación de identificar claramente al creador, separar hechos de opiniones, revelar posibles intereses económicos y advertir de los riesgos. ESMA recuerda que incluso una simple opinión pública sobre si una acción o una criptomoneda va a subir o bajar puede considerarse recomendación de inversión en determinados casos.
Las autoridades europeas también insisten en que frases tipo “esto no es un consejo de inversión” no eximen de responsabilidades si en la práctica el contenido tiene efectos de recomendación. Recomiendan a los usuarios comprobar quién está detrás del canal, buscar datos de contacto verificables, contrastar la información con fuentes oficiales y desconfiar de los mensajes que prometen rentabilidades muy altas sin explicar los riesgos o que se apoyan en exhibiciones de lujo y urgencias artificiales.
Por su parte, TikTok sostiene que sus Normas Comunitarias sobre bienes, servicios y actividades reguladas recogen reglas específicas para este tipo de contenidos financieros y asegura que aplica medidas como la retirada proactiva de vídeos cuando se vulneran dichas políticas, incluyendo estafas y fraudes. No obstante, el propio formato de clips breves, muy directos y con poco contexto, sigue planteando un desafío para lograr que la información financiera que circula por la plataforma sea completa y equilibrada.
TikTok en el aula: un estudio español apunta a posibles beneficios
En contraste con las críticas, empiezan a aparecer también investigaciones que exploran usos constructivos de TikTok, especialmente en el terreno educativo. Un estudio de la Universidad de Granada, realizado con casi un millar de alumnos de primero de grado en carreras de economía y empresa, ha analizado cómo puede integrarse la red social en actividades de aprendizaje.
La investigación dividió a los estudiantes en dos grupos: uno utilizó TikTok en pequeños equipos para crear vídeos cortos relacionados con la asignatura, mientras que el otro siguió métodos de enseñanza más tradicionales. Según los responsables del trabajo, los resultados fueron significativos: los alumnos que participaron en la actividad con TikTok obtuvieron casi dos puntos más que sus compañeros en las tareas de clase y mostraron mejoras en el examen final.
Además del rendimiento académico, los investigadores detectaron efectos positivos en la motivación, la capacidad para resolver problemas y gestionar conflictos y las habilidades de trabajo en equipo. Los autores del estudio argumentan que, si las nuevas generaciones ya utilizan de forma masiva esta plataforma como vía de expresión y consumo de contenidos, tiene sentido explorar cómo integrarla de forma guiada y con objetivos pedagógicos claros.
Todo ello se produce en pleno debate en España sobre el uso del móvil en las aulas, en el que muchos docentes y familias ven en TikTok y otras redes una fuente de distracción y un recurso potencialmente adictivo. El estudio granadino no niega estos riesgos, que diversos expertos vinculan incluso a problemas de salud pública por la pérdida de atención y la exposición temprana a pantallas, pero sí plantea que el problema no es tanto la herramienta en sí como el modo en que se incorpora al proceso educativo.
Los resultados apuntan a la necesidad de adaptar los métodos de enseñanza a los códigos de comunicación actuales, sin dejar de lado la educación crítica sobre el uso de redes y la gestión del tiempo de pantalla. Para los autores, experiencias como esta pueden ayudar a construir un enfoque más matizado, donde se aprovechen las posibilidades creativas de TikTok sin obviar sus puntos oscuros.
A día de hoy, TikTok se ha convertido en un símbolo de las tensiones que rodean a las grandes plataformas digitales: un lugar donde se mezclan entretenimiento, experimentos algorítmicos, comunidades de riesgo, campañas de desinformación y también iniciativas con potencial educativo. Las decisiones que adopten reguladores europeos y estadounidenses, los cambios que introduzcan las propias empresas en sus sistemas de recomendación y la forma en que escuelas, familias y usuarios gestionen su relación con la red social marcarán hasta qué punto TikTok evoluciona hacia un entorno más seguro o consolida su imagen de espacio problemático para los más jóvenes.
Editor profesional de Tecnología y Software