- TikTok probará mejoras en sus sistemas para identificar cuentas que publican spam generado con inteligencia artificial.
- Los contenidos considerados de alto riesgo incluyen política, salud, actualidad y consejos financieros.
- La plataforma busca frenar la llamada 'basura digital' o 'AI slop' que desplaza a creadores auténticos.
- Las nuevas medidas se enmarcan en un esfuerzo por preservar la confianza de los usuarios y la integridad de la red social.
La red social TikTok ha anunciado que en las próximas semanas pondrá a prueba sistemas de detección mejorados para identificar cuentas dedicadas exclusivamente a publicar contenido generado con inteligencia artificial (IA) que consideran spam. La medida busca frenar la proliferación de vídeos de baja calidad y muy estandarizados que abordan temas sensibles como política, actualidad, salud y consejos financieros, según ha informado la compañía en un comunicado recogido por varias agencias.
Este tipo de publicaciones, que a menudo se producen de forma masiva y con poco esfuerzo, desplazan a los creadores originales y pueden dañar la confianza del público. TikTok ya ha eliminado millones de cuentas falsas en lo que va de año, pero ahora quiere ir un paso más allá con herramientas específicas para el spam generado por IA. La plataforma considera que estos contenidos suponen un riesgo para el bienestar de los usuarios y la integridad de la información.
El fenómeno de la ‘basura digital’
El auge de la inteligencia artificial generativa ha facilitado la creación de vídeos, imágenes y textos de forma rápida y barata. Este fenómeno, conocido como ‘AI slop’ o ‘basura digital’, inunda los feeds de las redes sociales con piezas repetitivas y, en muchos casos, engañosas. En TikTok, el problema se ha agravado hasta el punto de que la plataforma ha decidido actuar de forma más contundente.
Los expertos señalan que la falta de etiquetado claro y la dificultad para distinguir lo real de lo sintético están erosionando la confianza de los usuarios. Por eso, TikTok no solo mejorará la detección, sino que también ha reforzado sus alianzas con organizaciones de verificación y ha invertido en programas de alfabetización sobre IA para ayudar a la comunidad a identificar estos contenidos.
La compañía ha explicado que las cuentas que se dedican a publicar spam generado por IA suelen comprar o vender seguidores y concentran sus publicaciones en temas de alto riesgo. Con las nuevas pruebas, esperan poder detectar y eliminar este tipo de perfiles de forma más eficaz, protegiendo así tanto a los creadores legítimos como a los usuarios que consumen contenido en la plataforma.
Estas medidas llegan en un momento en el que la presión regulatoria sobre el contenido generado por IA está aumentando en Europa. Aunque TikTok no ha mencionado directamente la normativa comunitaria, sus acciones se alinean con los esfuerzos por garantizar la transparencia y la responsabilidad en el uso de estas tecnologías. La plataforma ya etiqueta millones de vídeos como generados por IA y ahora quiere ir más allá en la lucha contra el spam.
En definitiva, la apuesta de TikTok por reforzar la detección de contenido generado con IA supone un paso importante para mantener la calidad y la autenticidad en la red social. Los usuarios podrán esperar una experiencia más limpia y fiable, mientras que los creadores auténticos verán reducida la competencia desleal de las cuentas automatizadas. La prueba comenzará en las próximas semanas y, si tiene éxito, podría extenderse a nivel global.
Editor profesional de Tecnología y Software