Bienvenidos, amantes de la inteligencia artificial! Por primera mano cómo la IA ha pasado de ser un concepto futurista a una herramienta que redefine nuestra vida diaria, por culpa de TikTok y de reemplazar moderadores humanos por Inteligencia Artificial. Hoy, vamos a desgranar un movimiento que ha sacudido el mundo de las redes sociales y la tecnología: la inteligencia artificial de TikTok. La plataforma de vídeos cortos, propiedad de ByteDance, está redefiniendo su enfoque de seguridad y supervisión de contenidos al reemplazar a una parte significativa de sus moderadores humanos con sistemas de IA. Este cambio no solo impacta la gestión interna de la compañía, sino que también plantea preguntas cruciales sobre el futuro de la moderación en línea y el papel del ser humano en la era de la automatización.
La IA toma el control: El porqué de la revolución en TikTok
La decisión de TikTok de reemplazar moderadores humanos por inteligencia artificial en su sede de Londres, anunciada este mes de septiembre, marca un punto de inflexión en la estrategia global de la compañía. Este movimiento, que se enmarca en una reorganización más amplia, se ha justificado por los avances en los modelos de lenguaje de gran escala (LLM) y su capacidad para procesar y analizar volúmenes masivos de contenido con una rapidez sin precedentes. La compañía sostiene que esta automatización no solo optimiza sus operaciones, sino que también mejora la eficacia en la detección y eliminación de contenido dañino.
Un factor clave que acelera esta transición es la entrada en vigor de la UK Online Safety Act el 25 de julio de 2025. Esta legislación impone estrictas obligaciones a las plataformas en línea, exigiéndoles que actúen con celeridad para retirar material ilegal o peligroso. El incumplimiento puede acarrear multas de hasta 18 millones de libras, una cifra que evidencia la presión regulatoria a la que se enfrentan las empresas tecnológicas. TikTok argumenta que su inteligencia artificial es la herramienta ideal para cumplir con estos plazos ajustados y minimizar los riesgos financieros y de reputación.
Según datos compartidos por la propia compañía, sus sistemas de IA ya eliminan automáticamente el 80% del contenido que infringe sus normas, y el 99% del material considerado peligroso es retirado antes de que un solo usuario tenga la oportunidad de reportarlo. Estas cifras, si bien impresionantes, subrayan el debate sobre la capacidad de la IA para manejar matices y contextos culturales que son esenciales en la moderación de contenido.
El dilema humano-algoritmo: Un análisis del impacto
Toca analizar como afecta este nuevo dilema que ha creado TikTok al sustituir los moderadores humanos por la Inteligencia Artificial.
El impacto en la salud mental de los moderadores
Uno de los argumentos a favor de la automatización es la protección del bienestar de los moderadores humanos. El trabajo de revisión de contenido expone a estos profesionales a un flujo constante de material gráfico, violento y traumático, lo que puede tener graves consecuencias para su salud mental. TikTok ha afirmado que la automatización ha reducido en un 60% la exposición de sus moderadores restantes a vídeos de este tipo, permitiendo que el personal se enfoque en casos más complejos que requieren un juicio humano, como el discurso de odio o la desinformación contextual.
Reestructuración global y controversias laborales
La reestructuración en Londres, donde se estima que unos 300 de 500 profesionales del área de confianza y seguridad están en riesgo, no es un hecho aislado. En julio de 2025, TikTok también eliminó el departamento de confianza y seguridad en su oficina de Berlín, lo que provocó una huelga de 150 trabajadores. Asimismo, se reportó el despido de 500 moderadores humanos en Malasia. Estos movimientos, aunque la compañía los justifique por su enfoque en la tecnología, han sido duramente criticados por sindicatos como el CWU.
El sindicato ha denunciado que, detrás del discurso de la innovación, se esconde una estrategia de reducción de costos y deslocalización. Una investigación de 2022 ya había evidenciado una notable disparidad salarial entre moderadores de diferentes países, con trabajadores en Colombia ganando significativamente menos que sus colegas en el Reino Unido. Esto sugiere que la automatización no solo reemplaza a los humanos, sino que también centraliza el trabajo de moderación en centros regionales con costes operativos más bajos, como Dublín y Lisboa, donde aún existen equipos humanos.
La verificación de edad con IA: ¿una solución o un riesgo?
En su esfuerzo por cumplir con la UK Online Safety Act, TikTok también ha implementado herramientas de IA para la verificación de edad. Estas herramientas analizan patrones de uso, contactos y señales de actividad para inferir la edad de los usuarios sin necesidad de documentos de identidad. Aunque la compañía sostiene que esto es vital para proteger a los menores, el regulador británico, Ofcom, aún no ha dado su visto bueno. Esta función, que se mueve en un terreno provisional, destaca la tensión entre la rapidez y la eficacia de la tecnología y la necesidad de una supervisión regulatoria estricta.
El futuro de la moderación y el juicio humano
El camino que ha tomado la inteligencia artificial de TikTok es ambicioso. Con una inversión anunciada de 2 mil millones de dólares en 2024 para reforzar sus tecnologías de seguridad, la plataforma demuestra su firme apuesta por la automatización como pilar de su estrategia. Sin embargo, la gran pregunta que queda en el aire es si la IA, por muy avanzada que sea, puede realmente sustituir el criterio humano.
La detección de discursos de odio, noticias falsas o contenido manipulador a menudo requiere un profundo conocimiento del contexto cultural, la ironía, los memes y las referencias locales. Un algoritmo puede ser increíblemente rápido en la detección de palabras clave o imágenes, pero puede fallar estrepitosamente a la hora de comprender los matices que definen si un contenido es dañino o simplemente una expresión artística o satírica.
Este gran giro hacia la automatización en la moderación de contenido por parte de TikTok es un claro reflejo del creciente poder de la IA en el ámbito corporativo y regulatorio. En última instancia, la velocidad y la eficiencia de los algoritmos chocan con la sutileza del juicio humano, creando una tensión que seguirá definiendo el futuro de la seguridad en las plataformas digitales y la forma en que interactuamos con el contenido en línea.
Si quieres usar TikTok, simplemente tienes que acceder al siguiente enlace: TIKTOK