En un giro polémico, Meta, la empresa detrás de Facebook e Instagram, ha interpuesto una demanda contra Joy Timeline HK, responsable de la aplicación Crush AI, que permite crear imágenes sexualmente explícitas de personas reales sin su consentimiento. Este artículo explora las implicaciones de esta acción legal y el desafío que supone frenar el contenido dañino generado por IA.
Crush AI: La App de Deepfakes Sexuales en el Punto de Mira
Crush AI, lanzada a principios de 2025, se ha convertido en una herramienta controvertida por su capacidad para generar imágenes falsas y sexualizadas con IA. La preocupación radica en el potencial uso indebido de fotos personales para crear este tipo de contenido sin consentimiento.
Demanda de Meta: Un Paso Clave Contra el Abuso de la IA
Meta ha demandado a Joy Timeline HK en los tribunales de Hong Kong, buscando detener la publicidad masiva de servicios de «IA nudify». Estos servicios permiten desnudar digitalmente a personas en fotos sin su permiso, lo que Meta considera una amenaza directa a la seguridad y privacidad de sus usuarios.
La Estrategia de Crush AI para Evadir la Detección
Crush AI logró publicar más de 8.000 anuncios en Facebook e Instagram en las primeras dos semanas de 2025. La empresa utilizó tácticas para evadir la revisión automática de anuncios, como crear múltiples cuentas y cambiar de dominio web con frecuencia.
El Desafío de Frenar el Contenido Dañino Generado por IA
El caso de Crush AI pone de manifiesto la dificultad de frenar el contenido dañino generado por IA, especialmente en plataformas masivas como las redes sociales.
Dificultades en Otras Redes Sociales
Otras plataformas como X, Reddit y YouTube también han experimentado un aumento de anuncios y enlaces a aplicaciones de «IA undressing». A pesar de las prohibiciones de términos como «nudify IA» en Meta y TikTok, los creadores de estas aplicaciones encuentran formas de eludir la detección.
Estrategias de Meta para Identificar Anuncios de Servicios IA Nudify
Meta utiliza tecnología basada en coincidencias para detectar anuncios, incluso si las imágenes no muestran desnudos explícitos. Sus sistemas revisan palabras clave, frases y emojis sospechosos, y eliminan cualquier «red flag». Además, Meta ha ampliado su lista de términos prohibidos y rastrea patrones en imágenes y textos para evitar la repetición de campañas.
Colaboración con Tech Coalition
Meta colabora con la Tech Coalition a través del programa Lantern para prevenir la explotación sexual infantil y frenar la promoción de imágenes no consentidas. Desde marzo de 2025, Meta ha compartido más de 3.800 URLs únicas sobre apps de IA nudify, lo que ayuda a trazar nuevas rutas de detección coordinadas entre plataformas.
Medidas de Protección Parental y el Futuro de la IA
Meta destaca la necesidad de leyes que permitan a los padres controlar las aplicaciones que sus hijos descargan. La empresa apoya la Take It Down Act estadounidense y colabora con legisladores para impulsar su aplicación. El objetivo es proporcionar herramientas a los padres para prevenir descargas peligrosas y supervisar el uso de aplicaciones sensibles.
La demanda de Meta contra Joy Timeline HK marca un paso importante en la lucha contra el abuso de la IA. Sin embargo, el desafío de frenar el contenido dañino generado por IA requiere un esfuerzo continuo y la colaboración entre plataformas, legisladores y padres.
Si usas Meta, puedes entrar a usarlo en el siguiente enlace: META