Meta eliminó dos videos generados con IA después de que su propio Consejo de Supervisión concluyera que las salvaguardas de la compañía son insuficientes para enfrentar el crecimiento de contenido manipulado. Los casos involucran a dos mujeres: una política local británica cuyo supuesto discurso contra refugiados nunca ocurrió y una activista musulmana representada de manera degradante mientras supuestamente daba consejos de salud.
Más allá de la eliminación puntual, el episodio expone un problema de gobernanza que Meta lleva tiempo enfrentando: la velocidad con la que puede producirse y distribuirse contenido sintético está superando la capacidad de sus mecanismos de detección, etiquetado y respuesta. Para una empresa con el alcance social de Facebook e Instagram, la discusión ya no es solamente tecnológica. También involucra derechos humanos, seguridad digital, participación pública y responsabilidad social empresarial (RSE).
¿Por qué Meta eliminó estos videos generados con IA?
Los videos eliminados involucran a dos mujeres. El primer caso corresponde a una concejala laborista de Escocia. Un video la mostraba haciendo declaraciones incendiarias sobre refugiados, aunque no existe registro de que hubiera pronunciado esas palabras. Entre las señales de manipulación estaba una falta de sincronización entre sus labios y el audio. El Consejo de Supervisión determinó que el contenido debía retirarse porque constituía discurso de odio dirigido contra refugiados y porque podía engañar a los usuarios respecto de las posiciones de una representante política.
El segundo caso tiene una dimensión distinta, pero revela un patrón similar. El video utilizaba la imagen de una joven activista musulmana para hacerla parecer una persona que daba consejos sobre alimentación y ejercicio mientras consumía comida ultraprocesada y realizaba ejercicios absurdos.
El material formaba parte de una ola de publicaciones que ridiculizaban su apariencia. Según el Consejo, los distintos contenidos que utilizaron su imagen acumularon decenas de millones de visualizaciones en diferentes plataformas.
El problema: las reglas de Meta no alcanzan a los deepfakes
El Consejo de Supervisión calificó las políticas de Meta frente a este tipo de contenido como “sistemática y fundamentalmente insuficientes”. No se trata únicamente de que dos publicaciones hayan escapado a los sistemas de moderación: el organismo identificó una brecha estructural en la manera en que la plataforma aborda los deepfakes.
El problema tiene varias dimensiones:
- Detección: no todos los contenidos generados por IA conservan metadatos que permitan identificarlos.
- Etiquetado: depender de que los usuarios declaren que utilizaron IA deja importantes vacíos.
- Moderación: contenidos reportados pueden no llegar a una revisión humana.
- Escala: un mismo deepfake puede replicarse rápidamente en múltiples publicaciones y plataformas.
- Remedio: la persona afectada suele cargar con la responsabilidad de encontrar, reportar y combatir el contenido.
El propio Consejo ya había advertido que los mecanismos actuales de Meta para identificar y etiquetar contenido generado por IA no son suficientemente robustos frente a la escala y velocidad del fenómeno. También ha señalado que los metadatos pueden eliminarse fácilmente antes de publicar una pieza manipulada.
Videos generados con IA: ¿por qué las mujeres enfrentan un riesgo particular?
Los casos no son aislados respecto de la dimensión de género.
El Consejo de Supervisión señala que las mujeres que participan en la vida pública son blanco desproporcionado de deepfakes y campañas de acoso. Esto incluye a políticas, periodistas, activistas y otras mujeres que utilizan su voz para intervenir en debates sociales.
De acuerdo con datos citados por el Consejo de un informe de ONU Mujeres de 2025, 38% de las mujeres en 51 países reportaron experiencias personales de abuso en línea. La organización también ha advertido que las herramientas de IA pueden amplificar sesgos y facilitar campañas de desinformación y acoso a una escala mucho mayor.
La diferencia frente al acoso digital tradicional es importante: la IA permite fabricar rápidamente una representación aparentemente realista de una persona diciendo o haciendo algo que nunca ocurrió.
Así, los videos generados con IA pueden convertirse en una herramienta para desacreditar, humillar o silenciar a alguien sin que esa persona haya producido jamás el contenido que circula sobre ella.
El riesgo social va más allá de la reputación
Para Meta, el problema no debería reducirse a proteger la imagen de las personas afectadas. El riesgo social es más amplio.
Cuando un deepfake presenta a una política defendiendo una postura que nunca expresó, puede distorsionar la conversación pública. Cuando representa a una activista realizando acciones degradantes, puede desalentar su participación. Y cuando ese contenido se dirige contra grupos vulnerables, puede reforzar prejuicios existentes.
El Consejo ha advertido precisamente sobre esta combinación: deepfakes políticos, discursos de odio contra minorías y campañas de acoso dirigidas contra mujeres.
Existe además un fenómeno conocido como liar’s dividend: a medida que las personas saben que resulta sencillo fabricar contenido falso, pueden llegar a desconfiar incluso de material auténtico. El Consejo ha señalado que esto puede deteriorar la confianza general en la información digital, especialmente durante conflictos y crisis.
Para una plataforma como Meta, ese riesgo tiene una dimensión de RSE evidente: si el entorno digital forma parte de la infraestructura de información de millones de personas, su gobernanza también genera consecuencias sociales que la empresa debe gestionar.
¿Dónde está la responsabilidad social de Meta?
Meta ha aceptado retirar los contenidos después de las decisiones del Consejo, pero la controversia plantea una pregunta más profunda: ¿es suficiente eliminar un contenido después de que una instancia externa determine que vulnera las reglas?
Desde una perspectiva de RSE y gobernanza tecnológica, la responsabilidad debería comenzar antes.
La compañía tiene capacidad para diseñar sistemas de detección, establecer reglas, asignar recursos de moderación y determinar qué riesgos reciben atención prioritaria. Por ello, cuando un contenido potencialmente dañino permanece disponible pese a haber sido reportado, el debate deja de ser exclusivamente sobre el comportamiento del usuario que lo creó.
El propio Consejo encontró un problema especialmente relevante en el segundo caso: Meta no priorizó para revisión el contenido denunciado, a pesar de que los sistemas lo habían identificado como susceptible de requerir revisión humana. Sólo después de que el Consejo preguntó por cuatro comentarios degradantes, Meta los retiró por infringir sus políticas de acoso.
El organismo considera que la IA debería ser utilizada también como señal de gravedad para priorizar determinados reportes, precisamente para evitar que las víctimas tengan que luchar individualmente contra cada copia de un contenido viral.
¿Qué debería hacer Meta frente a los deepfakes?
El Consejo de Supervisión ha planteado medidas concretas que pueden convertirse en referencia para la gobernanza responsable de la IA en plataformas digitales:
- Definir explícitamente la “imagen manipulada no deseada” para incluir deepfakes en los que una persona aparece diciendo o haciendo algo que nunca hizo.
- Permitir que terceros reporten contenidos de acoso, especialmente cuando una campaña involucra numerosas publicaciones.
- Crear mecanismos de coincidencia de contenido para retirar rápidamente copias de un deepfake que ya fue identificado como infractor.
- Utilizar las señales de contenido generado o manipulado por IA para priorizar reportes destinados a revisión humana.
- Aumentar las sanciones para cuentas reincidentes que distribuyan deepfakes dañinos.
- Ampliar el etiquetado de contenido de alto riesgo generado por IA y transparentar cuándo y por qué se aplica.
Estas recomendaciones coinciden con una preocupación que el Consejo ya había expresado en otro caso: Meta necesita mejores mecanismos de detección, información sobre la procedencia del contenido y herramientas capaces de identificar distintos formatos de material generado por IA.
La controversia también alcanza a las Notas de la Comunidad
El momento resulta especialmente significativo porque Meta está modificando su modelo de verificación de información.
La compañía comenzó en septiembre a probar las Notas de la Comunidad en 16 países de América Latina, incluidos México, Argentina, Colombia, Chile y Perú. Durante esta fase, la verificación independiente de datos continúa funcionando, pero Meta espera que las Notas de la Comunidad se conviertan posteriormente en su mecanismo estándar para añadir contexto a publicaciones confusas o engañosas.
Meta asegura que el sistema incorpora protecciones: las notas no se publican simplemente por mayoría y requieren coincidencia entre colaboradores que normalmente podrían discrepar. También utiliza sistemas automáticos para detectar señales de manipulación, acoso y otros incumplimientos.
Sin embargo, el Consejo de Supervisión recomendó recientemente que Meta no sustituyera su programa profesional de verificación de datos por las Notas de la Comunidad, una discusión que adquiere mayor relevancia cuando el contenido falso puede ser creado y distribuido mediante IA a una velocidad difícil de contrarrestar.
Meta enfrenta una prueba de gobernanza, no sólo de tecnología
La eliminación de estos dos videos demuestra que los mecanismos de supervisión pueden corregir decisiones de moderación. Pero también deja una pregunta para la compañía: ¿cuánto daño puede producirse antes de que una salvaguarda sea considerada suficientemente buena?
Los videos generados con IA obligan a replantear esa métrica. Una plataforma responsable no puede evaluar solamente cuántos contenidos elimina después de ser denunciados; también debe preguntarse cuántos llegaron a circular, cuántas personas fueron afectadas, cuánto tardó la respuesta y si las víctimas tuvieron que asumir la carga de detener la propagación.
Para los líderes ESG, este caso ofrece una lección que trasciende a Meta. La gobernanza de la inteligencia artificial empieza a formar parte de la responsabilidad empresarial porque sus fallas pueden traducirse en daños reputacionales, discriminación, violencia digital, desinformación y restricciones a la participación pública.
Meta está eliminando los contenidos señalados por su Consejo de Supervisión. Pero el desafío real consiste en evitar que las personas tengan que esperar a que un órgano externo determine que un deepfake ya causó suficiente daño para que la plataforma actúe. Ahí es donde la RSE tecnológica deja de ser una declaración de principios y se convierte en una cuestión de diseño, prevención, rendición de cuentas y protección efectiva de las personas.
