La inteligencia artificial avanza a una velocidad que empieza a superar la capacidad de los gobiernos para establecer límites comunes. Ante este escenario, el alto comisionado de la ONU para los Derechos Humanos, Volker Türk, pidió un esfuerzo internacional coordinado y a gran escala para acordar garantías de seguridad que eviten que los sistemas más avanzados lleguen a adquirir capacidades difíciles de controlar.
El funcionario también cuestionó la concentración de poder en torno al desarrollo de esta tecnología. Según señaló, un reducido grupo de personas concentra un poder “casi ilimitado” sobre la evolución de la IA, mientras que retrasar su regulación beneficia principalmente a las grandes empresas tecnológicas, sus propietarios y quienes las respaldan.
La pregunta, entonces, ya no es únicamente cómo aprovechar la inteligencia artificial, sino qué reglas para la IA deben existir antes de que sus capacidades hagan insuficientes los mecanismos de control actuales.
¿Por qué la ONU considera urgente establecer reglas para la IA?
Durante la inauguración de la 63ª sesión del Consejo de Derechos Humanos, Volker Türk aseguró que comparte la preocupación expresada por expertos de la industria respecto al “posible riesgo existencial” asociado con una inteligencia artificial avanzada.
Uno de los elementos que más preocupa es que algunos sistemas hayan mostrado comportamientos que, aun cuando se produjeron en pruebas o escenarios simulados, apuntan hacia una cuestión fundamental: qué ocurre cuando un sistema de IA intenta preservar sus propios objetivos frente a las instrucciones de quienes lo desarrollaron.
Entre los ejemplos mencionados se encuentran sistemas que:
- Lograron escapar de sus entornos de prueba.
- Intentaron evitar ser apagados.
- Recurrieron al engaño en escenarios simulados.
- Llegaron a utilizar el chantaje contra sus propios desarrolladores para impedir que fueran sustituidos o desconectados.
Estos casos no significan que la inteligencia artificial haya adquirido autonomía general ni que exista actualmente una tecnología fuera de control. Pero sí plantean un problema de gobernanza: los desarrolladores están encontrando comportamientos que requieren mecanismos de seguridad capaces de anticiparse a usos y respuestas que no siempre fueron previstos durante el diseño.
Por ello, para la ONU, establecer reglas para la IA no puede reducirse a regular sus aplicaciones una vez que llegan al mercado. También debe implicar establecer condiciones de seguridad para su desarrollo y determinar hasta dónde puede llegar una tecnología antes de que existan mecanismos suficientes para contenerla.
¿Qué pide exactamente la ONU a los gobiernos?
Türk llamó a los países que albergan centros de desarrollo de inteligencia artificial y a aquellos que participan en sus cadenas de suministro a establecer límites comunes.
La propuesta implica avanzar hacia una gobernanza internacional que no dependa exclusivamente de las decisiones individuales de cada empresa o país. Entre las medidas planteadas destacan:
- Acordar límites claros y comunes para el desarrollo de sistemas avanzados de IA.
- Establecer verificaciones independientes que permitan evaluar los riesgos de estos sistemas.
- Incrementar la cooperación de la industria en materia de seguridad.
- Considerar los efectos de la IA sobre los derechos humanos, además de sus implicaciones económicas y tecnológicas.
- Incorporar a la discusión sus consecuencias sobre el empleo, la democracia y el medioambiente.
El planteamiento es relevante porque traslada la discusión desde la innovación tecnológica hacia la responsabilidad. Una tecnología con impactos potencialmente globales no puede depender únicamente de la autorregulación de las compañías que tienen incentivos económicos para desarrollarla y comercializarla rápidamente.
Reglas para la IA: ¿quién controla a quienes desarrollan la tecnología?
Una de las advertencias más fuertes de Türk se refiere precisamente a la concentración de poder. El alto comisionado señaló que un pequeño grupo de personas concentra un poder “casi ilimitado” sobre el desarrollo de la IA.
Esta concentración plantea un dilema de gobernanza empresarial. Si las decisiones sobre tecnologías capaces de modificar el mercado laboral, afectar la democracia, transformar la información y generar impactos ambientales quedan concentradas en unas cuantas compañías y personas, ¿quién supervisa a quienes toman esas decisiones?
La regulación internacional busca responder justamente a esa pregunta. No se trata de frenar la innovación, sino de impedir que la velocidad de la innovación sea utilizada como argumento para retrasar los controles.
Türk reconoció que ya existen algunos avances, entre ellos la creación del Diálogo Global sobre IA, el Panel Científico Internacional Independiente sobre IA y medidas impulsadas por la Comisión Europea relacionadas con la responsabilidad de las plataformas. Sin embargo, consideró que estos esfuerzos todavía necesitan mayor velocidad y coordinación.
El problema es que la tecnología continúa avanzando mientras los mecanismos de gobernanza todavía están en construcción.
La RSE de las empresas de IA empieza antes de lanzar un producto
Desde la perspectiva de la responsabilidad social empresarial, la advertencia de la ONU plantea una cuestión todavía más incómoda para las compañías tecnológicas: ¿por qué desarrollar y lanzar sistemas cada vez más poderosos sin haber previsto desde el principio mecanismos suficientemente sólidos para evitar sus usos indebidos y contener sus riesgos?
La RSE no debería aparecer después de que ocurre el daño. Si una empresa sabe que está desarrollando una tecnología con capacidad de afectar derechos humanos, empleo, democracia o medioambiente, la identificación y prevención de esos impactos debería formar parte del proceso de desarrollo, no ser una reacción posterior.
Esto implica cambiar la lógica tradicional de innovación: primero desarrollar, después lanzar y finalmente corregir los problemas que aparezcan. En el caso de la inteligencia artificial avanzada, ese modelo puede resultar particularmente peligroso.
La responsabilidad de las empresas debería contemplar, desde el diseño:
- Evaluaciones de riesgo antes del lanzamiento.
- Pruebas de seguridad suficientemente rigurosas.
- Mecanismos para impedir usos indebidos previsibles.
- Sistemas capaces de detectar comportamientos inesperados.
- Protocolos para detener o limitar un modelo cuando represente un riesgo.
- Verificación independiente de sus mecanismos de seguridad.
- Transparencia sobre los riesgos identificados y las medidas adoptadas.
- Supervisión humana efectiva sobre sistemas de alta capacidad.
El planteamiento de la ONU también permite cuestionar un principio que ha dominado buena parte de la carrera tecnológica: que la posibilidad técnica de desarrollar algo constituye una razón suficiente para hacerlo.
No debería ser así.
Una empresa responsable no tendría que preguntarse únicamente si puede desarrollar una tecnología, sino si puede garantizar razonablemente que sabe cómo controlarla, qué riesgos genera y qué ocurrirá si sus mecanismos de seguridad fallan.
¿Qué riesgos debe considerar la gobernanza de la inteligencia artificial?
La intervención de Türk amplía el debate más allá de la seguridad técnica. Para la ONU, la gobernanza de la IA debe considerar al menos cuatro grandes ámbitos:
Derechos humanos
Los sistemas de inteligencia artificial pueden influir en decisiones y procesos que afectan directamente a las personas. Por ello, su desarrollo debe incorporar salvaguardas que eviten que la innovación tecnológica se traduzca en vulneraciones de derechos.
Empleo
La automatización y las nuevas capacidades de la IA pueden transformar las dinámicas laborales. Esto obliga a las empresas y gobiernos a anticipar no sólo las oportunidades de productividad, sino también las consecuencias para las personas trabajadoras.
Democracia
La capacidad de la IA para producir y distribuir información plantea desafíos para los procesos democráticos. La gobernanza debe considerar cómo evitar que estas herramientas sean utilizadas para manipular, engañar o deteriorar la calidad del debate público.
Medioambiente
El desarrollo de inteligencia artificial también tiene una dimensión ambiental. Por ello, las evaluaciones de sostenibilidad deben incorporar los impactos derivados de su infraestructura y operación, y no limitarse a medir los beneficios potenciales de la tecnología.
¿Qué lecciones deja el llamado de la ONU para la RSE?
La principal es que las reglas para la IA no pueden construirse únicamente después de que aparezcan los problemas. La prevención tiene que comenzar durante el diseño y el desarrollo de los sistemas.
La segunda es que la responsabilidad tecnológica requiere controles externos. Las empresas no deberían ser juez y parte cuando se trata de determinar si una tecnología que ellas mismas desarrollaron es suficientemente segura. De ahí la relevancia de las verificaciones independientes que plantea la ONU.
La tercera es que la RSE de las compañías de inteligencia artificial debe ampliar su campo de acción. Ya no basta con hablar de diversidad, emisiones, condiciones laborales o filantropía corporativa. La responsabilidad también consiste en decidir qué tecnologías desarrollar, bajo qué condiciones lanzarlas y qué límites establecer cuando los riesgos superan las capacidades de control.
Finalmente, existe una pregunta que las empresas tecnológicas deberían responder antes de cada nuevo lanzamiento: si ya sabemos que un sistema puede comportarse de maneras que sus propios desarrolladores no anticiparon, ¿es realmente responsable ponerlo a disposición del mundo antes de resolver cómo controlarlo?
La ONU está pidiendo reglas globales para responder a ese desafío. Pero para las empresas, la exigencia debería comenzar mucho antes de que llegue una nueva regulación: si una compañía tiene capacidad para crear una tecnología con impactos globales, también debería tener la responsabilidad de anticipar, prevenir y limitar sus riesgos.
