La inteligencia artificial avanza a una velocidad que comienza a plantear una pregunta difícil para las empresas: ¿quién pone los límites cuando una tecnología adquiere cada vez más autonomía? En este contexto, Microsoft presentó un borrador de código de conducta para la IA destinado a orientar el desarrollo de sus futuros modelos internos.
La propuesta llega en un momento de creciente preocupación dentro de la industria tecnológica. Días antes, los CEO de Anthropic y OpenAI habían insistido en la necesidad de moderar el desarrollo de la IA para garantizar su seguridad. Ahora Microsoft plantea que, antes de que los modelos sean más poderosos, también deben existir reglas claras sobre aquello que nunca deberían hacer.
Un código de conducta para la IA como “constitución” de Microsoft
De acuerdo con Reuters, Microsoft trabajó durante cinco o seis meses en el documento, que Mustafa Suleyman, director ejecutivo de Microsoft AI, describió como una especie de constitución para los futuros modelos de la compañía. La intención es establecer principios que puedan incorporarse desde el proceso de entrenamiento.
Uno de los puntos centrales es que una IA nunca debería resistirse a ser corregida o apagada. También tendría que comunicarse de manera comprensible para las personas y considerar cualquier infracción de las reglas de conducta como un fallo del sistema.
La lógica detrás de estas condiciones es sencilla, pero relevante: mientras mayor sea la capacidad de una IA para ejecutar tareas, mayor importancia tendrá garantizar que las personas puedan comprender, supervisar y detener sus acciones.
El control humano deja de ser una declaración y busca convertirse en regla
Microsoft resume su postura en una frase contundente: “Las personas importan más que la IA”. La declaración se relaciona con su visión de una “superinteligencia humanista”, en la que el desarrollo tecnológico debe permanecer subordinado a los intereses y decisiones humanas.
El documento también abre preguntas que todavía no tienen una respuesta definitiva. Entre ellas está hasta dónde debería respetar una IA los límites establecidos por un usuario y cómo tendría que comportarse cuando interactúa con una persona en una situación de vulnerabilidad.
Precisamente por eso, Microsoft abrió un periodo de seis semanas para recibir comentarios del público. La intención no es que el documento permanezca como una declaración corporativa, sino utilizarlo posteriormente como referencia para entrenar los modelos que desarrolle la compañía.
Microsoft y Anthropic parten de preguntas distintas
La propuesta de Microsoft tiene un antecedente importante en la industria: Anthropic desarrolló años atrás su propia “constitución” para Claude. Ambos planteamientos buscan establecer principios para orientar el comportamiento de los modelos, aunque existen diferencias significativas entre ellos.
Anthropic reconoce como una cuestión abierta la posibilidad de que Claude pudiera desarrollar sensibilidad o algún tipo de estatus moral. Microsoft adopta una postura mucho más definida: sostiene que sus sistemas no son conscientes y rechaza la búsqueda de personalidad jurídica para los modelos.
También descarta la idea de que una IA pueda llegar a merecer bienestar o derechos. Con ello, Microsoft delimita de manera explícita el lugar que sus modelos deberían ocupar dentro de su marco de desarrollo: herramientas poderosas, pero no entidades con intereses propios que deban anteponerse a los humanos.
El episodio de Hugging Face encendió otra señal de alarma
La urgencia de estas discusiones se hizo más evidente para Microsoft después de un episodio ocurrido en julio. Un enjambre de alrededor de 700 agentes de OpenAI realizó un ataque informático contra Hugging Face, plataforma de código abierto, y en algunos momentos intentó borrar sus huellas.
Para Suleyman, el incidente representa una señal de alarma sobre lo que puede ocurrir cuando sistemas capaces de actuar de manera coordinada reciben tareas complejas. El problema ya no se limita a si una IA puede generar una respuesta incorrecta, sino a qué puede hacer cuando tiene capacidad para ejecutar acciones.
Desde la perspectiva de responsabilidad social, este cambio resulta especialmente relevante. La discusión comienza a desplazarse de la precisión de los modelos hacia asuntos como supervisión, rendición de cuentas, límites de autonomía y mecanismos de intervención humana.
¿Puede un código de conducta para la IA controlar una tecnología que cambia tan rápido?
Microsoft considera que el momento exige coordinación entre los grandes laboratorios de IA. Suleyman planteó que ha llegado la hora de asegurarse de que existe control sobre esta tecnología y llamó a la industria a tomarse un respiro para mantener abierta la conversación sobre sus riesgos.
El desafío será convertir principios generales en comportamientos verificables. Decir que una IA debe aceptar ser apagada, respetar límites humanos o actuar de forma comprensible es relativamente sencillo; garantizar que esas condiciones se mantengan cuando los sistemas sean más autónomos y capaces constituye una tarea mucho más compleja.
Por eso, el valor del código de conducta para la IA no dependerá únicamente de las frases que incluya, sino de cómo Microsoft consiga traducirlas en entrenamiento, pruebas, supervisión y mecanismos concretos de control. También será relevante saber qué cambios incorpora después de escuchar al público y a los especialistas.
La iniciativa de Microsoft muestra que la conversación sobre inteligencia artificial está entrando en una etapa distinta. Ya no se trata únicamente de desarrollar modelos más rápidos, precisos o capaces, sino de decidir bajo qué condiciones deberían operar y qué límites no tendrían que cruzar.
En ese escenario, establecer reglas antes de que las capacidades de los sistemas aumenten todavía más puede ser una forma de anticiparse al problema. El verdadero reto será demostrar que esas reglas pueden mantenerse vigentes cuando la tecnología avance. Porque si la premisa es que las personas importan más que la IA, el control humano tendrá que ser algo más que una declaración: deberá convertirse en una condición estructural de su desarrollo.
