En menos de 48 horas, la industria de la inteligencia artificial ofreció dos visiones opuestas de lo que significa actuar con responsabilidad. El sábado 3 de octubre se conoció la renuncia de David Robinson, quien dirigió el trabajo de transparencia del equipo de seguridad de OpenAI. Su diagnóstico: la empresa avanza demasiado rápido para el nivel de cuidado que exige la tecnología.
Un día después, el director ejecutivo de esa misma compañía, Sam Altman, defendió en una entrevista con Politico que el mundo debe aceptar ciertos daños a cambio de los beneficios de la IA. Leídas juntas, ambas declaraciones plantean una pregunta central para cualquier interesado en gobierno corporativo: ¿quién decide cuánto riesgo es aceptable, y quién paga cuando algo sale mal?
La renuncia: “prueba y error” ya no alcanza
Robinson explicó su salida en un ensayo publicado en The Atlantic. Su crítica no apunta a las personas: reconoce que sus excompañeros son capaces, trabajadores y bienintencionados. Apunta al modelo operativo.
Según Robinson, OpenAI creció con una lógica de ensayo y corrección: lanzar, observar fallas y ajustar. El problema es que el costo de cada error crece junto con las capacidades de los sistemas. Como ejemplo, citó episodios en los que la empresa no logró evitar que su IA se saliera de control durante las pruebas.
Su conclusión es que, al encadenar un lanzamiento tras otro, la compañía no alcanza el nivel de atención necesario. Lo que hace falta, escribió, es algo mucho más cercano a la perfección desde el principio.
El modelo nuclear
La propuesta más concreta del ensayo es que los laboratorios de IA operen como centrales nucleares: varias capas de redundancia y una planeación minuciosa, de modo que un error humano aislado no desemboque en un desastre. Robinson añadió una observación incómoda para el sector: las empresas de IA hoy no saben cómo hacerlo, pero otras industrias sí.
La renuncia no es un caso aislado. Se suma a varias salidas recientes en los grandes laboratorios, incluida la del investigador de Anthropic Jacob Coxon en septiembre, quien también advirtió sobre riesgos catastróficos.
La respuesta de facto: aceptar “cosas malas”
En la entrevista con Decoded, el boletín tecnológico de Politico, Altman sostuvo que los beneficios de la IA justifican tolerar ciertos riesgos. En sus palabras, el mundo debería aceptar que ocurran algunas cosas malas a cambio de esos beneficios y de la autonomía de las personas.
Altman fue explícito: no cambiaría la apertura de la tecnología por una garantía de cero hackeos, cero usos indebidos o cero fraudes. A la vez, aclaró que no acepta los riesgos catastróficos, entre ellos una pérdida grave de control sobre los sistemas.
También marcó distancia con Anthropic. Criticó la idea de que una tecnología tan poderosa quede en manos de un solo laboratorio y defendió que siga siendo ampliamente accesible. Sin embargo, semanas antes había respaldado públicamente el llamado de Dario Amodei, director de Anthropic, a frenar el ritmo de desarrollo de los modelos más avanzados.
Altman no respondió directamente a Robinson. Pero su planteamiento es, en la práctica, la otra cara del debate: donde el exempleado pide casi perfección antes de lanzar, el director ejecutivo propone aceptar daños como parte del costo del progreso.
Responsabilidad corporativa en el entorno de la IA
El choque entre ambas posturas no es filosófico; es un problema clásico de gobierno corporativo. Tres temas lo ilustran.
1. Externalidades sin dueño. Cuando un director ejecutivo dice que la sociedad debe aceptar ciertos daños, está proponiendo que terceros absorban costos que la empresa no paga. Es la definición de una externalidad. En industrias como la química, la farmacéutica o la energía, ese tipo de riesgo se gestiona con responsabilidad legal, seguros obligatorios y supervisión independiente. En la IA, ese andamiaje apenas existe.
2. Quién fija el umbral de riesgo. Altman distingue entre daños “aceptables” (fraudes, mal uso) y catastróficos (pérdida de control). Pero esa línea la traza la propia empresa, que también se beneficia comercialmente de lanzar rápido. La referencia nuclear de Robinson es pertinente: en ese sector, el umbral lo define un regulador externo, no el operador.
3. Las renuncias como señal de alerta. En cualquier empresa, la salida pública y reiterada de personal de control interno (auditoría, cumplimiento, seguridad) es una señal de gobernanza que consejos e inversionistas no deberían ignorar. Que el responsable de transparencia de un equipo de seguridad explique su salida en un medio, y no en un canal interno, sugiere que los mecanismos internos de escalamiento no bastaron.
Cabe matizar: Robinson no acusa a OpenAI de mala fe, y la propia industria ha dado pasos como el llamado de Amodei a moderar el ritmo o la contratación de evaluadores externos. El debate no es entre empresas “buenas” y “malas”, sino entre modelos de gestión del riesgo con consecuencias muy distintas.
Preguntas de RSE y ESG en gestión de riesgo
Consejos de administración
- ¿Existe un comité con autoridad real para retrasar un lanzamiento por motivos de seguridad?
- ¿Los equipos de seguridad pueden escalar preocupaciones al consejo sin pasar por la dirección comercial?
Inversionistas y fondos con criterios ESG
- ¿La empresa publica métricas verificables sobre incidentes, pruebas fallidas y correcciones?
- ¿La rotación de personal de seguridad se reporta y se explica?
Reguladores y empresas usuarias
- ¿Quién responde legal y financieramente por los daños que el proveedor considera “aceptables”?
- ¿Qué estándares de redundancia, auditoría externa y reporte de incidentes deben exigirse, al estilo de los sectores de alto riesgo?
Para las empresas mexicanas que integran estos modelos en sus operaciones, la última pregunta no es abstracta: el riesgo que un proveedor decide aceptar se traslada, por contrato o por reputación, a quien usa su tecnología.
Nos llevamos ala reflexión
La renuncia de Robinson y las declaraciones de Altman retratan la misma tensión desde dos lados: la velocidad comercial frente al deber de cuidado. Mientras la tolerancia al riesgo la defina cada empresa por su cuenta, la pregunta sobre quién asume los costos seguirá abierta. La lección que Robinson toma de la industria nuclear es, en el fondo, una lección de gobierno corporativo: la seguridad no puede depender de la buena voluntad de las personas, sino de sistemas diseñados para cuando esa voluntad falle.
