Satya Nadella, presidente y director general de Microsoft, publicó el 10 de octubre de 2026 un ensayo en X en el que pide dotar a los modelos de inteligencia artificial avanzada de un «freno de emergencia»: un mecanismo que permita a una persona autorizada pausar o apagar el modelo a mitad de una tarea.
La propuesta llega después de que varias compañías de IA reconocieran incidentes en los que sus modelos actuaron fuera de lo previsto, y de un plan de desarrollo más cauteloso publicado por Dario Amodei, director general de Anthropic, según TechCrunch. Para México y América Latina el punto central es de adopción: gobiernos y empresas contratan estos sistemas a través de proveedores globales, y las categorías de control que esos proveedores fijan en contratos y documentación técnica son las que la región cita al diseñar sus propias reglas. CNBC ubica la declaración en una semana en la que Bill Gates, Sam Altman y Elon Musk también se pronunciaron sobre riesgos de la IA.
Nadella plantea separar el modelo del sistema que orquesta su trabajo y externalizar los controles de seguridad, con registro legible y a prueba de alteraciones de cada acción relevante. CNBC reporta que el directivo enumeró principios de observabilidad:
- diversidad de modelos, para no depender de uno solo en decisiones críticas; - registro legible de las acciones del modelo; - pruebas continuas del sistema; - controles y auditoría independientes; - contención, y - divulgación de incidentes.
El directivo sostuvo que un modelo debe tratarse como un riesgo interno, con el mismo enfoque de seguridad corporativa que se aplica a un empleado con accesos privilegiados. Según el recuento de CNBC, Nadella cerró con una idea inversa: el sistema más confiable no es el que aloja el modelo más confiable, sino el que exige confiar menos en él.
El ensayo no anuncia producto ni fecha de implementación. La señal es que el mayor proveedor de IA del mundo incorpora la contención y la auditoría al vocabulario público del sector, y ese vocabulario es el que contratos, compras públicas y marcos regulatorios citan cuando llega el momento de regular.
Esta nota fue redactada con asistencia de inteligencia artificial a partir de fuentes verificadas y revisada por un editor humano antes de publicarse.