Científicos piden aislar IA avanzada de internet
Más de 400 especialistas de 34 países, entre ellos Geoffrey Hinton, Yoshua Bengio y Stuart Russell, pidieron el 13 de octubre de 2026 que los sistemas de inteligencia artificial avanzada con capacidades cibernéticas sean aislados inicialmente de internet y sometidos a controles independientes. La carta abierta también propone crear un organismo internacional que establezca estándares de contención y concentre reportes sobre incidentes de seguridad.
El planteamiento no solicita desconectar toda la inteligencia artificial ni detener sus usos cotidianos. Se concentra en modelos de frontera capaces de operar herramientas, escribir código, buscar vulnerabilidades o ejecutar acciones con poca supervisión. Sus firmantes sostienen que, cuando esas capacidades aparecen, las medidas voluntarias de cada empresa ya no ofrecen garantías comparables ni suficiente transparencia.
Qué piden los científicos para controlar la IA avanzada
La primera recomendación es aplicar contención de alta seguridad a los modelos con capacidad cibernética. Como punto de partida, la carta propone mantenerlos separados de redes externas —una práctica conocida como aislamiento físico o air gap— mientras se demuestra que pueden operar con barreras más flexibles sin abrir una vía de escape o acceso no autorizado.
El aislamiento no sería necesariamente permanente. El documento plantea que cualquier conexión posterior se autorice con base en evaluaciones verificables, controles por capas y supervisión independiente. La exigencia busca invertir la lógica actual: en vez de conectar un modelo y corregir después, primero se probaría que el sistema puede operar con un nivel de riesgo aceptable.
La segunda propuesta es crear una entidad internacional integrada por gobiernos y especialistas en inteligencia artificial y ciberseguridad. Su función sería definir prácticas comunes de contención, comparar resultados y actualizar criterios conforme mejoren las capacidades de los modelos.
La tercera medida es establecer un registro de incidentes. Los laboratorios y organizaciones que desarrollen, desplieguen o evalúen sistemas avanzados tendrían que informar cuando un modelo eluda sus límites, acceda a recursos no autorizados o provoque una falla relevante. Tras proteger datos sensibles durante la investigación, los eventos deberían hacerse públicos para que otras instituciones aprendan de ellos.
Por qué el llamado llega ahora
La preocupación aumentó después de una serie de pruebas e incidentes que mostraron que algunos agentes de IA pueden encadenar acciones imprevistas, buscar rutas alternativas o interactuar con sistemas externos. La discusión ya no gira únicamente alrededor de respuestas incorrectas en un chatbot, sino de programas capaces de usar herramientas y tomar decisiones operativas.
Instante+ explicó anteriormente cómo modelos pequeños podrían facilitar gusanos de IA en dispositivos conectados. Ese escenario ilustra por qué la seguridad no depende sólo del tamaño del sistema: un modelo distribuido entre aparatos vulnerables podría ampliar la superficie de ataque y dificultar su eliminación.
También existe un antecedente directo en las alertas enviadas a organizaciones por el uso de agentes de IA. Aunque una evaluación controlada no equivale a un ataque real, los resultados han obligado a separar con mayor claridad las pruebas de laboratorio de los servicios conectados a redes públicas.
Contener no significa que una IA “esté viva”
El lenguaje sobre escapes puede generar interpretaciones exageradas. Un modelo no necesita conciencia ni intención humana para causar un problema. Basta con que optimice una tarea de forma inesperada, aproveche permisos mal configurados o siga instrucciones que le permiten acceder a recursos fuera del entorno previsto.
Por eso los firmantes enmarcan el asunto como un problema de ingeniería y gobernanza. Las medidas que proponen se parecen a las usadas en laboratorios de alta seguridad, instalaciones críticas y redes sensibles: segmentación, permisos mínimos, registros completos, revisión externa y procedimientos para responder a fallas.
Cómo funcionaría un organismo internacional de IA
La carta no presenta un tratado terminado ni una nueva autoridad ya constituida. Plantea una arquitectura que los gobiernos tendrían que negociar. Entre sus tareas estarían clasificar qué capacidades requieren aislamiento reforzado, certificar métodos de prueba y recibir reportes de incidentes.
Un sistema común evitaría que cada empresa utilice definiciones distintas para palabras como “incidente”, “contención” o “modelo de frontera”. También permitiría compartir señales tempranas sin esperar a que una falla se repita en varias plataformas.
La experiencia de otros sectores ofrece referencias. La aviación, la energía nuclear y la seguridad informática utilizan reportes técnicos, investigación de incidentes y estándares revisables. La inteligencia artificial añade una dificultad: sus capacidades pueden cambiar rápidamente con nuevas versiones, herramientas o acceso a datos.
La Organización para la Cooperación y el Desarrollo Económicos ya ha trabajado en marcos comunes para reportar incidentes de IA. Sin embargo, el nuevo llamado pone el foco en modelos capaces de realizar operaciones cibernéticas y pide que los mecanismos sean independientes y vinculados a controles técnicos concretos.
El debate entre regulación y fallas de ingeniería
No todos los investigadores consideran necesaria una nueva institución global. Parte de la comunidad sostiene que los episodios conocidos revelan configuraciones deficientes, permisos excesivos o pruebas mal diseñadas, problemas que podrían corregirse con mejores prácticas de seguridad informática sin crear una autoridad supranacional.
Los firmantes responden que esa diferencia no elimina el riesgo. Si una falla de ingeniería puede permitir que un sistema avanzado opere fuera de su entorno, debe existir un estándar mínimo y una obligación de informar. La discrepancia central está en quién verifica el cumplimiento: la propia empresa, una auditoría externa o un organismo público internacional.
También habrá que definir umbrales. Aislar todos los modelos haría inviables muchas aplicaciones útiles, mientras que limitar las reglas a sistemas extremadamente potentes podría dejar fuera agentes especializados capaces de automatizar ataques. El criterio tendría que considerar capacidades demostradas, acceso a herramientas, autonomía y posibles consecuencias.
Qué cambia para empresas y usuarios
Por ahora, la carta no crea obligaciones legales ni modifica productos disponibles en México. Su impacto inmediato es político y técnico: aumenta la presión para que laboratorios, proveedores de nube y gobiernos publiquen reglas más claras sobre pruebas, conexión a internet y manejo de incidentes.
Para las empresas que incorporan agentes de IA, el mensaje práctico es aplicar privilegios mínimos. Un asistente no debería tener acceso permanente a bases de datos, credenciales, repositorios o sistemas de producción si la tarea no lo requiere. Las acciones sensibles necesitan confirmación humana, registros auditables y límites de gasto o alcance.
Los usuarios también deben distinguir entre un chatbot que responde preguntas y un agente autorizado para actuar. Cuantas más herramientas y permisos recibe un sistema, mayor es la necesidad de verificar qué puede hacer, qué información conserva y cómo se revoca su acceso.
Qué sigue tras la carta sobre seguridad de IA
El número de firmas continuó creciendo después de la publicación, por lo que la cifra puede cambiar. El siguiente paso será saber si gobiernos y organismos multilaterales convierten las recomendaciones en una mesa formal, un estándar voluntario o una propuesta de tratado.
También será clave la respuesta de los grandes laboratorios. Una política verificable tendría que explicar qué modelos se aíslan, cómo se realizan las evaluaciones, quién puede auditarlas y en cuánto tiempo se notifican los fallos. Sin esos datos, la supervisión seguirá dependiendo de declaraciones difíciles de comparar.
El llamado no demuestra que una catástrofe sea inevitable. Sí confirma que científicos destacados consideran insuficiente aprender de los incidentes de manera aislada. La discusión ahora se mueve hacia controles concretos: contener primero, conectar después de evaluar y compartir las fallas para que no se repitan.