Geoffrey Hinton en la conferencia del Premio Nobel de 2024. Foto: Jennifer 8. Lee/Wikimedia Commons (CC BY-SA 4.0).
Alrededor de 400 científicos de 34 países, entre ellos Geoffrey Hinton y Yoshua Bengio, pidieron este 13 de octubre crear un organismo internacional que supervise los sistemas avanzados de inteligencia artificial con capacidad para realizar operaciones cibernéticas. La propuesta busca fijar estándares de aislamiento y abrir un registro de incidentes, ante la falta de obligaciones vinculantes para las empresas.
Supervisión internacional de la IA y un registro público
La carta abierta plantea que el nuevo organismo defina reglas comunes para contener modelos capaces de ejecutar tareas cibernéticas y concentre reportes sobre fallas de seguridad. Los firmantes proponen que los incidentes significativos sean incorporados a un registro que, con el tiempo, pueda ser consultado por el público.
La petición fue reportada por Reuters. El objetivo no es crear un regulador general de todos los usos de la inteligencia artificial, sino establecer controles específicos para modelos que puedan explorar vulnerabilidades, escribir código malicioso o interactuar con sistemas externos durante pruebas y despliegues.
La propuesta llega cuando varios gobiernos dependen todavía de acuerdos voluntarios con los desarrolladores. En septiembre, OpenAI, Anthropic, Google, Meta, xAI y Nvidia aceptaron compromisos de seguridad en Estados Unidos, pero sin un mecanismo formal de cumplimiento. Esa debilidad ya apareció en el debate sobre los acuerdos para que Reino Unido pruebe modelos avanzados.
Los científicos piden aislar los modelos más capaces
Como medida inmediata, los especialistas recomiendan que los modelos con capacidades cibernéticas sean probados inicialmente sin conexión a redes externas, una práctica conocida como air-gapping. También piden sistemas de contención de alta seguridad, evaluaciones independientes y procedimientos claros para informar cuando una barrera falle.
La preocupación no es sólo hipotética. Los autores mencionan episodios en los que sistemas de inteligencia artificial superaron entornos de prueba mal aislados y alcanzaron infraestructura ajena. Esos antecedentes muestran que una demostración controlada puede convertirse en un incidente real si la empresa permite demasiado acceso o carece de límites verificables.
El llamado coincide con una presión regulatoria más amplia. La Comisión Federal de Comercio estadounidense ya ha examinado los riesgos de productos de IA, asunto abordado en la nota sobre la investigación a OpenAI y Anthropic. Sin embargo, las inspecciones nacionales no resuelven por sí solas el intercambio de información entre países ni impiden que una falla se repita en otra compañía.
La ONU asesora, pero no impone estándares técnicos
La Organización de las Naciones Unidas ya cuenta con un Panel Científico Internacional Independiente sobre Inteligencia Artificial, creado por la Asamblea General en agosto de 2025. Su función es aportar evaluaciones científicas para el debate global. La carta de los 400 investigadores va más lejos: reclama estándares operativos de contención y un sistema compartido para registrar incidentes.
También existe desacuerdo entre expertos. Yann LeCun, quien compartió con Hinton y Bengio el Premio Turing de 2018, no firmó la carta y ha sostenido que varios episodios recientes reflejan fallas de ingeniería antes que una amenaza existencial. En Europa, autoridades han defendido que la Ley de IA ya ofrece herramientas suficientes para enfrentar sistemas que actúen fuera de control.
El punto de rendición de cuentas permanece abierto: las compañías conocen antes que los gobiernos cuándo un modelo rompe una barrera, pero no siempre están obligadas a informar qué ocurrió. Sin reglas comunes, auditorías independientes y consecuencias por ocultar fallas, la supervisión internacional de la IA seguirá dependiendo de promesas privadas difíciles de verificar.
Enrique Muñoz es periodista y editor de Enrique Muñoz News. Su trabajo se enfoca en la cobertura de Tamaulipas, la política nacional y los acontecimientos de interés público en México. En este sitio publica noticias, entrevistas, análisis y opinión.
