Kanishka Narayan, ministro británico de Inteligencia Artificial. Foto: Alecsandra Dragoi / Department for Science, Innovation and Technology, vía Wikimedia Commons (CC BY 4.0). Recorte 16:9.
Reino Unido comenzó a evaluar la generación más reciente de modelos avanzados de inteligencia artificial mediante su AI Security Institute, con apoyo del Gobierno de Estados Unidos y desarrolladores como Google. El acceso permitirá buscar fallas y riesgos antes de que los sistemas lleguen al público, pero sigue basado en acuerdos voluntarios, una limitación relevante mientras Londres apenas estudia convertir parte de esas salvaguardas en obligaciones legales.
Seguridad de la IA: acceso que depende de las empresas
El ministro británico de Inteligencia Artificial, Kanishka Narayan, confirmó este 12 de octubre que especialistas del instituto ya realizan evaluaciones rigurosas de los modelos más recientes. La comunicación oficial del Gobierno británico dijo que el trabajo se consiguió después de conversaciones con desarrolladores y con Washington, pero no publicó la lista completa de sistemas examinados ni las condiciones de acceso.
Reuters informó que el esquema permite revisar capacidades, posibles usos indebidos y salvaguardas antes del lanzamiento. El instituto identificó entre los modelos evaluados a Gemini 4 Argon, de Google. La apertura ocurre después de reportes de que Estados Unidos había pedido a OpenAI y Anthropic retener nuevos modelos mientras realizaba una revisión propia.
El dato central es que el instituto británico no tiene una facultad general para obligar a las compañías a entregar sus sistemas. La propia agencia describe su relación con OpenAI y Anthropic como una colaboración voluntaria. Narayan reconoció que depender de tecnología ajena obliga a ser realistas sobre la permanencia de cualquier acuerdo. Para un país sin un desarrollador nacional de primera línea, la continuidad de las pruebas depende tanto de la diplomacia como de la capacidad técnica.
Más defensa cibernética, pero obligaciones aún por definir
El Gobierno anunció que ampliará dos programas que, según su balance, ayudaron a detectar y corregir más de mil vulnerabilidades potenciales en sistemas públicos. También estudiará incluir en el proyecto de Ley de Seguridad y Resiliencia Cibernética reglas para notificar incidentes graves, fallas cercanas y situaciones en las que agentes autónomos eludan la supervisión humana.
Sin embargo, esas medidas todavía están en etapa de diseño. Londres señaló que los detalles serán trabajados con legisladores, expertos y operadores, y que informará en los próximos meses sobre su apoyo a la verificación independiente. Esa distancia entre las pruebas técnicas ya iniciadas y las obligaciones legales aún no aprobadas deja una pregunta de rendición de cuentas: qué ocurre si una empresa niega acceso, retrasa información o libera un modelo pese a advertencias de seguridad.
La discusión se conecta con otros riesgos tecnológicos recientes. Los ataques contra centros de datos mostraron la fragilidad física de la infraestructura digital, mientras la regulación de plataformas digitales exhibe las dificultades de convertir principios generales en deberes exigibles.
Microsoft pide reglas globales y evaluadores independientes
Brad Smith, presidente de Microsoft, reclamó el mismo lunes reglas globales que obliguen a las empresas a informar incidentes, avisar a las víctimas de sistemas comprometidos y disponer de mecanismos de emergencia para detener una IA fuera de control. También defendió evaluadores independientes. Su argumento, recogido por Reuters, fue que productos cotidianos como la leche o las lavadoras enfrentan más controles de seguridad.
La postura empresarial refuerza la presión para regular, aunque no sustituye una norma vinculante. El Gobierno británico respondió que considerará legislar si el sistema actual resulta insuficiente y pidió a los desarrolladores no lanzar modelos cuyos riesgos no puedan controlar. La prueba será si esa advertencia se traduce en acceso estable, publicación de resultados y consecuencias claras cuando las salvaguardas fallen.
Fotografía: Kanishka Narayan, ministro británico de Inteligencia Artificial. Crédito: Alecsandra Dragoi / Department for Science, Innovation and Technology, vía Wikimedia Commons, licencia CC BY 4.0. Imagen recortada a formato 16:9.
Enrique Muñoz es periodista y editor de Enrique Muñoz News. Su trabajo se enfoca en la cobertura de Tamaulipas, la política nacional y los acontecimientos de interés público en México. En este sitio publica noticias, entrevistas, análisis y opinión.
