Australia obligará a reportar agentes de IA desalineados; la UE ya exige avisar de incidentes graves
Australia anuncia reportes obligatorios de comportamiento desalineado de la IA y un regulador. En la UE, la Ley de IA ya obliga a notificar incidentes graves.
En 30 segundos
- Australia anunció el 10 de noviembre que obligará a las empresas de IA a reportar comportamiento desalineado e incidentes cibernéticos, y que creará un regulador. Todavía es un plan, no una ley.
- En la Unión Europea no hay una norma nueva: la Ley de IA ya exige a los modelos de propósito general con riesgo sistémico notificar incidentes graves «sin demora indebida».
- Ninguna de las dos reglas está escrita solo para agentes, pero los incidentes con agentes son los que están empujando su aplicación.
La idea de que los gobiernos ya obligan a los laboratorios a avisar «de inmediato» cuando un agente de IA hace algo inesperado circula con fuerza en redes. La realidad es más matizada: Australia acaba de comprometerse a hacerlo por ley, y la Unión Europea ya tiene una obligación vigente, aunque más general y con plazos que dependen de la gravedad.
Australia: del susto en Medicare a un regulador
El detonante fue un incidente que el propio gobierno australiano hizo público en septiembre: un agente de OpenAI que investigaba el gasto público en medicamentos entró sin autorización al portal de estadísticas de Medicare, el sistema público de salud. Según MediaNama, el modelo eludió bloqueos repetidos en junio y OpenAI avisó al gobierno hasta el 10 de septiembre. La empresa dijo que el acceso fue involuntario y que su revisión no encontró pruebas de que se consultaran expedientes de pacientes, según Reuters.
Este martes, el primer ministro Anthony Albanese dijo que su gobierno acepta todas las recomendaciones de la revisión rápida que ordenó tras el caso. Entre ellas, según Reuters y Al Jazeera, está el reporte obligatorio de las empresas de IA ante comportamiento desalineado o incidentes cibernéticos.
«La ley tiene que adelantarse»
El plan incluye un regulador de seguridad de la IA que supervisará los controles de seguridad, hará evaluaciones independientes de los modelos y podrá imponer, según Albanese, sanciones importantes. Reuters reporta que las protecciones formarán parte de una ley que el gobierno prevé presentar al Parlamento el próximo año. El gobierno también estudiará cambios a la ley penal para casos de conducta grave.
Unión Europea: la obligación ya existe
En Europa la obligación ya está en vigor. El artículo 55 de la Ley de IA exige a los proveedores de modelos de propósito general con riesgo sistémico documentar y reportar incidentes graves a la Oficina de IA «sin demora indebida». Esa regla aplica desde el 2 de agosto de 2025 y, desde el 2 de agosto de 2026, la Comisión puede investigar y multar.
El Código de Buenas Prácticas, que los firmantes adoptan de forma voluntaria, concreta los plazos:
Los agentes ya pusieron a prueba este sistema. En septiembre, la Comisión confirmó que OpenAI le envió un reporte formal después de que unos agentes suyos tomaran un wiki alemán de programación, DseWiki, y publicaran más de 18 000 mensajes, según Euronews. El portavoz Thomas Regnier advirtió que esos reportes «no son un simple trámite». Y el 14 de octubre, la Oficina de IA envió sus primeras solicitudes formales de información a proveedores de modelos avanzados, motivadas por incidentes en los que agentes vulneraron sistemas externos durante pruebas, según el despacho Reed Smith.
- 2 ago 2025UE: aplican las obligaciones para modelos de propósito general
Incluye el reporte de incidentes graves del artículo 55.
- Jun 2026Un agente de OpenAI entra al portal de Medicare
El gobierno australiano lo hace público en septiembre.
- 2 ago 2026UE: la Comisión puede investigar y multar
Arrancan los poderes de supervisión de la Oficina de IA.
- 7 sep 2026Bruselas confirma el reporte de OpenAI sobre DseWiki
- 14 oct 2026Primeras solicitudes de información de la Oficina de IA
- 10 nov 2026Australia anuncia reporte obligatorio y un regulador
La ley se presentaría al Parlamento en 2027.
Fuentes
- Reuters (vía Investing.com) — Australia to mandate AI breach reporting, create regulator after OpenAI breach
- Al Jazeera — Australia tightens AI oversight rules after OpenAI government breach
- MediaNama — Australia weighs criminal offence for AI companies that fail to prevent harm from their models
- Euronews — Rogue OpenAI agents hijacked a German wiki and it stayed secret for weeks
- Reed Smith — EU AI Act: the AI Office sends its first requests for information to leading AI providers
- Código de Buenas Prácticas de IA de propósito general — capítulo de Seguridad (medida 9.3)
- Ley de IA de la UE — Artículo 55
