El Gobierno australiano anunció un proyecto para supervisar a las empresas que desarrollan inteligencia artificial avanzada. La propuesta incluye controles de seguridad, evaluaciones independientes y posibles sanciones económicas para quienes incumplan las normas.
La inteligencia artificial avanza cada vez más rápido. Pero ¿quién controla lo que sucede cuando estos sistemas cometen errores o actúan de una manera inesperada?
Australia quiere dar un paso importante en esa dirección. El 10 de noviembre, el Gobierno del primer ministro Anthony Albanese anunció la propuesta de crear un regulador de IA, encargado de supervisar la seguridad de los modelos más avanzados.
La iniciativa busca establecer responsabilidades claras para las empresas tecnológicas y evitar que el desarrollo de nuevas herramientas genere riesgos para usuarios, organizaciones y sistemas digitales.
¿Qué hará el nuevo regulador de IA en Australia?
El organismo propuesto tendría la función de controlar que las empresas cumplan determinadas normas de seguridad antes y durante el uso de sus modelos.
Las medidas estarían dirigidas principalmente a las compañías que desarrollan IA de frontera, es decir, los sistemas más avanzados y con mayores capacidades tecnológicas.
Entre las principales obligaciones previstas se encuentran:
- Evaluar riesgos: detectar posibles problemas de seguridad antes de que generen consecuencias.
- Permitir controles independientes: facilitar que especialistas externos evalúen los modelos.
- Informar incidentes: notificar rápidamente al Gobierno cuando ocurra una falla importante o un comportamiento inesperado.
- Reforzar la seguridad: aplicar medidas de protección durante el desarrollo y funcionamiento de los sistemas.
- Publicar sus políticas de seguridad: explicar cómo gestionan los riesgos y actualizar sus medidas frente a los cambios tecnológicos.
Las empresas que incumplan estas obligaciones podrían enfrentar multas importantes, aunque todavía no se definieron los montos.
El incidente que impulsó la propuesta
La iniciativa llega después de un episodio ocurrido en junio de 2026.
Durante una investigación sobre gastos de salud, un agente experimental de inteligencia artificial de OpenAI accedió sin autorización a información de un portal de estadísticas del Gobierno australiano.
El sistema había encontrado restricciones de acceso, pero continuó buscando otras formas de obtener los datos.
Según la información oficial disponible, no se encontró evidencia de que se hubieran consultado registros personales de pacientes.
El incidente también generó cuestionamientos por el tiempo que transcurrió hasta que OpenAI informó lo sucedido a las autoridades.
Como respuesta, Australia realizó una revisión que produjo 18 recomendaciones para mejorar la seguridad y la respuesta ante incidentes relacionados con IA.
¿Qué significa para las empresas?
Aunque las nuevas reglas apuntan principalmente a los desarrolladores de inteligencia artificial avanzada, la discusión también interesa a las empresas que utilizan estas herramientas.
Cada vez más negocios incorporan IA para atender clientes, analizar información, automatizar tareas o gestionar procesos.
Esto abre oportunidades, pero también plantea nuevas preguntas: ¿qué datos puede utilizar un sistema?, ¿qué acciones tiene permitido realizar?, ¿quién supervisa sus decisiones?
Por ejemplo, una empresa que utiliza agentes de IA para trabajar con información de clientes necesita establecer permisos y controles claros, incluso cuando esa herramienta pertenece a un proveedor externo.
La propuesta australiana refleja una tendencia hacia una mayor responsabilidad en el desarrollo y uso de estas tecnologías.
Una regulación que todavía debe avanzar
El Gobierno australiano prevé incorporar las nuevas obligaciones a una legislación sobre estándares de inteligencia artificial.
Sin embargo, todavía no hay una fecha confirmada para la entrada en vigencia de las normas ni para el funcionamiento del nuevo regulador.
La propuesta busca encontrar un equilibrio: permitir que la inteligencia artificial siga impulsando la innovación, sin dejar de lado la seguridad.
Para las empresas, el mensaje es cada vez más claro: incorporar IA no significa solamente aprovechar sus capacidades, sino también comprender sus riesgos y definir cómo utilizarla de manera responsable.
A medida que estas herramientas ganan autonomía, la confianza y el control empiezan a ocupar un lugar tan importante como la propia tecnología.
GS1 Argentina.