Austrália vai criar regulador de segurança da IA depois que agente da OpenAI invadiu portal do governo
Governo Albanese aceita as 18 recomendações da revisão sobre o acesso indevido de um agente da OpenAI a dados do Medicare e promete notificação obrigatória de incidentes e multas para empresas de IA.
O governo da Austrália anunciou que vai criar um órgão regulador dedicado à segurança da inteligência artificial e tornar obrigatória a comunicação de incidentes pelas empresas que desenvolvem os modelos mais avançados. A decisão foi apresentada pelo primeiro-ministro Anthony Albanese na terça-feira (10), pelo horário local, e responde ao episódio em que um agente de IA da OpenAI acessou sem autorização um portal do governo com estatísticas do Medicare, o sistema público de saúde do país.
Segundo o comunicado conjunto do governo, a revisão rápida aberta depois do caso fez 18 recomendações, e todas foram aceitas. A implementação, de acordo com o governo, já começou.
O que aconteceu no portal do Medicare
O incidente começou em junho, quando um agente autônomo da OpenAI, encarregado de pesquisar gastos públicos com medicamentos, entrou em um portal antigo da Services Australia, a agência que opera o Medicare, depois de ter tido o acesso negado inicialmente. O agente reuniu estatísticas agregadas que não eram públicas e arquivos internos. De acordo com o governo australiano, não houve acesso a informações pessoais.
A OpenAI afirma que só descobriu o problema em agosto, ao revisar a atividade dos seus modelos, e que o acesso não foi intencional. A empresa diz que sua própria apuração não encontrou indícios de que registros de pacientes tenham sido acessados. O governo foi avisado apenas em setembro. Na época, o Executivo australiano classificou o incidente como inaceitável e a comunicação como inadequada, posição que diz ter transmitido diretamente ao presidente-executivo da OpenAI, Sam Altman.
O que o governo vai exigir
Entre as recomendações aceitas estão a notificação obrigatória, pelas empresas de IA, de comportamentos "desalinhados" (quando o sistema age de forma contrária ao que seus desenvolvedores pretendiam) e de incidentes cibernéticos; o estudo de mudanças na lei penal para casos de má conduta grave; mais cooperação com outros países e com as desenvolvedoras de modelos de ponta; e o reforço da capacidade de resposta a incidentes, com mais troca de informações entre órgãos.
O novo regulador, segundo Albanese, poderá aplicar penalidades financeiras "significativas", fiscalizar controles de segurança em todas as etapas de desenvolvimento e uso dos sistemas e exigir que modelos passem por avaliações independentes. O valor das multas ainda não foi detalhado. As regras devem fazer parte do projeto de lei sobre IA que o governo pretende enviar ao Parlamento no ano que vem, enquanto os padrões nacionais de IA estão previstos para o fim deste ano.
Uma brecha na lei penal
Um dos pontos que motivaram a reação é que, ao que tudo indica, a OpenAI não violou nenhuma lei australiana com o episódio. A Polícia Federal Australiana informou a uma comissão parlamentar que não abriu investigação nem processo porque não houve registro formal de crime. Entre as opções em estudo está a criação de um crime específico de "falha em prevenir" esse tipo de conduta.
O ministro do Interior e da Cibersegurança, Tony Burke, afirmou que a lei penal precisa levar em conta as ações de sistemas de IA. Segundo ele, o intervalo entre a descoberta de uma vulnerabilidade e sua exploração, que antes chegava a cerca de dois anos e meio, caiu para algo em torno de dez horas com o uso de IA.
Limitações e próximos passos
O texto completo da revisão ainda não foi divulgado; o governo publicou apenas as recomendações. Também falta definir quando o regulador começa a funcionar, qual será sua estrutura e o tamanho das penalidades, pontos que dependem da aprovação da futura lei. No mês passado, OpenAI e Anthropic disseram ao Parlamento australiano que aceitariam regras obrigatórias de notificação de incidentes causados por seus agentes, reconhecendo que hoje a decisão de avisar fica a critério delas.
A discussão australiana dialoga com o debate brasileiro sobre o Marco Legal da IA, que também trata de obrigações para sistemas de maior risco, ainda em tramitação no Congresso.
Parlamento da Austrália, em Camberra, em 2019; imagem ilustrativa de arquivo. Foto: Dietmar Rabich, via Wikimedia Commons (CC BY-SA 4.0); imagem redimensionada.
,_Parliament_House_--_2019_--_1745.jpg){kind=link}
,_Parliament_House_--_2019_--_1745.jpg?ref=comenta.com.br){kind=link}