OpenAI, Anthropic e outras oito empresas de IA assinam em Paris compromisso de manter mecanismos para desligar modelos
Apelo de Paris pela Segurança da IA, articulado por Macron, reúne 12 países e dez empresas em compromissos de avaliação, transparência e alerta de incidentes, mas não tem prazos nem sanções.
Governos e dez empresas de inteligência artificial, entre elas OpenAI, Anthropic, Microsoft e a francesa Mistral AI, assinaram na segunda-feira (9) o Apelo de Paris pela Segurança da IA, um documento articulado pelo presidente da França, Emmanuel Macron. O ponto mais concreto do texto é o compromisso dos desenvolvedores de modelos de fronteira, os sistemas mais avançados do setor, de manter mecanismos capazes de restringir, pausar ou desligar esses modelos, inclusive durante o treinamento e o uso interno. A declaração, porém, é um compromisso político voluntário: não cria órgão fiscalizador, prazos nem sanções.
Quem assinou
Segundo a lista publicada pelo Palácio do Eliseu, sede da Presidência francesa, as empresas signatárias são Anthropic, Black Forest Labs, Cohere, Domyn, Hugging Face, Microsoft, Mistral AI, OpenAI, Sakana AI e Synthesia. Também aderiram organizações da sociedade civil e de pesquisa, como a LawZero, fundada pelo pesquisador canadense Yoshua Bengio, e a SaferAI.
A relação de países mudou ao longo das últimas horas. A primeira versão divulgada pelo governo do Canadá trazia seis nomes: Bahrein, Canadá, Finlândia, França, Noruega e Países Baixos. Na versão em inglês do Eliseu consultada nesta terça-feira (10), a lista já somava 12 países, com a entrada de Chipre, Quênia, Letônia, Áustria, Estônia e Irlanda. O texto informa que continua aberto a novas adesões. O Brasil não aparece entre os signatários.
A assinatura ocorreu depois de uma reunião por videoconferência convocada por Macron. Segundo o comunicado do Eliseu, participaram chefes de Estado e de governo de oito países, entre eles Japão e Reino Unido, além do secretário do Tesouro dos Estados Unidos, representantes da ONU e da OCDE e dirigentes como Sam Altman, da OpenAI, Dario Amodei, da Anthropic, e Arthur Mensch, da Mistral. Participar da reunião não significou assinar o documento: Estados Unidos, Japão e Reino Unido não constam da lista de signatários divulgada até a publicação desta reportagem. O encontro foi realizado na véspera do Fórum de Paris sobre a Paz, que nesta terça discute a governança internacional da IA.
O que o texto prevê
O documento se organiza em três frentes. A primeira é a avaliação: governos, pesquisadores e empresas se comprometem a construir um quadro comum de avaliação e gestão de riscos dos modelos mais avançados, com normas técnicas e metodologias compartilhadas. A atenção principal está no uso malicioso nas áreas cibernética, química, biológica, radiológica e nuclear, e no risco de perda de controle à medida que os sistemas ganham autonomia. Os signatários prometem publicar, em formato padronizado, os resultados não sensíveis dessas avaliações e reuni-los em um repositório público.
A segunda frente trata de responsabilidade. Além dos mecanismos de interrupção, os desenvolvedores se comprometem a divulgar capacidades, limitações e riscos conhecidos dos modelos e a apoiar, quando for proporcional ao risco, avaliações feitas por especialistas independentes. O texto reconhece o risco de que salvaguardas sejam removidas ou contornadas, mas defende preservar os benefícios dos modelos de pesos abertos, que podem ser baixados e modificados por terceiros. Aos governos cabe deixar claro, nas leis, quem responde por danos em grande escala, inclusive quando atravessam fronteiras.
A terceira frente é o compartilhamento de informações. Os signatários prometem reforçar os sistemas de alerta e notificação para trocar rapidamente dados sobre incidentes graves, cibernéticos ou de perda de controle, e estudar a criação de um mecanismo de cooperação específico. Os governos se comprometem ainda a oferecer canais seguros e confidenciais para que funcionários e outras pessoas possam denunciar riscos sistêmicos sem medo de retaliação.
Limites do compromisso
Pelo texto, as metas dependem de padrões e procedimentos que ainda precisam ser negociados, e não há calendário para isso. As obrigações das empresas vêm acompanhadas de ressalvas como "quando apropriado" e "de forma proporcional ao risco", o que deixa margem para interpretação. Também não está definido quem vai verificar se os mecanismos de desligamento existem e funcionam.
A ausência de países que concentram grande parte do desenvolvimento de IA, como Estados Unidos e China, também reduz o alcance do acordo. No campo das empresas, a lista inclui as duas principais desenvolvedoras americanas de modelos de linguagem, OpenAI e Anthropic, além da Microsoft, mas não traz Google, Meta nem xAI. Para o Eliseu, o principal avanço é que, pela primeira vez, companhias de IA assinaram um texto que defende uma mobilização internacional e com vários atores diante dos riscos de segurança dessa tecnologia.
Fachada do Palácio do Eliseu, sede da Presidência da França, em Paris, em setembro de 2019; imagem ilustrativa de arquivo, recortada. Foto: Leynadmar, via Wikimedia Commons, licença CC BY-SA 4.0.
Leia também
- Austrália vai criar regulador de segurança da IA depois que agente da OpenAI invadiu portal do governo
- Trump diz que riscos da IA podem ser controlados e que aceita salvaguardas, desde que os EUA não fiquem atrás da China
- Governo quer votar o Marco Legal da IA até dezembro: o que muda para as empresas
