Debate sobre freio na IA opõe segurança e concorrência

A discussão sobre reduzir o ritmo de avanço da inteligência artificial passou a reunir argumentos de segurança, concorrência e capacidade regulatória. O debate ganhou força depois que Jacob Coxon, pesquisador de 27 anos, anunciou em 8 de setembro sua saída da Anthropic. Quatro dias depois, Dario Amodei, fundador da empresa responsável pelo Claude, defendeu uma desaceleração deliberada dos modelos, avaliações externas com amplo acesso às rotinas de segurança e coordenação entre governos democráticos.

Sam Altman e Elon Musk manifestaram concordância com a ideia. Em 19 de setembro, quatro assinantes pagantes abriram uma ação coletiva na corte federal do Distrito Norte da Califórnia contra Anthropic, OpenAI, SpaceXAI e Google. A alegação apresentada é que a convergência entre as empresas, divulgada como medida ética, poderia funcionar na prática como um acordo entre concorrentes para limitar o ritmo de evolução dos produtos.

O dilema de controlar uma tecnologia distribuída

O debate também recupera o dilema formulado por David Collingridge em 1980. Enquanto uma tecnologia ainda é jovem, seria possível moldá-la, mas seus efeitos não estão claros. Quando os efeitos aparecem, porém, a tecnologia já se espalhou e o controle se torna caro ou pouco efetivo. A inteligência artificial combina os dois problemas: permanece em transformação e, ao mesmo tempo, já é distribuída em grande escala.

Uma das respostas regulatórias tem sido usar limiares de poder computacional. A União Europeia adotou 10²⁵ operações de ponto flutuante como gatilho de risco sistêmico, enquanto a lei californiana de transparência para modelos de fronteira trabalha com 10²⁶. O GPT 4 foi estimado em cerca de 2,1 vezes 10²⁵ operações. O limite californiano equivaleria a manter cem mil placas gráficas de ponta funcionando durante aproximadamente um mês.

O problema é que a métrica mede o insumo usado no treinamento, não a capacidade entregue pelo modelo. Com a melhora da eficiência dos algoritmos, a mesma quantidade de computação passou a produzir sistemas mais potentes. A Epoch AI estima que o primeiro modelo acima de 10²⁶ apareceu em fevereiro de 2025. A projeção citada no artigo aponta cerca de 30 modelos nessa faixa no início de 2027 e mais de 200 até 2030.

Outro obstáculo está nos modelos de pesos abertos, que podem ser baixados e executados em infraestrutura própria. O Hugging Face passou de 2,43 milhões para 2,96 milhões de modelos públicos entre janeiro e agosto. A família Qwen acumulava mais de 151 mil derivações e entre 180 e 210 novos repositórios por dia, segundo os dados citados. Técnicas de abliteração também foram apresentadas como capazes de retirar recusas de segurança de modelos distribuídos.

Experiências jurídicas e o caso brasileiro

O artigo compara o cenário com a regulação de ativos virtuais. Em 2022, o Tesouro dos Estados Unidos sancionou o Tornado Cash. No caso Van Loon, em novembro de 2024, o Quinto Circuito considerou que contratos inteligentes imutáveis não eram propriedade para fins da lei americana de sanções. A conclusão citada é que o Estado pode responsabilizar quem publica um artefato, mas não desinstalar um arquivo já distribuído.

No Brasil, o Projeto de Lei 2.338/2023 foi aprovado pelo Senado em dezembro de 2024 e aguardava parecer na Câmara desde a designação do relator, em maio de 2025. O texto defende que a saída não deve ser apenas discutir velocidade, mas criar transparência, comunicação de incidentes graves, proteção a denunciantes, revisão periódica e estrutura para fiscalizar. A proposta parte da avaliação de que uma lei apoiada em métrica que o próprio Estado não consegue auditar tende a envelhecer e ser contornada.