Modelos abertos de inteligência artificial ampliam acesso, mas trazem riscos

O debate sobre modelos abertos de inteligência artificial envolve uma disputa entre democratização do acesso e segurança. Esses sistemas podem ser baixados e executados por organizações ou pesquisadores, ao contrário de modelos fechados, normalmente acessados por aplicativos e APIs controlados pelas empresas que os desenvolveram.

A abertura permite examinar o funcionamento de um modelo, adaptá-lo a necessidades específicas e, em alguns casos, reduzir o custo de uso. Pesquisadores também conseguem testar mecanismos internos, combinar sistemas e desenvolver aplicações para áreas que não são prioridade dos grandes laboratórios.

Mais acesso e menos concentração

Empresas que lidam com dados sensíveis podem preferir executar um modelo em infraestrutura própria. Isso aumenta o controle sobre informações estratégicas e reduz a dependência de um fornecedor externo. Para países e organizações com menos recursos, sistemas abertos também podem ampliar a participação no desenvolvimento tecnológico.

Os defensores da abertura afirmam que a concentração da infraestrutura de IA em poucas companhias cria dependência econômica e política. Eles argumentam que modelos acessíveis podem ajudar pesquisadores independentes, empresas menores e comunidades que trabalham com idiomas ou problemas pouco atendidos.

O acesso aos pesos do modelo, porém, não elimina todas as desigualdades. Executar sistemas avançados exige chips caros e energia. Além disso, empresas podem incorporar melhorias feitas pela comunidade sem remunerar ou reconhecer os responsáveis.

Filtros são mais difíceis de aplicar

Em serviços fechados, a empresa pode bloquear contas, monitorar solicitações e atualizar filtros quando identifica tentativas de uso perigoso. Depois que um modelo é baixado e instalado em equipamentos próprios, esses mecanismos ficam mais difíceis de impor.

Um sistema aberto pode ser submetido a novo treinamento para aceitar comandos que antes recusava. Isso aumenta a preocupação com ataques cibernéticos, produção de agentes nocivos e outras aplicações que poderiam causar danos. Ao mesmo tempo, modelos fechados também já foram usados de forma indevida e seus filtros não são perfeitos.

A discussão não se resume a modelos abertos seguros e modelos fechados perigosos. Os dois formatos têm benefícios e vulnerabilidades diferentes.

Pesquisadores estudam alternativas intermediárias, como lançamento gradual, modelos treinados sem determinadas capacidades perigosas e sistemas resistentes a alterações. Ainda não existe uma solução que elimine todos os riscos.

O desafio é encontrar um equilíbrio que distribua os benefícios da inteligência artificial sem disponibilizar recursos capazes de facilitar danos graves. Para isso, especialistas defendem regras proporcionais ao nível de capacidade de cada sistema, transparência sobre treinamento e acesso responsável à infraestrutura.