Especialista defende que a transparência no desenvolvimento da IA é essencial para garantir controle social, acesso público e reduzir o domínio das grandes corporações
Por Joyce Pezzato
A inteligência artificial já está presente em muitos aspectos do cotidiano, desde buscadores na internet até assistentes virtuais e sistemas de recomendação. Com o avanço acelerado dessa tecnologia cresce também o debate sobre quem deve controlá-la: as grandes corporações ou a sociedade. Essa discussão ganhou força recentemente entre os países do Brics — bloco formado por Brasil, Rússia, Índia, China e África do Sul, entre outros — que buscam formas de tornar a IA mais acessível. O que poucos sabem é que o comportamento dessas ferramentas depende diretamente da forma como são desenvolvidas: com código aberto ou fechado.
Para o professor Fernando Osório, do Instituto de Ciências Matemáticas e de Computação (ICMC) da USP em São Carlos, a defesa do código aberto na inteligência artificial vai além da questão técnica — trata-se também de uma pauta política e social. “Quando é defendido o código aberto, significa que você terá um pouco mais de controle sobre como aquele sistema vai se comportar, o que ele vai responder, se ele tem algum tipo de viés de treinamento ou até ideológico.”
A transparência na construção de uma inteligência artificial passa por três elementos principais: o código de programação usado para desenvolver o sistema, os dados que foram utilizados para treiná-lo e o modelo final que resulta desse aprendizado. Quando qualquer uma dessas partes é mantida em segredo — como acontece com muitas grandes empresas — torna-se impossível saber como a IA chegou às suas respostas ou o que está influenciando suas decisões.
Mesmo sistemas amplamente usados, como os mecanismos de busca Google e Bing, têm impacto direto sobre o que as pessoas veem, leem e consomem. As respostas que aparecem primeiro nem sempre são neutras. Segundo Osório, um exemplo marcante foi o caso da consultoria política Cambridge Analytica, que em 2018 foi acusada de usar, com fins eleitorais, dados de 50 milhões de usuários do Facebook, influenciando a votação do Brexit — saída do Reino Unido da União Europeia. “Ali foram usadas ferramentas de IA que, de certa forma, faziam uma análise de comportamento e do tipo de pessoas que tinham acesso às informações que ele propagava e que teriam influenciado a saída do Reino Unido da comunidade europeia. Isso foi bastante delicado, teve até processos judiciais em relação a isso”, explica.
Transparência como ferramenta de democratização
Para o professor Osório, ao abrir o código, democratiza um pouco mais o conhecimento, a ferramenta e o uso dela. “Impede que grandes empresas e governos tenham um monopólio do conhecimento, da maneira que é apresentada a informação para as pessoas. No momento que você abre, você tem a opção de escolher, de saber o que está acontecendo, de entender e de ofertar novas alternativas”, completa o professor.
Apesar dos benefícios, a inteligência artificial aberta também enfrenta obstáculos. “É a mesma questão da patente de produtos. Alguém investiu, pesquisou, desenvolveu, fez o produto e quer ganhar com isso. Então existe uma questão econômica nisso, muitas vezes, o impacto é de você não conseguir ter acesso a um produto mais moderno. Para isso, você terá que pagar muito para ter acesso a uma tecnologia, um produto que está coberto por uma questão de patente ou um produto que só alguns sabem fabricar”, diz Osório.
Contudo, mesmo que o código aberto tenha suas limitações, o código fechado ainda representa um impacto mais profundo na vida da população, segundo Osório. “Aqui no Brasil, por exemplo, uma empresa pode comprar serviços de publicidade, prestados por uma empresa estrangeira que fornece os vídeos e as propagandas já prontas. Com isso, impacta o emprego, bem-estar e uma série de questões”, diz o professor.
Diante dos avanços constantes da inteligência artificial, a discussão sobre transparência e acesso se torna cada vez mais urgente. Decidir entre modelos abertos ou fechados não é apenas uma escolha técnica, mas um posicionamento sobre o futuro que se deseja construir: mais democrático e inclusivo ou concentrado nas mãos de poucos. Nesse cenário, compreender como a IA é desenvolvida e exigir participação social nesse processo pode ser o primeiro passo para garantir que essa tecnologia sirva de fato ao interesse público.
*Estagiária sob supervisão de Ferraz Junior
