No Science20, cientistas defendem regulação do uso de IA

No Science20, cientistas defendem regulação do uso de IA

Grupo de engajamento do G20 discute como lidar com avanços e riscos da inteligência artificial 

Por Everton Victor e Julia Lima

O Science20 – grupo de engajamento do G20 para discutir a Ciência e Tecnologia- deste ano focou suas atenções na Inteligência Artificial, e especialmente no uso desenfreado da tecnologia com pouca ou nenhuma regulamentação ao redor do mundo. O Science20 divulgou no último dia 31 de julho um documento sobre o tema, assinado pelos representantes de academias de ciências dos países-membros. 

Entre as principais medidas sugeridas pelo S20 estão:  a proteção dos empregos alinhada com o desenvolvimento tecnológico; um esforço global para regulamentar a Inteligência Artificial; e a criação de uma governança internacional para dados.  O documento reúne 10 recomendações sobre a força-tarefa de IA. Todas as propostas foram definidas em consenso pelos países integrantes do G20 e pelas nações convidadas. E estão no Comunicado divulgado pelo Science20. Dos países-membros do S20, apenas Arábia Saudita não assinou o Comunicado.

Países signatários do Comunicado do S20. Foto: S20

Medidas para criar regras no ambiente digital não estão restritas apenas ao Science20. O T20, grupo de engajamento do G20 para Think Tanks, em seu Communiqué, também propôs a criação de um novo grupo do G20 focado nas discussões sobre Inteligência Artificial e dados, o Data20. Além desses, o debate sobre Inteligência Artificial está presente em outros grupos de engajamento que compõem o G20.

Apesar de os integrantes salientarem que “a IA é um motor crítico para o desenvolvimento, especialmente na saúde, educação e enfrentamento das mudanças climáticas”, eles alertam que o mau uso da tecnologia pode trazer malefícios à população e ao meio ambiente. De acordo com o relatório ambiental de 2023 emitido pelo Google, as  emissões de efeito estufa da empresa aumentaram 48% por conta do crescimento do uso da Inteligência Artificial. Outra preocupação de especialistas que acompanham o tema é que a utilização incorreta da tecnologia reforce estereótipos de gênero e raça, aprofundando o que hoje se chama de “racismo algorítmico”.

As discussões do S20, como reforça o preâmbulo do Comunicado, estão alinhadas com as metas da agenda global acordadas por representantes de 193 países em 2015 a serem alcançadas até 2030. Ao todo são 17 Objetivos de Desenvolvimento Sustentável (ODS) e 169 metas acordadas entre os países signatários, entre elas a erradicação da fome e da pobreza, além do desenvolvimento econômico, social e ambiental sustentável em todo o globo. Para o Science20, manter uma cooperação internacional no campo científico se coloca como “mecanismo-chave” no planejamento e elaboração de um futuro alinhado com a agenda global.

Virgílio Almeida, coordenador da força- tarefa de Inteligência Artificial do S20, afirmou que a discussão começou ainda na cúpula do ano passado, e que o monopólio da tecnologia de IA, junto com sua capacidade de uso militar, trouxeram o tema para o centro do debate deste ano.  Além da força-tarefa comandada por Virgílio, o Science20 neste ano também tem mais 4 grupos: Bioeconomia;  Desafios da Saúde; Justiça Social; e Processo de Transição Energética. Todos formularam suas respectivas recomendações ao encontro de líderes. 

Representantes dos países-membros do S20 durante a cúpula. Foto: Júlio Cesar Guimarães/S20

O Comunicado foi entregue às Trilhas de Sherpas e Finanças do G20. Elas serão as responsáveis por apresentar os projetos para os líderes que estarão no Rio de Janeiro para a Cúpula Final do G20, nos dias 18 e 19 de novembro.

Panorama Brasileiro

No Brasil, antes mesmo da cúpula final do G20, já estão em curso algumas ações sobre Inteligência artificial. No Congresso, está em tramitação o Projeto de Lei 2338, de 2023, que trataria de estabelecer as diretrizes do funcionamento dessa tecnologia no país. De acordo com o projeto, cabe ao Poder Executivo fiscalizar o cumprimento das regras pelas empresas que fornecem o serviço e também das pessoas físicas que o utilizam.

Ainda em julho o Ministério de Ciência, Tecnologia e Inovação (MCTI) lançou em Brasília o Programa Brasileiro de Inteligência Artificial (PBIA). Ele propõe ações para implementar a IA em áreas como saúde e educação, com o orçamento proveniente dos ministérios, de fundos públicos, de estatais e de investimentos privados. Além disso, ele prevê uma parte do orçamento voltada apenas para contribuir nas ações de regulamentação, cerca de R$103,25 milhões. A maior parte dos mais de R$23 bilhões indicados no plano estão direcionados para o uso da IA para a inovação empresarial – R$ 13,79 bilhões.

Apresentação do Plano Brasileiro de Inteligência Artificial. Reprodução: Ministério de Ciência, Tecnologia e Inovação

Para a saúde, foram pensados sistemas para melhorar a detecção de doenças, direcionar melhor o uso do orçamento e automatizar a transcrição de consultas. Na educação, as ações estão voltadas para monitoramento de frequência dos alunos e tutoria de matemática.

O PBIA recebeu algumas críticas de  especialistas. Para eles, as ações estão pouco detalhadas, e falta detalhar como elas seriam implementadas e fiscalizadas. Raquel Lobão, professora da Faculdade de Comunicação Social da Uerj  e especialista no uso de IA, afirmou que “as informações estão no documento,  mas não estão detalhadas o suficiente para que todos adotem as ações e recomendações presentes no PBIA.”

Para ela,  um dos exemplos sobre os quais faltam informações é o uso de chatbots. Apesar de ter a função de melhorar a experiência do usuário com informações personalizadas e respostas ágeis,  diz ela, esse tipo de IA funciona sem a devida regulamentação. “Imagina um idoso que é atendido por um chatbot numa empresa de financiamento de concessão de crédito. Ele tem dificuldade no entendimento de cláusulas, que aparecem muitas vezes no contrato, e ele é atendido por um assistente virtual que passa uma série de informações para ele muitas vezes num pop-up ou numa tela de telefone. Esse idoso, por não estar atento e porque a sua educação midiática não é igual talvez à de uma pessoa mais jovem, aceita aquela proposta que está sendo vendida e não leva em consideração uma série de observações pequenas que estavam ali.” 

Renata Mielli, diretora do comitê gestor da Internet do MCTI, disse à Agenc que o projeto é um plano de trabalho e investimento, cabendo a cada um dos ministérios indicar a finalidade aos planos, adaptando-os às especificidades das diferentes áreas e realidades.

Quanto à fiscalização do plano, Renata afirmou que um comitê de governança seria criado para garantir que as ações estariam sendo aplicadas de forma adequada, mas que o processo regulatório compete exclusivamente ao Congresso Nacional.