Previstas para serem votadas no segundo semestre pelo Senado, regras para uso da IA no País devem ser discutidas em detalhes, defendem cientistas

Pesquisadores que trabalham com o desenvolvimento de tecnologia e inovação no Brasil estão envolvidos em uma série de debates sobre o projeto de marco regulatório da Inteligência Artificial (IA) que está sendo discutido por uma comissão de juristas, especialistas da área e representantes da sociedade civil e do setor privado no Senado Federal. O marco, que reúne normas e diretrizes para regular a operação de áreas nas quais empresas oferecem serviços de utilidade pública, deve determinar parâmetros para assegurar a qualidade e a confiabilidade das ações. A comissão formada em Brasília deve entregar um projeto de regulamentação aos senadores até o final do ano. O Centro de Inteligência Artificial (C4AI) da USP é uma das instituições engajadas nos debates que estão sendo realizados sobre o tema. 

Especialistas do Centro defendem que a regulamentação não limite ou restrinja excessivamente as possibilidades de uso e de novos avanços que podem ser obtidos com a Inteligência Artificial. “Não podemos criar um obstáculo para a Inovação. Temos que continuar protegendo os direitos fundamentais dos cidadãos, mas também precisamos pensar na inovação tecnológica, que traz muitos benefícios para a população. Temos que realizar uma análise mais aprofundada para evitar impactos negativos. A insegurança jurídica pode atrapalhar investimentos estrangeiros e de empresas brasileiras em um País que mais consome do que produz tecnologia atualmente”, alerta Cristina Godoy, professora da Faculdade de Direito de Ribeirão Preto, da USP, e pesquisadora do C4AI, financiado em conjunto pela IBM e a Fundação de Amparo à Pesquisa do Estado de São Paulo (FAPESP). 

Ao longo dos últimos meses, o Centro tem promovido uma série de eventos sobre o tema para ampliar o debate acerca do assunto e dar espaço à pluralidade de opiniões, como o Ciclo de mesas-redondas realizado em parceria com o Instituto de Estudos Avançados (IEA) da USP em que foram discutidos, entre julho e novembro de 2021, os principais desafios impostos pela Inteligência Artificial para o campo da propriedade intelectual e as questões éticas pertinentes ao cenário. O Ciclo introduziu alguns dos temas que foram debatidos posteriormente no I Seminário Internacional “Inteligência Artificial: Democracia e Impactos Sociais”, ocorrido nos dias 13 e 14 de dezembro do ano passado. Outros pontos relevantes sobre o assunto também foram colocados em pauta durante conversas, discussões e bate-papos realizados pelo C4AI e que podem ser assistidos na playlist disponível no Canal do Centro no Youtube. 

“A discussão é complexa e merece ampla participação da sociedade. A comunidade acadêmica deve participar desse debate e ajudar a explicitar os pontos positivos e negativos de cada proposta, sempre procurando nos levar a um caminho no qual a tecnologia atue como propulsora do progresso e do bem estar humano. O C4AI tem sido uma plataforma importante para esse debate entre a sociedade e a academia sobre regulação de IA, contribuindo tanto com o profundo conhecimento técnico sobre a área como pela análise bem fundamentada de pensadores e pesquisadores de direito e ciências sociais”, afirma Fabio Cozman, diretor do (C4AI).

Precaução – Ainda é difícil prever os impactos da adoção imediata de sistemas de Inteligência Artificial nos direitos e deveres dos cidadãos, bem como quais seriam as fiscalizações necessárias e ações de governança, dentre tantas outras questões relevantes ainda em aberto. Mesmo assim, a expectativa é de que a Comissão de Juristas, que tem discutido temas ligados à segurança pública, serviços digitais e uso de dados pessoais, segredos comerciais, aspectos sociais e até o desenvolvimento de pesquisas por parcerias público-privadas, elabore um texto e apresente aos Senadores. 

Para Cristina Godoy, que também é doutora em Filosofia do Direito, a discussão ainda está crua para que seja apresentada uma proposta. “Temos vários problemas que precisam ser analisados. Existem muitas lacunas ainda. Precisamos definir adequadamente e de forma bastante precisa, por exemplo, o que é a Inteligência Artificial e o que é exatamente um Sistema Inteligente para que possamos regulamentar seu uso”, alerta. Outra questão que tem sido debatida no Senado Federal está relacionada à transparência, responsabilização e prestação de contas das empresas que produzem esse tipo de tecnologia. “Quando a gente fala sobre carros autônomos, por exemplo, quem é o culpado em um acidente envolvendo um carro operado por um sistema computacional? Em países da Europa, as empresas já propõem que elas mesmas sejam responsabilizadas em caso de acidente por causa de falha do sistema. Dessa maneira, elas têm liberdade para desenvolver inovações. A ideia da circulação de carros autônomos é diminuir os riscos, e não aumentá-los”, explica a professora, que também ressaltou que ainda não foram definidos requisitos para o poder público contratar serviços de IA.

A Comissão de Juristas tem analisado e discutido o tema tendo como base projetos de lei em tramitação no Congresso Nacional. O principal deles, de autoria do deputado federal Eduardo Bismarck, estabelece fundamentos e diretrizes para o desenvolvimento e a aplicação da Inteligência Artificial no Brasil e sobre como o poder público deve atuar. O texto prevê que os sistemas de IA devem respeitar os direitos fundamentais à dignidade humana e à privacidade. Além disso, há a indicação de que riscos devem ser monitorados e mitigados, criando mecanismos de governança transparentes e colaborativos que contem com participação de representantes de vários setores, assim como a necessidade de estimular a adoção de instrumentos regulatórios e adoção de direitos e deveres que promovam a inovação, a ciência, um desenvolvimento econômico sustentável e inclusivo, além do bem-estar da sociedade. 

Um debate de todos – Definir limites, regras, formas adequadas de aplicação da Inteligência Artificial – uma tecnologia de abrangência tão ampla – é um desafio enorme. João Paulo Cândia, professor da Faculdade de Filosofia, Letras e Ciências Humanas da USP, em São Paulo, e coordenador da área de Humanidades do C4AI, reitera que a regulação da Inteligência Artificial no Brasil deve ser discutida por todos os setores. “Nós estamos cautelosos. Teria que dar mais espaço e gerar incentivos para o setor privado participar da discussão sobre a regulação pública e a melhor a forma de complementá-la com as diretrizes, princípios, normas e regras de compromissos voluntários que o setor privado assumiria. É preciso ter a participação dos dois setores juntos no processo de regulação”, diz. 

De acordo com Cristina, criar restrições e engessar em excesso um setor que sempre está mudando e inovando, pode provocar resistência no mercado privado. “As empresas gostam muito da ideia de uma possível certificação ética de Inteligência Artificial, mas quando a gente fala em ter uma agência, um órgão ou uma autoridade reguladora, como a gente tem a Autoridade Nacional de Proteção de Dados (ANPD), há uma resistência enorme, pois seria mais uma regulação do poder público. Já há uma legislação que nos ajuda, temos o judiciário, mas há urgência por parte do Senado pela aprovação do Marco, o que pode ser um passo muito arriscado”, enfatiza a pesquisadora do C4AI.

“Propor a criação de uma agência reguladora é muito prematuro. Quanto mais a gente discutir, mais a gente vai ter condições de ter uma recomendação adequada. Nós temos um bom ecossistema para o desenvolvimento científico, para a inovação e para a Inteligência Artificial. Estamos percebendo que o setor privado, as startups e as empresas de tecnologia estão se destacando na América Latina”, recorda o professor João. Além de discutir as regras, implementá-las também será um grande desafio para os próximos anos. Outros países, com destaque para alguns da Europa, têm avançado de forma significativa na regulamentação da Inteligência Artificial. Essas experiências devem servir de inspiração para aplicação no Brasil. “O Poder Judiciário, o Ministério Público, as Procuradorias e outros setores vão precisar contar com um corpo técnico consultivo para ajudá-los em relação à solução dos casos. Vamos aprender com o tempo”, espera Cristina. 

Segundo a pesquisadora, o legislativo deve realizar uma análise mais longa dos interesses da sociedade em conjunto com o setor privado e discutir com mais cautela os impactos positivos e negativos. “A Inteligência Artificial terá que estar em todos os campos do direito. Novas regras serão necessárias para proteger os direitos suprimidos, mas a gente não está totalmente descoberto. Temos o suficiente. As pessoas não estão desprotegidas. Já existem outras estruturas tradicionais em diferentes instâncias. Nós temos o Código de Defesa do Consumidor, a Lei Geral de Proteção de Dados, o Marco Civil da Internet, a Lei de Direitos Autorais, além da própria Constituição e o Código Civil. Há, por exemplo, uma resolução bem detalhada do Conselho Nacional de Justiça sobre a aplicação da IA pelo Poder Judiciário. Quando tem uma grande mudança na sociedade causada pelo desenvolvimento tecnológico, assim como foi a experiência com a energia elétrica, a gente vai desenvolvendo novas formas de se adaptar à mudança de realidade”, finaliza Cristina. 

 

Por Henrique Fontes e Eduardo Sotto Mayor, para o C4AI
Fotos: Canva

 

Contato para esta pauta
Fontes Comunicação Científica
E-mail: fontesccientifica@gmail.com
Telefone: (16) 9 9727-2257 – Whatsapp exclusivo para atendimento à imprensa, com Henrique Fontes