Cientistas seguem com debates e estudos para solucionar problemáticas

Pesquisadores brasileiros estão, há alguns anos, imersos em debates cruciais sobre a regulamentação da Inteligência Artificial (IA) no Brasil. Dentro desse contexto, o Centro de Inteligência Artificial (C4AI) da USP tem desempenhado um papel significativo nessas discussões, destacando a importância de uma regulamentação que não imponha limitações excessivas ao potencial de inovação da IA. 

A regulamentação da inteligência artificial (IA) é um tema abordado globalmente, envolvendo países como Brasil, União Europeia e Chile. As preocupações centram-se na necessidade de equilibrar o desenvolvimento da IA com a proteção dos direitos individuais, a prevenção da discriminação e a promoção da transparência. 

A União Europeia, em um marco significativo, aprovou o AI Act, aguardando agora a ratificação dos países-membros. Este ato revolucionário propõe diretrizes robustas para o uso seguro de Inteligência Artificial (IA), com ênfase em transparência, segurança, não discriminação e supervisão humana. A UE classifica os sistemas de IA em diferentes níveis de risco, variando de inaceitável a mínimo, visando a proteger os cidadãos europeus dos potenciais impactos adversos.

Enquanto isso, no Brasil, vários projetos de lei estão em tramitação, buscando estabelecer regras para o desenvolvimento, implementação e uso de sistemas de IA. Destaca-se o projeto de lei 2338/23, que propõe a classificação de riscos em excessivo e alto, proibindo e regulamentando algumas aplicações específicas. A nação sul-americana enfatiza a importância de evitar a discriminação e garantir a transparência nos sistemas de IA, mostrando seu compromisso com a ética na adoção dessa tecnologia.

Do outro lado do continente, o Chile apresentou sua primeira Política Nacional de Inteligência Artificial, acompanhada de um Plano de Ação abrangente. O país foca em capacitar o desenvolvimento e o uso responsável da IA, considerando três eixos principais: desenvolvimento de fatores facilitadores, uso e desenvolvimento da tecnologia, e aspectos éticos e de segurança. O Chile destaca-se ao abordar de forma holística o impacto da IA em sua sociedade.

A UNESCO, por sua vez, lançou diretrizes cruciais sobre o uso ético de IA generativa na educação. Recomendando ações governamentais para regulamentar a IA generativa, estabelecer políticas éticas e proteger a privacidade, a organização estabelece uma idade mínima de 13 anos para o uso de ferramentas de IA na sala de aula. No entanto, a UNESCO alerta sobre a falta de governança na implementação da IA generativa na educação, destacando desafios que requerem uma abordagem cuidadosa.

Por fim, a Academia Brasileira de Ciências contribui para o cenário nacional ao lançar recomendações fundamentais para o avanço da IA no Brasil. A entidade destaca a importância da comunicação, conscientização e domínio da IA para evitar que a sociedade seja dominada por ela, promovendo um diálogo essencial sobre o papel desta tecnologia emergente no país.

A visão dos especialistas

A professora Cristina Godoy, pesquisadora do C4AI, é uma das defensoras da necessidade de equilibrar a proteção dos direitos fundamentais dos cidadãos com a promoção da inovação tecnológica, alertando sobre os possíveis impactos negativos da insegurança jurídica.

“A discussão sobre regulamentação abrange vários aspectos, incluindo transparência, não discriminação, supervisão humana, e a necessidade de adaptação contínua das leis à rápida evolução da tecnologia de IA. Os desafios estão em encontrar o equilíbrio entre a regulamentação necessária e a promoção da inovação, assim como garantir a participação de diversos setores na definição das políticas”, afirmou ela.

Os pesquisadores do C4AI estão envolvidos em diversas frentes de pesquisa, abordando temas como discriminação algorítmica, fake news, ameaças à democracia e privacidade. A multidisciplinaridade do centro e sua atuação em várias áreas garantem uma abordagem abrangente dessas questões complexas.

“Em um cenário em que a inteligência artificial (IA) se torna cada vez mais presente em diversos setores da sociedade, a necessidade de regulamentação se destaca como um tema crucial”. destacou João Paulo Cândia, coordenador da área de Humanidades do C4AI.

Para o membro do Centro Fernando Santos Osório, é necessário exercer domínio sobre a Inteligência Artificial. “Ou você domina a IA, ou será dominado por ela. Por isso a importância de se comunicar, difundir, conscientizar as pessoas sobre os riscos, impactos, usos, vantagens e problemas da IA. Educação e debate sobre o assunto é muito importante”, frisou ele.

Fernando enfatiza também a importância da sociedade e do setor privado na discussão sobre inteligência artificial. “Apesar da presença de várias autoridades e regulamentações privadas, a responsabilidade de determinar como a IA trabalha para a sociedade deve ser um esforço conjunto, onde a regulação pública, privada e o engajamento social desempenham papéis cruciais”, destaca.

Fomento ao debate plural

Um grupo interdisciplinar do C4AI, composto por membros das áreas de exatas, humanas, direito e tecnologia, tem desempenhado um papel fundamental nesse debate. O diferencial da equipe reside justamente na sua composição plural, proporcionando uma abordagem única para compreender os desafios da regulamentação da IA de diferentes perspectivas. A interação entre profissionais de diversos ramos, como direito, ciência política, e engenharia, enriquece o debate sobre a regulamentação da área e oferece uma compreensão mais abrangente das questões em jogo.

Durante as discussões já realizadas no Centro, surgiram diferentes visões sobre o tema. Enquanto alguns participantes enfatizaram a necessidade de uma autoridade pública para disciplinar o setor, outros apontaram que a regulamentação já está ocorrendo de maneira independente, com exemplos de iniciativas privadas, como o uso de marcas d’água em propagandas que envolvem IA.

No entanto, surgiram preocupações quanto à elaboração das leis relacionadas à IA, destacando a falta de conhecimento aprofundado por parte dos legisladores, o que pode gerar leis ineficazes ou até mesmo impraticáveis. Esse desafio ressalta a importância de buscar um conhecimento interdisciplinar para uma regulamentação mais informada e eficaz.

A discussão também já abordou questões éticas e sociais relacionadas à IA, como discriminação algorítmica, impactos nos empregos, fake news e ameaças à democracia. O C4AI tem se dedicado a promover debates e pesquisas sobre esses temas, trazendo à tona questões relevantes que necessitam de atenção.

Uma das pesquisas conduzidas pelo grupo revelou preocupações específicas, como a ausência de inversão do ônus da prova em casos judiciais envolvendo possíveis fraudes bancárias mediante a contratação de crédito por meio de biometria facial. A ideia de que a IA nunca erra coloca os clientes em posição desfavorável, tendo que provar falhas nos sistemas, o que levanta questões sobre a transparência e a responsabilidade das empresas.

Além disso, o C4AI está ativamente envolvido na criação do Observatório Brasileiro de Inteligência Artificial, visando a disponibilizar dados de interesse público, como patentes relacionadas à IA, decisões judiciais e outros conjuntos de informações relevantes para embasar políticas públicas.

Em meio a desafios como a disparidade de recursos em comparação com potências globais, o grupo busca focar em áreas estratégicas, como processamento de linguagem natural em português, para contribuir significativamente com o campo da IA.

Por Fabrício Santos e Henrique Fontes, da Assessoria de Comunicação do C4AI/USP

Contato para esta pauta
Assessoria de Comunicação do C4AI/USP
Telefone: (16) 9 9727-2257
E-mail: contato@fontescomunicacaocientifica.com

Referências:

C4AI da USP debate Marco Regulatório da Inteligência Artificial no Brasil
https://c4ai.inova.usp.br/pt/c4ai-da-usp-debate-marco-regulatorio-da-inteligencia-artificial-no-brasil-%ef%bf%bc/

UNESCO: Governments must quickly regulate Generative AI in schools
https://www.unesco.org/en/articles/unesco-governments-must-quickly-regulate-generative-ai-schools

Chile presents the first National Policy on Artificial Intelligence (Oct. 2021)
https://www.bnamericas.com/en/news/chile-presents-the-first-national-policy-on-artificial-intelligence

Recomendações para o Avanço da Inteligência Artificial no Brasil (Divulgação C4AI)
https://www.facebook.com/groups/C4AI.USP/posts/2628027184013029/

Projeto de Lei n° 2338 – 2023 – Dispõe sobre o uso da Inteligência Artificial (Senado, Brasil)
https://www25.senado.leg.br/web/atividade/materias/-/materia/157233

Regulação da IA: Um Balanço do Debate Recente no Brasil (Seminário IEA USP)
http://www.iea.usp.br/eventos/ia-balanco-debate

Mesa Redonda C4AI “AI em Foco” – Discriminação Algorítmica: o Papel da Diversidade e Inclusão em IA

Os desafios para regulamentar o uso da inteligência artificial (NIC.br) 
https://www.nic.br/noticia/na-midia/os-desafios-para-regulamentar-o-uso-da-intelige-ncia-artificial/

Workshop para implementação do Observatório Brasileiro de IA (OBIA) em São Paulo
https://www.facebook.com/cgeeoficial/posts/pfbid0dzMsN37bfiu5w6CJ5ZE6G68R2ZHbHvLJiRDg5AKqTkXNoneTS6hB6Dfh4FPXcxL6l

European Parliament – Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI
https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai

Seminários, eventos, palestras, mesas redondas – Playlist C4AI Youtube
https://www.youtube.com/@C4AIUSP/playlists