Fernando Filgueiras: Regulação e desafios das inteligências artificiais generativas

Inteligências artificiais generativas como o ChatGPT e o Dall-E rompem as formas atuais de interação entre humanos e máquinas e passam a criar o conteúdo diretamente, alterando e expandindo crises epistêmicas que colocam as sociedades e os regimes políticos em risco. Para professor e pesquisador, elas passam a moldar o próprio conhecimento humano em direções imprevisíveis e não calculáveis

Por Fernando Filgueiras*

O Senado Federal instituiu em 2022 uma comissão de juristas que ficou responsável por rever e emendar a proposta de marco regulatório da inteligência artificial (IA) no Brasil. Após diversas audiências públicas, seminários e estudos apresentados, a proposta do projeto de lei, que atualmente foi encaminhado para o plenário da casa legislativa, proporcionou diversas mudanças e reconstruiu toda a minuta da lei incluindo diversas questões.

A se considerar a minuta que será apreciada no plenário do Senado, ela cria uma estrutura nova de direitos digitais, delega a uma autoridade pública o processo de regulação, estabelece mecanismos de responsabilidade civil e administrativa e conceitua e institui uma série de instrumentos para o processo regulatório, tais como definição de riscos e análise de riscos, mitigação dos riscos, uso de testagem e documentação de todo o processo de desenvolvimento da inteligência artificial, fiscalização e sanções administrativas, avaliação de impacto, publicação e transparência de bases de dados, uso de sandboxes regulatórios autorizados pela autoridade competente a ser designada pela Presidência da República.

O desenho adotado pelo PL de IA apresentado pela comissão de juristas parte de uma concepção de direitos digitais novos, que emergem com a inteligência artificial. Os instrumentos são incorporados para atingir os objetivos de governança e controle da inteligência artificial, com centralidade da pessoa humana, dos direitos humanos e da democracia, em vista da autodeterminação e liberdade de decisão e escolha, justiça, equidade, inclusão e não discriminação, associados a transparência, explicabilidade, inteligibilidade e auditabilidade de sistemas de inteligência artificial para gerar confiança e robustez dos sistemas para a sociedade.

O PL é abrangente e possibilita a criação de várias políticas para a inteligência artificial. Entretanto, a regulação de tecnologias emergentes é sempre desafiadora quando confrontada com o avanço das tecnologias. Uma característica essencial da inteligência artificial no mundo contemporâneo é que ela é uma tecnologia de propósito geral que promove processos de disrupção, ou seja, uma fratura nos modos de fazer e pensar da sociedade, transformando diversos aspectos das instituições, tanto no setor público quanto no setor privado.

O avanço da inteligência artificial generativa, agora vindo a público com a grande novidade do ChatGPT, desafia todo o trabalho regulatório realizado até o momento pela comissão de juristas, adicionando novos desafios ao marco regulatório brasileiro.

Inteligência artificial generativa compreende algoritmos que podem ser utilizados para criar novos conteúdos, incluindo áudio, texto, código, imagens, simulações e vídeos sem qualquer tipo de intervenção humana. O ChatGPT, por exemplo, cria textos respondendo a questionamentos diversos dos usuários. O Dall-E, criado pela OpenAI, mesma empresa criadora do ChatGPT, cria imagens inéditas a pedido do usuário. A Jukebox é uma inteligência artificial que cria músicas a pedido do usuário. O usuário pode pedir um samba de partido alto cantado no ritmo por John Lennon.

Inteligências artificiais generativas são desafiadoras para a regulação e controle de tecnologias emergentes. Elas obrigam que os formuladores voltem à prancheta para tratar de lacunas que emergem com elas. Elas podem ser enquadradas como inteligências artificiais de alto risco, tal como definido no PL que está no plenário do Senado, obrigando avaliações de impacto variadas, assim como medidas de controle.

Entretanto, IAs generativas incidem diretamente na criação de conteúdo disseminado na internet, modificando radicalmente os termos de governança de tecnologias. Princípios como o de liberdade de expressão aplicam-se diretamente a pessoas humanas. IAs generativas seriam dotadas de personalidade e como seriam responsabilizadas? Em que medidas elas poderiam ajudar a propagar desinformação? Se já é difícil e ambíguo responsabilizar humanos nessas questões, o que dirá uma inteligência artificial?

Um juiz na Colômbia utilizou o ChatGPT para escrever uma sentença, apresentando para o sistema nuances do caso julgado, para que então o sistema sugerisse uma decisão. Inteligências artificiais generativas inauguram uma nova era para a interação entre humanos e máquinas, tornando desafiadora a regulação até agora pensada em processos governamentais, industriais e de mercado.

Inteligências artificiais generativas incidem não apenas nos processos e na inovação, mas agora na forma como conteúdos são gerados e estruturam novas bases de conhecimento humano. O lobby das big techs está ativo para retirar as inteligências artificiais de enquadramentos como de alto risco. Na União Europeia, o lobby das big techs atua para não possibilitar o enquadramento de inteligências artificiais generativas como de alto risco. No Brasil, este lobby atua para acelerar o avanço do PL no Senado e criar lacunas sobre inteligências artificiais generativas.

O ponto central é que as inteligências artificiais generativas rompem as formas atuais de interação entre humanos e máquinas. Até agora, inteligências artificiais faziam a mediação da interação entre humanos criando uma série de novos problemas como câmaras de eco, propagação de desinformação e discursos de ódio, com impactos políticos diretos. Ou seja, os algoritmos incorporados em plataformas de mídia social apenas faziam a intermediação e a troca de conteúdos criados por humanos, sendo eles verdadeiros ou não. Agora, as inteligências artificiais criam o conteúdo diretamente para humanos, alterando e expandindo crises epistêmicas que colocam as sociedades e os regimes políticos em risco.

Não se sabe ainda como lidar com essas inteligências artificiais generativas. Mas o fato é que elas abriram de vez a caixa de Pandora e passam a moldar o próprio conhecimento humano em direções imprevisíveis e não calculáveis, de forma ambígua e disseminadora de incertezas.

*Fernando Filgueiras é colunista da Interesse Nacional, professor da Faculdade de Ciências Sociais da Universidade Federal de Goiás (UFG) e pesquisador do CNPq e do Instituto Nacional de Ciência e Tecnologia – Democracia Digital.

Artigos e comentários de autores convidados não refletem, necessariamente, a opinião da revista Interesse Nacional

Tags:

Inovação 🞌 Inteligência artificial 🞌 Política 🞌 Política Externa 🞌 Redes Sociais 🞌 Segurança 🞌 Tecnologia 🞌