Quem tem medo da inteligência artificial?

Por Paulo da Silva Quadros*

Muito tem-se falado ultimamente em relação ao rápido desenvolvimento da inteligência artificial generativa, contendo diversas reflexões auspiciosas, ao mesmo tempo em que se nutre também um certo pânico moral demasiado. Compreensivo até certo ponto, mas por vezes dotado de incongruências inoportunas para a compreensão dos desafios futuros diante de uma sociedade acalentada por rápidas transformações tecnológicas.

Riscos, recomendações, regulação, transparência, explicabilidade, vieses, racismo algorítmico, direitos humanos, questões trabalhistas, direitos autorais, segurança de dados, autonomia algorítmica versus intervenção humana, entre outros aspectos, compõem um vasto arcabouço de inquietações sensíveis e sensatas, frente aos abusos que podem advir do mau uso desastroso de tais ferramentas tecnológicas disruptivas.

Notadamente, sempre que surge um novo advento tecnológico, tais preocupações tornam-se fortemente aguçadas em uma sociedade democrática. O que é natural, quando se defende a ótica permanente do pensamento crítico e dialético. Uma vez que não podemos compactuar erroneamente com a noção ingênua de um neopositivismo tecnológico, redencionista e salvacionista, já que as contradições humanas permeiam todo o processo de desenvolvimento cultural de uma sociedade.

Nesse tocante, a ideia de substituição de humanos por máquinas e da possível superação de máquinas em relação a humanos povoa o imaginário cultural distópico há tempos, rico em referências literárias e cinematográficas do mundo contemporâneo.

No entanto, partindo-se do pressuposto da capacidade do ser humano oportunamente enfrentar novos desafios instigantes, propondo estratégias de resiliência e reinvenção do seu cotidiano, convém se pensar na inteligência artificial generativa mais como um recurso tecnológico que pode vir a agregar maior valor ao potencial criativo humano, enquanto uma ferramenta aliada, com possibilidades inimagináveis de colaboração, cooperação, copartícipe e cocriadora de novos inventos humanos.

Para o filósofo francês Pierre Lévy, a inteligência artificial data de pelo menos dois milhões de anos, remontando às origens da escrita humana, que se torna um recurso tecnológico de registro exterior à mente humana da memória cultural. Assim sendo, todas as ferramentas tecnológicas que expandem o poder cognitivo humano seriam espécies de inteligências artificiais, o que inclui o rádio, a televisão, o computador etc., pois todas elas são tecnologias simbólicas, uma vez que desenvolvem a tarefa de codificar o mundo em modos distintos de representação.

Para Nilson Machado, inteligência artificial nada mais é do que uma alegoria e catacrese da inteligência humana, ou seja, trata-se de um termo impreciso, mas de apelo ao acesso comum com vistas a analogias com o cotidiano da vida das pessoas, uma imagem simbólica capaz de permitir paralelos interpretativos, mesmo em decorrência da inexatidão analógica.

Essas visões da inteligência artificial nos aproximam da relação intrínseca entre natureza, tecnologia e cultura. Refiro-me aqui à cultura, não numa dissociação entre elementos fragmentários, que atiçam distorções equivocadas no compreender o que é o humano, em sua vasta complexidade inerente e intrínseca, mas como toda e qualquer produção humana em seu amplo aspecto vocacional do ser humano em vista de suas manifestações criativas e inovadoras, tais como as ciências e as artes em geral. O que engloba também o campo das técnicas e tecnologias, ao compreender-se a primeira como um mero ato de fazer e agir cotidianamente, sem a necessidade de se olhar em detalhes sobre o processo de construção do conhecimento que se produz advindo do seu uso frequente; e a segunda, como ainda assinala Nilson Machado, contendo a perspectiva de que o conhecimento passa a agregar valor como principal fonte de produção e desenvolvimento socioeconômico nas sociedades modernas.

Assim sendo, as técnicas primitivas evoluem para outra dimensão: a técnica do conhecimento (a tecnologia), ou o chamado logos da técnica, tornando-se técnicas maquínicas ou máquinas tecnológicas, com potencial para construir novas técnicas do conhecimento (meta-tecnologias).

Tais técnicas, como a inteligência artificial, constituem-se em alegorias biomiméticas da natureza e da cultura, que para Paulo Freire seriam o acrescentamento que o ser humano faz à natureza, ao intervir nela, reinterpretando-a e modificando-a com um determinado propósito individual e/ou coletivo.

Graças ao desenvolvimento da racionalidade técnica, foi possível ao ser humano desenvolver técnicas e tecnologias que trouxessem maior conforto e comodidade para o enfrentamento da austeridade da natureza. No entanto, a razão humana não pode ser simplesmente reduzida a uma mera instrumentalização para a produção de conhecimentos técnicos.

Isso engloba falarmos da razão humana como um todo, tendo em vista a complexidade do pensar e do agir filosoficamente em relação à condição humana, e atualmente estendida para a condição planetária, e sobretudo no tocante à incorporação dos métodos científicos, laboratoriais e experimentais, como meios aprimoradores do nosso sentido observacional fenomenológico, existencial e infinitamente crítico.

E, além disso, da vastidão que compreende as expressões singulares do espírito humano em sua diversidade de emoções, afetos e sociabilidades, tais como: a literatura, poesia, tradições milenares e ancestrais, folclore, imaginário mítico, lendas, oralidade, escrita, espiritualidade, narrativas, registros históricos etc., e muitos outros aspectos que revelam um ser humano dotado de consciência das suas potencialidades, fragilidades, impotências, necessidades, sonhos, ideais e sobretudo pela busca de seu senso de transcendência, coletivismo e solidariedade.

Tais aspectos vislumbram que tal espírito humano está além de poder ser substituído ou superado por qualquer ideia nebulosa de singularidade não humana ou anti-humana. Pois é esse espírito que tornou possível a existência de qualquer tecnologia do passado ou do presente e irá, sem dúvida, definir os próximos passos da tecnologia do futuro próximo ou distante.

Nossos medos e angústias partem talvez justamente da nossa perda de consciência crítica e histórica da relação indissociável do ser humano com a natureza e a cultura, e como a tecnologia desde seu início de existência, como meio imitativo da natureza, foi um elemento primordial para nos trazer conforto, bem-estar, segurança, alimento, nos despertando para o interesse e desejo de organização social, permitindo com que pudéssemos expandir exponencialmente nossas chances de sobrevivência em um mundo hostil, repleto de perigos nocivos à vida humana.

Nesse aspecto, desconsiderar a técnica do cenário humano e da cultura esvazia totalmente nosso campo de percepção da nossa natureza fundamental e de como tem se construído a história humana de relação com a natureza ao seu redor. É uma falsa compreensão da técnica dentro das aspirações do humano, e por extensão do senso de humanidade e de humanização. Pois a técnica desde seus primórdios espelha nosso desejo de estar no mundo, interagindo e nos relacionando com ele, por diversos meios da expressividade humana.

Nesse sentido, não é a técnica que desumanizaria o ser humano, mas sim o próprio humano que desvia o seu sentido original para embutir a ela outras determinações de poder e controle.

Portanto, a tecnologia não é por natureza neutra, pois dependerá sempre do sentido ideológico atribuído a ela, e, sendo assim, falar-se em tecnologia neutra e neutralidade tecnológica tornam-se equívocos desastrosos, com riscos impensáveis.

Em vista da preocupação com os riscos eminentes do emprego nocivo e irresponsável da inteligência artificial, começa a haver preocupação com um novo profissional demandado para definir regras e procedimentos de responsabilidade ética de tal tecnologia, o que implica em conhecimento técnico aliado a um entendimento robusto das implicações e consequências sociais, morais e legais que advém do mal emprego da IA.

Trata-se da figura do eticista em IA, cujo papel deverá ser alinhar substancialmente o design de sistemas de IA com valores morais e sociais de forma a assegurar o respeito a códigos de conduta social em consonância com a preservação de direitos humanos. Talvez com o tempo, dada a complexidade de aplicações de IA em amplo desenvolvimento, este profissional passe a se diversificar em sua formação profissional para atender a campos mais específicos de demandas crescentes na sociedade.

Por isso vale se pensar prioristicamente em um profissional emergente no campo educacional: o educador eticista ou eticista educacional, que considere a ética como um pressuposto fundamental para o entendimento de quaisquer riscos ou desafios a se enfrentar no campo de formação educacional, pensando a ética como uma dimensão holística e transdisciplinar, perfazendo todos os conhecimentos e valores que dimensionem a estrutura curricular como um todo.

A inteligência artificial em seu atual estágio de desenvolvimento demanda com urgência o nosso repensar original da tecnologia para abarcar o humano em suas múltiplas dimensões idiossincráticas.

Isso nos lembra Edgar Morin, com sua visão culturológica do conhecimento na ampla interface entre humano, cultura e natureza, perfazendo a imagem do chamado Homo complexus, ou seja, um todo que é maior do que o conjunto de suas partes.

O filósofo faz alusão a diversas faces de um humano ao mesmo tempo individual e coletivo, enunciado entre outros aspectos pelas seguintes características proeminentes: Homo sapiens (capacidade de raciocínio lógico), Homo faber (capacidade de criar instrumentos e refiná-los), Homo economicus (capacidade de desenvolver atividades úteis para a vida cotidiana), Homo prosaicus (capacidade de definir e executar necessidades obrigatórias de sobrevivência no mundo cotidiano), Homo empiricus (capacidade de ser realista e prático), Homo ludens (capacidade de jogar o jogo da vida e conduzir sua própria vida), Homo mitologicus (capacidade de produzir mitos e crenças), Homo demens (antagônico e complementar do Homo sapiens, por ser ao mesmo tempo afetivo, mas também movido por sonhos, ideais, devaneios, erros, irracionalidade, instabilidade e desordem emocional), Homo imaginarius (capacidade de produzir elementos atrelados ao mito, à magia, ao sobrenatural), Homo poeticus (consubstanciando uma imersão afetiva em relação ao mundo ao seu redor, permeado por um interior intenso e empático).

Não obstante, pode-se acrescer ainda no contexto atual a imagem do chamado Homo mediaticus (capacidade notável de criar meios de comunicação e informação, visando construir potenciais mediações inerentes a tais meios, que ora potencialmente os transcende, ora os transfigure em novas formas expressivas reconfiguradoras de suportes de informação e conhecimento).

Finalmente, urge-se o fundamento inquestionável do Homo ethicus, que pressupõe um indivíduo capaz de respeitar o ethos (modo de ser de cada um), sabendo como conduzir sua existência em convívio com outras existências humanas e não humanas. Isso salienta indubitavelmente uma perspectiva de respeito à dignidade inquestionável de outras identidades biológicas e culturais.

Nesse sentido, a inteligência artificial precisará se tornar educacionalmente cada vez mais ética, ao se conceber a ética como um ponto de partida crucial para todas as indagações frente aos conhecimentos produzidos e ministrados no contexto escolar: um alicerce equalizador e substancial nos novos tipos de relações com o conhecimento – ética coexistencial, ecológica e planetária ao mesmo tempo. O que torna o professor um capital precioso de provocações, indagações, contextualizações e interpretações simbólicas engenhosas e insubstituíveis.

Obs: Gostaria de agradecer as contribuições reflexivas de todos os membros do GT de Educação e Inteligência Artificial Responsável, do qual participo na Cátedra Oscar Sala, a saber: Cláudia Helena dos Santos Araújo, Danielle Soares e Silva Bicudo Ferraro, Lívia Carolina Vieira e Márcia Azevedo Coelho, por meio das quais pude acrescer novos fundamentos em meus conhecimentos de educação, tecnologias e inteligência artificial.

*Paulo da Silva Quadros é pesquisador da Cátedra Oscar Salla do Instituto de Estudos Avançados da USP

Tags:

Inovação 🞌 Inteligência artificial 🞌