26 junho 2024

Teoria crítica da IA: libertação e sustentabilidade

O filosofo Nythamar de Oliveira reflete sobre a ética da Inteligência Artificial, que surgiu como um campo caracterizado por questões normativas sobre o potencial aparentemente infinito e imprevisível da IA — algo que desafia o controle humano de algoritmos e processos de aprendizado de máquinas. Ao lidar com a ética da IA enfrenta-se o problema do alinhamento de valores e reformula-se a crítica do poder, com vistas a desvendar práticas que resistem à dominação sistêmica, visto que não se pode esperar que a IA desenvolva preferências morais.


Quando Jean-Paul Sartre e Simone de Beauvoir iniciaram o seu celebrado périplo em terra brasilis no dia 12 de agosto de 1960, no Recife, o Brasil ainda estava tecnicamente emergindo da sua condição existencial de país de analfabetos, tendo naquele ano pela primeira vez registrado um número menor de analfabetos do que de pessoas alfabetizadas. Na sua comunicação do dia 15 daquele mês, Sartre disse que não se tratava de fazer uma conferência acadêmica, mas de uma conversa informal sobre a “possibilidade de uma compreensão recíproca entre um escritor de um país de literatura burguesa, como a França, e um país de literatura popular”, como acreditava ser o Brasil.

Chamou atenção do casal que, num mesmo país, analfabetos e intelectuais convivessem na mesma antessala existencial de uma revolução popular como a que logrou os cubanos em 1959, viabilizando a aposta profética na reconciliação concreta do seu existencialismo com o marxismo enquanto única forma de filosofia possível no subcontinente. O golpe militar de 1964 e os subsequentes movimentos sociais de resistência e libertação foram instrutivos para melhor entendermos o chamado “déficit fenomenológico” da teoria crítica (associada, mais popularmente, à Escola de Frankfurt) que tenta até hoje justificar uma crítica imanente do capitalismo em seus processos sistêmicos de colonialismo, reificação e alienação.

Sartre flertou com uma certa leitura heideggeriana do marxismo, a exemplo de Marcuse, em contraposição a leituras alternativas como as de Lukács e neomarxistas eurocêntricos, na medida em que apoiava publicamente movimentos de libertação em ex-colônias francesas — assim o disse de forma tão solene quanto revolucionária em seu prefácio ao livro de Frantz Fanon “Os condenados da terra (“Les damnés de la terre”, 1961)[1]. Não se trata de resgatar aqui a dimensão emancipatória da crítica sartreana à violência original que instaura a opressão ou sua apologia das lutas revolucionárias e do ódio do oprimido caracterizado pela revolta, em sua práxis de revolução permanente do “homem autêntico”, mas de apenas destacar a instrumentalização sistêmica das tecnologias do poder opressor como parte integrante do mesmo tipo de opressão estrutural denunciada pelos discursos da libertação, da decolonialidade e da sustentabilidade na medida em que promovem um igualitarismo radical.

Violento cenário de exclusão e desigualdades sociais

Mais de 66 anos depois da visita de Sartre ao Brasil, ainda somos um país de contrastes (segundo a fórmula lapidar de Roger Bastide), abrigando aberrantes desigualdades não apenas do ponto de vista socioeconômico, de gênero e de raça, mas também de condições ambientais de subsistência existencial. Como mostraram as recentes tragédias socioambientais de Mariana, Brumadinho e do Rio Grande do Sul, são sempre os mais pobres e menos favorecidos — em sua grande maioria, pretos e pardos — os que mais sofrem com o desgoverno e o descaso de parlamentares para com a sustentabilidade de nossos ecossistemas.

Embora tenha aparecido como uma das dez maiores economias do mundo nas últimas décadas, o Brasil sempre se manteve como um dos dez países mais desiguais do planeta, cujas desigualdades de gênero, raça/etnia e renda inviabilizam um desenvolvimento sustentável e continuam gerando exclusão social, pobreza, injustiça e violação de direitos humanos. Atualmente, um quarto da população brasileira (52,7 milhões de pessoas) vive em situação de pobreza ou extrema pobreza, sendo que pretos e pardos configuram 72,7% dessa população. Dentre aqueles em condição de extrema pobreza, as mulheres pretas ou pardas compõem o maior segmento, com 27,2 milhões de pessoas[2]. Entre 2019 e 2020, o coeficiente de Gini no Brasil subiu de 88,2 para 89, segundo uma escala em que quanto maior a nota, maiores a desigualdade e a concentração de renda[3]. Portanto, em mais de meio século as narrativas liberacionistas ainda são as que melhor traduzem nosso violento cenário de exclusão, desigualdade social, sexismo e racismo estruturais.

Neste sentido, pode-se articular o discurso liberacionista a partir da recepção brasileira à chamada primeira geração da Escola de Frankfurt e ao pensamento crítico-identitário que vai da Semana de Arte Moderna de 1922 até a ditadura militar, entre 1964 e1985[4]. Um dos mais importantes movimentos intelectuais daquela época — ao mesmo tempo que cristalizava os movimentos sociais populares e culturais, como o chamado grupo cepalino (da Comissão Econômica para América Latina, a CEPAL), em torno de Celso Furtado e seu concorrente opositor, a “teoria da dependência”[5] — opunha ao suposto subdesenvolvimento e à suposta falta de modernização das estruturas nacionais o diagnóstico crítico do atraso periférico em sua inserção dependente de ex-colônia dentro do sistema capitalista mundial, com suas novas colônias e semicolônias culturais e socioeconômicas.

A recepção brasileira da teoria crítica, anterior à emergência da filosofia da libertação nos anos 1960, com ela se integra de forma simbiótica em sua práxis emancipadora e suas abordagens de uma hermenêutica descolonizante. Para além de querelas semânticas e modistas, o termo “decolonial” tem sido evocado em contraposição à “colonialidade”, enquanto outro termoassemelhado, “descolonial”, contrapõe-se ao “colonialismo”, aludindo ao processo histórico de ascensão dos Estados-nação, libertos ou emancipados, após o desmantelamento das instituições coloniais de governança. Como observou Walter Mignolo, suas concepção e práxis de decolonialidade não pretendem fornecer respostas globais ou esboçar projetos globais para a libertação, muito menos propor novos universais abstratos, mas limitam-se à relacionalidade das maneiras como diferentes histórias locais, concepções e práticas incorporadas de decolonialidade podem entrar em conversa e construir entendimentos que cruzam localizações geopolíticas e diferenças coloniais, contestando as reivindicações totalizantes e a violência epistêmica política da modernidade, seguindo a crítica de Aníbal Quijano à colonialidade enquanto sistema correlato à modernidade[6].

Neste mesmo sentido, podemos também evocar a tese de Achille Mbembe de que a história do capitalismo está inevitavelmente ligada ao surgimento da modernidade, da colonização, do racismo e da exploração opressora da vida humana, notadamente através do sistema escravocrata, de forma a defender uma teoria crítica pós-colonial da libertação fazendo jus às críticas de Amy Allen a uma ideia eurocêntrica de progresso histórico e às concepções normativas e reconstrutivas de reconhecimento e justificação de Axel Honneth e Rainer Forst[7].

Quarta geração da teoria crítica

Podemos, ademais, retomar o problema das políticas identitárias nos movimentos sociais e nas novas constelações de protagonismo social para além de concepções essencializadas de pertença, coletividade, raça e gênero, em contribuições pragmatistas da chamada quarta geração da teoria crítica, na qual podemos situar autoras feministas e pós-coloniais. Assim, narrativas liberacionistas (tais como as metanarrativas eurocêntricas da libertação enquanto salvação, redenção ou emancipação universais, incluindo narrativas do colonialismo, do capitalismo, do liberalismo e do próprio socialismo), devem ser revisitadas de forma crítica e decolonizante, evitando também as aporias de um discurso anarquista, libertário, comunitário e niilista.

Ao contrário do que pregam as teorias da conspiração, o chamado “marxismo cultural” nunca teve grande êxito nos círculos acadêmicos brasileiros enquanto doutrina abrangente — no sentido rawlsiano de comprehensive doctrine —, ao contrário do fundamentalismo evangélico, que tem sido massivamente apropriado e institucionalizado por correntes religiosas como as novas seitas e denominações evangélicas e neopentecostais (em contraposição às denominações do protestantismo histórico), geralmente aliadas ao pensamento neoliberal, ao neoconservadorismo e a movimentos supostamente anti-ideológicos como o Escola Sem Partido. Em conclusão, uma reatualização da crítica da ideologia (Ideologiekritik) hoje a desloca para uma posição de mediação entre o que é dado em nossa socialidade e o que é construído, entre reivindicações de validade meramente subjetivas e objetivas, no espaço intermediário que é próprio da crítica imanente[8]. Atestam, ainda, a chamada “ideologia de gênero” e as pautas de “costumes” das novas “guerras culturais” da extrema-direita e de movimentos neoconservadores que assolam hoje nosso país, agora turbinadas pelos dispositivos digitais de fake news e de propaganda antidemocrática.

A inteligência artificial (IA) e as novas tecnologias viabilizam, assim, uma retomada da crítica de Habermas a Marcuse em seu ensaio seminal de 1968 “Tecnologia como Ciência e ‘Ideologia’”, calibrando-a através de uma releitura de Marx e Heidegger, de modo a reformular uma teoria crítica da tecnologia postulada pelo próprio Habermas em seus escritos tardios sobre naturalismo e religião. Embora tenha tecido importantes articulações entre o domínio da técnica e o domínio do social (através do que ele mesmo chamou de “interação”, em substituição ao paradigma marxista do “trabalho”), particularmente através da sua crítica sistêmica à razão instrumental e aos processos reificantes e alienantes de colonização do mundo da vida, sua concepção pós-metafísica de teoria crítica não logra restabelecer de forma satisfatória os fundamentos normativos para a nossa sociedade tecnológica no século XXI.

A meu ver, a aproximação contemporânea entre Marx, libertação e decolonialidade pode ser, destarte, evocada para revisitar a distinção entre a técnica e a política, evitando as aporias heideggerianas ôntico-ontológicas da techne e visando superar as categorias marxistas antagonizando forças de produção e relações de produção para além da distinção aristotélica entre praxis e techne e da distinção hegeliana entre trabalho e interação. Com efeito, a tese programática habermasiana da colonização do mundo da vida reflete várias incursões prévias sobre a alienação, o fetichismo de mercado e a reificação num sentido que já antecipa a proposta normativa de um agir comunicativo capaz de evitar a mera instrumentalização e tecnificação do mundo social em suas relações de produção, reduzindo-os a algo independente e totalmente indiferente à vontade e às reivindicações normativas dos atores sociais. Assim como Heidegger vê a Technik como mais do que um mero meio, como uma espécie de desvelamento, revelação ou “verdade” da existência humana, a IA configura hoje, para além de sua hype midiática, um novo modo de ser-no-mundo que, em sua elaboração, tende a obscurecer uma relação com o Ser. Ao mesmo tempo que a tecnologia moderna desvela o ser como recurso, enquanto manifestação do Ser para além do que é naturalmente acessível em nossos rios, lagos e ecossistemas, torna-se cada vez mais difícil aceitar ou experimentar o sentido ontológico além daquilo que a tecnologia põe em jogo no mundo.

Em contraste com a rotina, o mecânico, o repetitivo e o previsível que caracterizam a tecnologia, críticos como Habermas a opõem a algo como a vida ou um acontecimento vivo. Postula-se uma crítica cultural da tecnologia (como a encontraremos em Ellul, Foucault, Simondon e Stiegler) mais ampla do que uma crítica socioeconômica da tecnologia, como a de Marcuse e autores neomarxistas. Com o fracasso das críticas socioeconômicas marxista e não marxista, as novas críticas culturais europeias da tecnologia, assim como aconteceu com o marxismo, são agora julgadas como sendo ideológicas ou incapazes de apreciar o que realmente está acontecendo com a tecnologia no Novo Mundo. A confusão entre ciência e tecnologia e a tendência da “cientificação metodológica” da tecnologia têm efeitos nocivos sobre a cultura da engenharia, distorcendo o conhecimento acadêmico e a compreensão de desenvolvimento sustentável. O surgimento das “tecnociências” obscureceu ainda mais essa paisagem distópica. Tal “cientificação” é uma espécie de segunda onda do movimento tecnocrático que começou nos anos 1920 e continuou até os anos 1960, com a predominância da tecnocracia, em que apenas técnicos especializados (especialmente engenheiros) podiam gerir uma sociedade baseada em máquinas, aplicando métodos de gestão técnica à própria sociedade e eliminando a política tradicional.

Afinal, a inteligência artificial nos permite reduzir a necessidade da presença humana em diversos tipos de atividades perigosas, monótonas e cansativas. Contudo, à medida que a IA assume o papel de tomar decisões que influenciam e impactam a vida das pessoas, a responsabilidade das empresas que desenvolvem e utilizam tais sistemas aumenta, pois é necessário gerenciar os potenciais riscos e implicações sociotécnicas da adoção deste tipo de tecnologia. Sistemas autônomos inteligentes estão se tornando cada vez mais presentes em nossa sociedade. Tarefas anteriormente realizadas por nós agora são delegadas a sistemas implementados com inteligência artificial.

Retorno aos problemas do impacto tecnológico

A chamada 4ª Revolução Industrial é o culminar da era digital, onde tecnologias como robótica, nanotecnologia, neurotecnologias, biotecnologias, genética e IA estão transformando de forma exponencial e acelerada o nosso mundo e a maneira como vivemos. Decerto, dentre as tecnologias citadas acima, a mais acessível e massivamente utilizada é a IA. Uma das grandes diferenças entre o atual momento de modernização tecnológica e aqueles que ocorreram no passado é que máquinas estão progressivamente ultrapassando nossas capacidades cognitivas em diversas áreas.

Dado o tamanho e a complexidade que nossa sociedade alcançou, seres humanos sozinhos não são mais capazes de lidar com as exigências de certos processos vitais para nossa civilização (gestão de tráfego e manutenção da rede elétrica, por exemplo). Assim, cada vez mais contamos com a ajuda de sistemas de IA para a manutenção de nossa estrutura social, não apenas com a automatização de tarefas, mas sobretudo com processos de aprendizagem de máquina, aprendizagem profunda e aprendizado por reforço, numa escala próxima a de uma IA forte ou geral (AGI) como jamais se havia imaginado. A filosofia da tecnologia e a ética da IA têm encontrado nos últimos anos grande repercussão em pesquisas sociais que procuram avaliar de forma crítica o impacto das novas tecnologias sobre a sociedade. De forma particular, na teoria crítica da sociedade tem ocorrido um verdadeiro retorno aos problemas do impacto tecnológico como já eram observados no início do século passado com relação à 2ª Revolução Industrial (invenção do telefone, do rádio e dos automóveis) e na sua segunda metade com a 3ª Revolução Industrial (invenção do computador e da internet), antes do advento da IA e das sofisticadas técnicas algorítmicas de “aprendizado de máquina” (machine learning).

Portanto, Habermas já observara que Marcuse teria vinculado a progressiva racionalização da sociedade (seguindo a crítica de Marx ao capitalismo e a explicação de Weber sobre a secularização) à institucionalização do desenvolvimento científico e técnico, na medida em que a tecnologia e a ciência permeiam as instituições sociais e as transformam radicalmente, em detrimento de antigas legitimações e códigos tradicionais de normatividade social. A filosofia social de Marcuse denuncia, assim, a peculiar fusão da tecnologia com a dominação, da racionalidade com a opressão, em um relato unidimensional da racionalidade instrumental que traz alienação, reificação e colonização promovidas pelo capitalismo ocidental. Como seu mentor Heidegger, Marcuse também tendia a demonizar a tecnologia moderna, mas em vez de buscar um abrigo ontológico em uma nova linguagem de época do Ser, defendia um projeto de libertação humana e de utopia social por meio de movimentos de protesto de estudantes e trabalhadores nos anos 1960.

A ética da IA é campo caracterizado por questões normativas

Podemos evitar os extremos de demonizar e de superestimar o impacto e a importância das novas tecnologias para a humanidade recorrendo a ecossistemas híbridos nas sociedades tecnológicas de hoje, reunindo tanto o técnico-tecnológico quanto as condições naturais, ambientais e sustentáveis. Podemos, ademais, reformular uma teoria crítica da IA para evitar as armadilhas do problema de alinhamento de valores, pois avanços em campos específicos da tecnologia ampliam os efeitos em outros processos tecnológicos sem pressupor valores humanos. Se a combinação de todas essas tecnologias de comunicação levou à criação da internet — possivelmente o meio tecnológico mais revolucionário do mundo contemporâneo —, as novas tecnologias de informação por meio de redes de instrumentalidade global estão integrando o número crescente de comunidades virtuais e mídias sociais.

A ética da IA surgiu como um campo caracterizado por questões normativas sobre o potencial aparentemente infinito e imprevisível da inteligência artificial forte, desafiando o controle humano de algoritmos e processos de aprendizado de máquinas. Ao lidar com a ética da IA, devemos inevitavelmente buscar enfrentar o problema do alinhamento de valores, revisitando o que foi diagnosticado como o déficit fenomenológico da teoria crítica e reformulando a crítica do poder com vistas a desvendar práticas do mundo da vida que resistem à dominação sistêmica, revisitando valores alinhados aos valores humanos — não por algum capricho transcendental ou por algum imperativo deontológico, mas por razões pragmatistas, visto que não se pode esperar que uma IA desenvolva nossas preferências morais simplesmente por causa de sua inteligência. Uma teoria crítica da IA, ao questionar a neutralidade das novas tecnologias vis-à-vis da experiência humana, da sua historicidade e da existência social, tem muito a contribuir para a reformulação ética da sustentabilidade em nossos dias, cumprindo a intenção emancipatória de todas e de todos que promovem a libertação humana de estruturas opressivas.  


[1].
Comunicação reconstituída a partir de notas taquigrafadas e publicada em português em Sartre, Jean-Paul. Crítica e História Literária – Anais do I Congresso Brasileiro. Rio de Janeiro: Ed. Tempo Brasileiro, 1964, p. 277-283 (sem revisão do autor).

[2].
IBGE (Instituto Brasileiro de Geografia e Estatística). Condições de vida, desigualdade e pobreza. Disponível em: https://www.ibge.gov.br/estatisticas/multidominio/condicoes-de-vida-desigualdade-e-pobreza.html. 

[3].
Crédit Suisse Research Institute. Global Wealth Report 2021. Disponível em: https://www.credit-suisse.com/about-us/en/reports-research/global-wealth-report.html.

[4].
Oliveira, Nythamar de. Tractatus politico-theologicus: Teoria Crítica, Libertação e Justiça. Porto Alegre: Editora Fi, 2016; Dussel, Enrique. Filosofía de la liberación. México: Edicol, 1977.

[5].
Oliveira, Nythamar de. Governança, Equidade e Competitividade: O Déficit Normativo do Ethos Democrático. In: Etges, Virginia; Arend, Sílvio (Orgs.). Crises do Capitalismo, Estado e Desenvolvimento Regional. Santa Cruz do Sul: EDUNISC (Editora da Universidade de Santa Cruz do Sul, RS), 2014, p. 146-167.

[6].
Mignolo, Walter D.; Walsh, Catherine E. On Decoloniality: Concepts, Analytics, Praxis. Durham: Duke University Press, 2018, p. 9.

[7].
 Mbembe, Achille. Critique de la raison nègre. Paris: Editions La Découverte, 2013, p. 28; Allen, Amy. The End of Progress: Decolonizing the Normative Foundations of Critical Theory. Nova York: Columbia University Press, 2016; Forst, Rainer. The Right to Justification: Elements of a Constructivist Theory of Justice. Tradução de Jeffrey Flynn. Nova York: Columbia University Press, 2011; Honneth, Axel. The Struggle for Recognition: The Moral Grammar of Social Conflicts. Tradução de Ken Baynes. Nova York: Polity Press, 1995.

[8].
 Jaeggi, Rahel. Rethinking Ideology. In: de Bruijn, Boudewijn P.; Zurn, Christopher F. (Eds.). New Waves in Political Philosophy. Hampshire: Palgrave Macmillan, 2009, p. 81.

é professor titular na Pontifícia Universidade Católica do Rio Grande do Sul (PUCRS), onde desenvolve programa de pesquisa em Teoria Crítica, apoiado pelo Conselho Nacional de Pesquisa (CNPq). Coordena a Rede de IA Ética e Segura, e é professor visitante na University of Toledo, dos Estados Unidos

Artigos e comentários de autores convidados não refletem, necessariamente, a opinião da revista Interesse Nacional

Cadastre-se para receber nossa Newsletter