Escatologia da IA – ChatGpt

O pensamento chinês na investigação da atualidade e nossa condição de submissão/dependência tecnológica. Este artigo originalmente publicado na revista e-Flux Journal, n. 137, de junho de 2023, foi obtido da Unisinos, reproduzido em parte aqui, e aborda  questões fundamentais, sob aspectos filosóficos e psicossociais no uso das novas tecnologias, as forma de relacionamentos humanos com as máquinas, a natureza e própria humanidade, a partir delas e seu desenvolvimento histórico.

Redação

São Paulo, 31/08/2023

7,3 Minutos.

“Em vez de mistificar as máquinas e a humanidade, entendamos a nossa atual realidade técnica e sua relação com diversas realidades humanas, a fim de que essa realidade técnica possa ser integrada a elas, para manter e reproduzir a biodiversidade, a noodiversidade e a tecnodiversidade.”

A opinião é de Yuk Hui, professor de Filosofia da Tecnologia e da Mídia na City University de Hong Kong. Obteve seu doutoramento no Goldsmiths College London, na Inglaterra, e sua habilitação em filosofia na Leuphana University Lüneburg, na Alemanha. É autor de várias obras que foram traduzidas para uma dezena de idiomas, inclusive ao português, como “Tecnodiversidade” (Ubu Editora, 2020)

A tradução do artigo é de Moisés Sbardelotto.

“O ChatGPT despertou entusiasmo e medo desde seu lançamento em novembro de 2022. Seu aparente domínio da semântica e da sintaxe – mas ainda não do conteúdo – de diferentes idiomas surpreende os usuários que esperavam um chatbot comum.

Algumas universidades imediatamente proibiram os alunos de usarem o ChatGPT para a redação de textos, uma vez que ele supera a maioria dos estudantes humanos. Os artigos de opinião dos jornais anunciaram o fim da educação – não apenas porque os estudantes podem usá-lo para fazer a lição de casa, mas também porque o ChatGPT pode fornecer mais informações do que muitos professores.

Imaginação, repetição e Apocalipse

A inteligência artificial parece ter conquistado outro domínio que, segundo a filosofia clássica, define a natureza humana: o logos. O pânico cresce com essa perda adicional de território existencial. O imaginário apocalíptico da história humana se intensifica à medida que o colapso climático e a revolta dos robôs evocam o fim dos tempos.

O fim dos tempos não era estranho para os modernos. De fato, no livro “Meaning in History”, de Karl Löwith, de 1949, o filósofo mostrou que a filosofia moderna da história, de Hegel a Burckhardt, era uma secularização da escatologia [1].

O telos da história é o que torna o transcendente imanente, seja a segunda vinda de Jesus Cristo ou simplesmente o devir do Homo deus. Esse imaginário bíblico ou abraâmico do tempo oferece muitas reflexões profundas sobre a existência humana em geral, mas também obstrui a compreensão do nosso futuro.

Na década de 1960, Hans Blumenberg argumentou contra a tese da secularização de Löwith, assim como contra a afirmação de Carl Schmitt de que “todos os conceitos significativos da teoria moderna do Estado são conceitos teológicos secularizados” [2]. Blumenberg sustentou que a compreensão do moderno como a secularização ou a transposição de conceitos teológicos mina a legitimidade do moderno; um certo significado da modernidade permanece irredutível à secularização da teologia [3].

Da mesma forma, a novidade e o significado da inteligência artificial são sepultados pelo imaginário escatológico, pelos estereótipos modernos sobre as máquinas e pela propaganda industrial.

O presente abre a antessala do futuro

Isso não significa que devamos negar as mudanças climáticas e resistir à inteligência artificial. Pelo contrário, lutar contra as mudanças climáticas deveria ser a nossa prioridade, assim como desenvolver uma relação produtiva entre humanos e tecnologia. Mas, para fazermos isso, devemos desenvolver uma compreensão adequada da inteligência artificial, além de uma compreensão meramente técnica.

A invenção do trem, do automóvel e, mais tarde, do avião também provocou um grande medo, tanto psicológica quanto economicamente. Hoje, poucos temem que essas máquinas escaparão do nosso controle. Em vez disso, carros e aviões fazem parte da vida do cotidiano, muitas vezes significando emoção e liberdade. Então, por que existe tanto medo da inteligência artificial?

Para entender essa nova onda de tecnologia que tem o ChatGPT na vanguarda, podemos começar com o famoso experimento mental da Sala Chinesa de John Searle, de 1980, que esconde o estereótipo mais irritante das máquinas computacionais sob a forma de raciocínio lógico.

Nesse experimento mental, Searle se imaginou sozinho em uma sala, encarregado de seguir instruções de acordo com um programa de processamento de símbolos escrito em inglês, a fim de responder a inputs escritos em chinês e passados por baixo da porta. Searle não entende chinês no experimento: “Não sei nada de chinês, seja escrito ou falado, e (…) nem tenho certeza de que poderia reconhecer a escrita chinesa como uma escrita diferente, digamos, da escrita japonesa ou de rabiscos sem sentido” [4].

Além da língua – “ex machina“

No entanto, ele argumenta que, com o conjunto certo de instruções e regras, ele poderia responder de forma a levar a pessoa fora da sala a acreditar que ele entende chinês. Simplificando, Searle afirma que apenas pelo fato de a máquina ser capaz de seguir instruções em chinês, isso não significa que a máquina entenda chinês – uma marca registrada da chamada IA forte (em contraste com a IA fraca).

Entender significa, acima de tudo, entender a semântica. Embora a sintaxe possa ser codificada, o significado semântico muda com a situação e a circunstância. A Sala Chinesa de Searle se aplica a um computador que ainda funciona como uma máquina do século XVIII, como o Pato Digestor ou o Turco Mecânico.

No entanto, esse não é o tipo de máquina com a qual estamos lidando hoje. Noam Chomsky, Ian Roberts e Jeffrey Watumull estavam certos ao afirmar que o ChatGPT é “um pesado motor estatístico para a correspondência de padrões” [5]. No entanto, devemos reconhecer que, embora os padrões sejam uma característica primária da informação, o ChatGPT está fazendo mais do que apenas a correspondência de padrões.

Sintaxe mecânica. Semântica transcendental 

Tal crítica sintática se baseia em uma epistemologia mecanicista que assume a causalidade linear – uma causa seguida por um efeito. Pode-se inverter esse processo de causa e efeito para alcançar a causa última: o motor principal, o padrão da causa primeira e o destino final de todo raciocínio linear. Em contraste com a causalidade linear e a filosofia mecanicista, o século XVIII viu o surgimento do pensamento filosófico baseado no organismo, com a “Crítica da Razão (juízo)”, de Immanuel Kant, como uma das contribuições mais significativas.

Como afirmei antes, Kant impôs uma nova condição ao filosofar, a saber, que a filosofia deve se tornar orgânica; em outras palavras, o orgânico marcou um novo começo para o pensamento filosófico [6]. Hoje, é importante reconhecer que a condição do filosofar que Kant estabeleceu chegou ao seu fim após a cibernética [7].

A cibernética, termo cunhado por Norbert Wiener por volta de 1943, foi desenvolvida por um grupo de cientistas e engenheiros que participaram das Conferências Macy sobre cibernética no fim dos anos 1940 e início dos anos 1950. A cibernética pretendia ser uma ciência universal capaz de unificar todas as disciplinas – uma nova adaptação do enciclopedismo do século XVIII, segundo Gilbert Simondon [8]. A cibernética usa o conceito de feedback para definir o funcionamento de uma nova “máquina cibernética” distinta das “máquinas mecânicas” do século XVII.

Máquinas irresolutas

Wiener afirmou, em seu livro seminal de 1948, que a cibernética havia superado a oposição entre mecanicismo e vitalismo representada por Newton e Bergson, porque as máquinas cibernéticas se baseavam em uma nova forma não linear de causalidade – ou recursividade –, em vez de uma causalidade linear frágil e ineficaz – frágil porque não sabe regular seu próprio modo de funcionamento.

Imagine um relógio mecânico: quando uma das engrenagens falha, todo o relógio para. Com esse tipo de mecanismo linear, nenhum aumento exponencial na velocidade de seu raciocínio pode ocorrer sem uma atualização radical do hardware.

Se a oposição entre mecanismo e organismo caracteriza um grande debate da filosofia moderna, determinando a direção de seu desenvolvimento, então o debate persiste hoje, quando tantas das declarações desacreditando a inteligência artificial e o ChatGPT assumem que as máquinas são apenas mecanicistas e, portanto, incapazes de entender o significado semântico.

Seria igualmente errôneo afirmar que as máquinas são apenas uma imitação falha da compreensão humana quando se trata do significado semântico.

O filósofo e cientista cognitivo Brian Cantwell Smith criticou duramente esse pensamento antropomórfico, defendendo uma intencionalidade maquínica. Para ele, mesmo que não se encontre nenhuma intencionalidade humana em uma máquina, ela continua sendo uma forma de intencionalidade; é semântica, ainda que não no sentido da linguagem humana [9]. Tal separação da semântica antropomórfica da semântica das máquinas é fundamental para repensar as nossas relações com as máquinas, mas apenas como um primeiro passo.

Signos, significados, significantes e ação

O argumento de Searle ignora fundamentalmente a forma recursiva de cálculo realizada pelas máquinas de hoje. Pode-se argumentar que a ciência da computação não deveria ser confundida com a cibernética, já que a cibernética é uma ciência muito abrangente. No entanto, pode-se também pensar na função recursiva de Gödel e em sua equivalência com a Máquina de Turing e o cálculo lambda de Alonzo Church (uma história bem conhecida na história da computação).

O termo “recursividade” não pertence apenas à cibernética; pertence também ao pensamento pós-mecanicista. O advento da cibernética apenas anunciou a possibilidade de realizar esse pensamento recursivo em máquinas cibernéticas.

A “inteligência” encontrada nas máquinas hoje é uma forma reflexiva de operação, como Gotthard Günther e Gilbert Simondon observaram corretamente. Para Günther, a cibernética é a realização da lógica de Hegel, enquanto, para Simondon, foi apenas na elaboração da “Crítica do juízo” sobre o juízo reflexivo que Kant abordou a cibernética [10].

“Hans Blumenberg argumentou contra a tese da secularização de Löwith, assim como contra a afirmação de Carl Schmitt de que todos os conceitos significativos da teoria moderna do Estado são conceitos teológicos secularizados – Yuk Hui”

O “pensamento reflexivo” costuma ser associado a seres humanos e não a máquinas, pois as máquinas apenas executam instruções sem refletir sobre as próprias instruções. Mas, desde a introdução da cibernética nos anos 1940, o termo também pode descrever o mecanismo de feedback das máquinas.

[N.E.: admite-se então tratar-se o feedback (retroalimentação dinâmica) como apenas mais um mecanismo?]

O pensamento reflexivo nas máquinas detém um poder assombroso sobre os seres humanos despreparados para aceitar sua existência, mesmo como uma forma preliminar e básica de reflexão – sendo puramente formal e, portanto, insuficiente para lidar com o conteúdo.

Aqui podemos entender como o ChatGPT pode ser “não particularmente inovador” e “nada revolucionário” para cientistas da computação como Yann LeCun [11]. É apenas lidando com o conteúdo que as máquinas podem se mover rumo àquilo que se convencionou chamar de singularidade tecnológica.

Até agora, a singularidade continua sendo um mito – enganoso e também prejudicial quando apresentado como um futuro próximo. Mesmo que associemos a singularidade a um significado teológico ou a uma escatologia, isso não contribui em nada para a compreensão da inteligência artificial ou de seu futuro.

As máquinas recursivas, e não as máquinas lineares, são cruciais para entender o desenvolvimento e a evolução da inteligência artificial. Como os seres humanos abordarão esse novo tipo de máquina? Simondon levantou uma dúvida semelhante ao perguntar: quando a tecnologia se tornar reflexiva, qual será o papel da filosofia?

Humanos finalmente ou por finalidades úteis?

Brian Cantwell Smith argumentou que a inteligência artificial se limita à capacidade de avaliação e não de julgamento, mas é difícil dizer por quanto tempo essa distinção pode durar [12]. Talvez se desperdiçado muito esforço intelectual para fazer distinções entre máquinas e humanos.

Kant impôs uma nova condição ao filosofar […]. Hoje, é importante reconhecer que a condição do filosofar que Kant estabeleceu chegou ao seu fim após a cibernética – Yuk Hui

Os seres humanos não ficaram chateados quando animais domesticados, como cavalos e vacas, os substituíram como provedores de energia. Em vez disso, eles acolheram o alívio em relação ao trabalho repetitivo e cansativo. O mesmo ocorreu quando as máquinas a vapor substituíram os animais; elas eram ainda mais eficientes e exigiam ainda menos atenção humana.

Simondon, em seu livro “Do modo de existência dos objetos técnicos” (Contraponto, 2020), de 1958, observou corretamente que a substituição das máquinas termodinâmicas por máquinas informacionais marca um momento crucial: o deslocamento humano do centro de produção.

Os artesãos antes da era industrial eram capazes de criar um meio associado no qual o corpo e a inteligência do artesão compensavam a falta de autonomia de suas simples ferramentas. Na era das máquinas informacionais, ou máquinas cibernéticas, a própria máquina passa a ser a organizadora da informação, e o humano não está mais no centro, mesmo que ainda se considere o comandante das máquinas e o organizador da informação.

Esse é o momento em que o humano sofre com suas próprias crenças estereotipadas sobre as máquinas: eles se identificam falsamente como o centro e, ao fazerem isso, enfrentam uma frustração constante e uma busca apavorada por identidade.

Artigo na íntegra e redação das notas explicativas aqui