 |
| The Illiac Passion, de Gregory J. Markopoulos (1967) |
Por Anne Alombert, professora de filosofia francesa contemporânea na Universidade de Paris 8, e Giuseppe Longo, matemático.
(Tradução para fins didáticos: Bernardo Oliveira)
***
Desde que o ChatGPT foi lançado no mercado, os debates em torno da inteligência artificial continuaram a se multiplicar. Na maioria das vezes, trata-se de questionar as vantagens e desvantagens da IA generativa em pleno desenvolvimento, que permite produzir todo tipo de textos ou imagens sob demanda, graças a cálculos probabilísticos realizados por algoritmos sobre grandes quantidades de dados previamente coletados, armazenados e indexados. Há muitos outros dispositivos surgindo da nova IA conexionista (baseada em "redes neurais" formais, infinitamente mais eficientes que a IA lógico-dedutiva clássica), mas poucos deles geraram tanta discussão, enquanto esses novos métodos digitais são frequentemente muito mais notáveis, tanto do ponto de vista de sua operação quanto do ponto de vista de suas aplicações.
Todos esses sistemas digitais constituem dispositivos de computação que, graças à indexação (humana) de grandes quantidades de dados e por meio de certas operações matemáticas muito específicas (wavelets, renormalização, métodos ótimos, em grande parte emprestados da física matemática, técnicas de filtragem em cascata e convolução, algoritmos de retropropagação que permitem constituir invariantes a partir de imagens, sons, linguagem, etc.), produzem desempenhos notáveis em campos muito diferentes. Hoje, somos capazes de "gerar" conteúdo (textual ou imagético) que se assemelha ao chamado conteúdo "humano" — o que não é surpreendente por si só, já que é o conteúdo "humano" que constitui os dados para montagem estatística.
Mas, por mais eficientes que sejam, essas novas máquinas digitais não aprendem nem inventam: ao contrário do que o termo "inteligência artificial" pode sugerir, elas não são nada inteligentes. A inteligência, de fato, não se limita à capacidade de calcular: "uma coisa é o cálculo ou o processamento de dados (...), outra coisa é a invenção", escreveu o filósofo e cientista Georges Canguilhem. Ele então ressaltou a impossibilidade de gerar algo novo com base apenas em probabilidades. O imprevisível não é necessariamente “criativo”: um lance de dados é imprevisível, mas não inventa nada.
A produção de novidade pressupõe a memória e as expectativas de um ser vivo a quem falta algo: “não há invenção sem consciência de um vazio lógico, sem tensão em direção a uma possibilidade, sem risco de errar”, escreveu novamente Canguilhem. “Inventar é criar informação, romper hábitos de pensamento, o estado estacionário do conhecimento”: é apropriando-se de um meio técnico e simbólico (linguagem, pintura, música, matemática) e fazendo-o ramificar-se para novos horizontes que um indivíduo ou um grupo pode inventar, e é nesse sentido, sempre psíquico e coletivo, que podemos falar de inteligência. Não há inteligência ou invenção sem objetivo ou intencionalidade: não há inteligência sem movimento para superar (a si mesmo), exceder (a si mesmo), transformar (a si mesmo). Pensar é "imaginar novas configurações de significado", como quando os humanos interpolaram as estrelas com linhas, inventando as constelações que deram um significado mítico, prático, simbólico à insensatez desses pontos luminosos.
Por outro lado, máquinas algorítmicas como o ChatGPT são projetadas para gerar sequências de palavras ou conjuntos de imagens que provavelmente são comparadas ao passado, ou seja, para reiterar de forma idêntica "padrões" ou invariantes identificados em grandes quantidades de dados: foi necessário introduzir aleatoriedade no ChatGPT para que o sistema gerasse conteúdo diferente a cada vez — isso o faz parecer mais criativo, para enganar melhor os usuários. Sem a adição desta função adicional, as respostas, já muito padronizadas, seriam idênticas entre si, mesmo para uma pergunta longa e complexa, pois são baseadas no cálculo de médias e, pelo mesmo motivo, só podem reforçar os vieses dominantes.
Então por que falamos de inteligência artificial para designar tais sistemas? Já em 1980, Canguilhem notou "o abuso de expressões irrelevantes como 'cérebro consciente', 'máquina consciente', 'cérebro artificial' ou 'inteligência artificial'", que tinham uma função heurística no campo tecnocientífico, mas que desde então se converteram em uma "máquina de propaganda ideológica". Ainda segundo John McCarthy, um dos pioneiros da IA, a noção de inteligência artificial é problemática, pois foi escolhida com o único propósito de evitar um debate com a cibernética. Hoje, ele está sendo desconstruído por muitos especialistas. Então vamos falar sobre autômatos computacionais ou autômatos digitais.
Vamos dar outro exemplo, a noção de “aprendizagem profunda” ("Deep Learning"). Essa noção evoca, antes de tudo, a aprendizagem em animais (e humanos). No entanto, os seres vivos só aprendem se o que aprendem fizer sentido para eles, para a alimentação, para a sexualidade, para o afeto, para a partilha em grupo... Podemos forçar um animal ou uma criança a aprender sem sentido, através da violência ou da recompensa, mas é difícil. Decorar um poema completamente sem sentido é uma tortura – como forçar um animal a agir sem que isso faça sentido para ele, em um circo, por exemplo. Agora sabemos que até mesmo as "deformações" do córtex visual primário são moduladas pelo significado: mesmo no primeiro nível de percepção visual, dar significado ou nome ao que é percebido modifica os traços neuronais da "visão" e torna a memória possível.
Nesse sentido, o armazenamento digital em mídia eletrônica obviamente não constitui aprendizagem, mesmo quando é “revisível”. De fato, usando os métodos computacionais mencionados acima, é possível modificar o armazenamento digital dinamicamente para identificar as invariantes de determinado conteúdo (imagens, sons, idiomas) – uma conquista técnica notável. Mas ainda é sobre armazenamento, não aprendizado! Esse armazenamento digital também é chamado de "profundo", devido à ideia ousada, desenvolvida nas décadas de 80 e 90, que consiste em colocar as redes bidimensionais de neurônios formais em várias camadas: passamos do "plano" das duas dimensões para a "profundidade" das três dimensões. Esta é uma mudança tecnicamente importante, mas a noção de "aprendizado profundo" evoca a profundidade do pensamento do Réquiem de Mozart... Neste contexto, a expressão é abusiva e enganosa. Vamos parar de falar sobre “aprendizagem profunda” e chamá-la pelo que ela é: trata-se de armazenamento digital revisável!
Essa transformação da linguagem está longe de ser superficial: as palavras que usamos moldam a maneira como pensamos. No entanto, se as máquinas digitais continuaram a evoluir nos últimos cinquenta anos, é claro que a máquina ideológica em si não mudou muito: os atores do Vale do Silício ainda falam de "mentes digitais", enquanto certos intelectuais se permitem afirmar que "o que não pode ser calculado não pode ser pensado", como se não pudéssemos imaginar nada além das previsões algorítmicas do GAFAM [acrônimo que se refere às empresas Google, Apple, Facebook, Amazon e Microsoft]. Falar de uma mente maquinal é, na verdade, querer mecanizar o pensamento, isto é, querer reduzir comportamentos improváveis e significativos a comportamentos programáveis, portanto controláveis e substituíveis.
De fato, essas metáforas antropomórficas, aparentemente inocentes e simpáticas, têm efeitos performativos. Quando um indivíduo está convencido de que seu comportamento pode ser programado, ele será mais facilmente controlado. Uma vez convencido de que seu conhecimento pode ser padronizado, ele terá ainda mais probabilidade de ser substituído. Para considerar as questões antropológicas e políticas da atual revolução tecnológica, tenhamos, portanto, o cuidado de desconstruir a noção de inteligência artificial e as analogias entre máquinas e organismos ou entre cérebros e computadores que ela carrega consigo. As chamadas inteligências artificiais generativas são autômatos digitais ou computacionais que podem oferecer todo tipo de novas possibilidades nas sociedades contemporâneas, desde que preservemos e intensifiquemos nossas capacidades de desautomatização – de interpretar, de decidir, de imaginar e de inventar. Ou seja, desde que nos permitamos a possibilidade de abrir caminho para um sentido e um futuro compartilhados, que só podem ser fruto da inteligência coletiva e do debate fundamentado.
Nenhum comentário:
Postar um comentário