Como o ChatGPT e o Gemini podem estar a mudar a web

Há um efeito quase imediato quando fazemos uma pergunta na internet e, em poucos segundos, recebemos uma resposta limpa e segura de si.

À primeira vista, soa a avanço: obtém-se o que se procura sem ter de passar por dezenas de artigos de blogues, discussões em fóruns e testemunhos pessoais de qualidade irregular.

Um novo estudo da University of California, Riverside (UCR) indica, contudo, que o que fica pelo caminho nessa troca pode ser mais importante do que parece.

E, à medida que os sistemas de IA assumem uma fatia crescente da forma como descobrimos informação online, a web pode estar a perder, discretamente, algo que demorou 25 anos a ser construído.

Os investigadores analisaram como grandes modelos de linguagem, como o ChatGPT e o Gemini, respondem a perguntas subjectivas, baseadas em opinião.

Depois, colocaram as mesmas perguntas a pessoas e compararam os resultados. A discrepância revelou-se consistente e com implicações claras.

Lógica versus tudo o resto

Para distinguir tipos de raciocínio, a equipa recorreu ao triângulo retórico de Aristóteles.

Este enquadramento divide a persuasão em três dimensões: logos, assente na lógica e na coerência factual; ethos, que apela à autoridade ou credibilidade pessoal; e pathos, que mobiliza emoção e experiência humana partilhada.

Com estas categorias, o grupo avaliou como humanos e sistemas de IA constroem argumentos e dão respostas.

Um tipo diferente de persuasão

Ao cruzar as respostas do ChatGPT e do Gemini com resultados da web obtidos via Google e Bing, os autores encontraram uma divergência marcada.

O conteúdo escrito por humanos na web usava as três vias de persuasão, combinando argumentos factuais com preocupações morais, vivências pessoais, apelos emocionais e narrativa.

“Do que percebemos é que os humanos, essencialmente, usam as três, enquanto os LLMs, na prática, dependem apenas do logos”, afirmou o co-autor Kevin Esterling, professor de políticas públicas e ciência política na UCR.

“A forma como tentam persuadir é diferente da forma como os humanos persuadem.”

O problema da margarita

Para tornar o contraste mais palpável, os investigadores recorrem a um exemplo concreto. Se pedir a uma IA uma receita de margarita, receberá uma resposta competente e bem estruturada, derivada de uma enorme quantidade de dados de treino.

O que não receberá é o tipo de conteúdo que se encontra no Difford’s Guide, um site de cocktails onde Simon Difford apresenta dezenas de receitas de margarita, organizadas em sete estilos.

Além disso, o site acompanha a história da bebida, remetendo-a para a descoberta, por um jornalista, no México dos anos 1930, de algo que então era chamado de “Tequila Daisy”.

Esse género de detalhe - a história, a personalidade, a voz humana a explicar por que razão isto importa - é precisamente o que a IA tende a filtrar. Não é propriamente incorrecto; mas soa a algo seco.

Porque é que o raciocínio da IA é assim

Os autores avançam uma hipótese para explicar por que motivo estes sistemas se inclinam tanto para respostas factuais e centradas na lógica.

Os mecanismos de “alinhamento” e de segurança que as empresas de IA adicionam aos modelos procuram conduzir as respostas para terreno factual e não controverso, evitando linguagem emocional ou politicamente carregada.

O resultado são respostas previsivelmente seguras, mas também sistematicamente despidas das formas de raciocínio mais confusas e pessoais que os autores humanos trazem para temas disputados.

O estudo identificou ainda que o ChatGPT e o Gemini se aproximam muito na forma como respondem às perguntas.

“Quando usamos plataformas de IA em vez de pesquisas na web, obtemos uma versão destilada do conhecimento, limitada pelos guardrails de cada plataforma de IA e sem qualquer emoção humana ou diversidade de opiniões”, disse o co-autor Vagelis Hristidis, cientista informático na UCR.

Porque a comunicação humana é diferente

Segundo Esterling, parte do que falta tem a ver com algo estrutural na comunicação humana.

Quando as pessoas conversam, estão constantemente a antecipar como a outra parte vai reagir - a nível emocional, intelectual e moral. Essa antecipação molda a forma de argumentar, o que se sublinha e as histórias que se escolhe contar.

“Quando os humanos falam uns com os outros, conseguimos perceber o que o outro está a pensar”, disse Esterling. “Há este tipo de interacção de dois sentidos.”

Os modelos de linguagem não funcionam assim. Produzem sequências de palavras estatisticamente prováveis com base nos dados de treino e em parâmetros internos.

Não existe um modelo do interlocutor, nem uma leitura do que terá impacto emocional ou do que soará pessoalmente relevante.

“Não é, de todo, como falar com uma pessoa”, disse Esterling. “É apenas uma máquina a prever que palavras devem ser ditas em resposta a um prompt.”

O que podemos estar a perder

Estas ferramentas estão a ser usadas cada vez mais para encontrar informação sobre política, saúde, ética e assuntos públicos - precisamente as áreas em que toda a amplitude do raciocínio humano tem mais peso.

Uma pergunta sobre reforma dos cuidados de saúde ou sobre políticas de combustíveis fósseis não é apenas um pedido de factos. É também uma discussão sobre valores, sobre que experiências contam e sobre que tipo de sociedade as pessoas querem.

“À medida que as pessoas passam a depender cada vez mais de sistemas de IA para descobrir informação, em detrimento das pesquisas tradicionais na web, a web pode perder gradualmente a sua alma e deixar de reflectir a natureza humana que a moldou ao longo dos últimos 25 anos”, afirmou Hristidis.

Os ganhos de eficiência com a recuperação de informação apoiada por IA são reais: receber rapidamente uma resposta clara é, de facto, útil. O problema é que o que fica filtrado é, muitas vezes, aquilo que ajuda as pessoas a compreender não só os factos, mas também umas às outras.

“Enquanto humanos, estamos programados para acreditar que tudo o que produz linguagem tem cognição humana por trás”, disse Esterling. “Mas este artigo mostra que as máquinas produzem linguagem que não tem qualidades humanas quando se trata de raciocínio e argumentação.”

A web foi construída por pessoas a discutir, a partilhar, a persuadir e a contar histórias. Se continuar a ser assim dependerá, em grande medida, de repararmos no que estamos a abdicar.

A investigação foi apresentada na ACM Web Science Conference, em Braunschweig, na Alemanha.