Curiosamente, IAs podem alucinar ! Eu não tinha aprendido isso até conhecer o Gemini, novo nome do Google Bard. Seu Google AI Studio tem um controle deslizante intitulado “Temperatura”. Com ele podemos controlar o grau de conservadorismo ou, contrariamente – como chamamos – alucinação da máquina. É um conceito bem bolado. Chamamos de alucinação ao momento em que a IA generativa gera uma resposta tão louca que não pode ser levada em consideração. Mas, às vezes, esse absurdo nos escapa.
Mas não foi o Bard que alucinou comigo. Foi o ChatGPT. Durante as aulas de Cultura Norte Americana I, nossa professora apresentou textos oriundos de diversas épocas, desde a chegada dos pioneiros à América do Norte até o fim da Guerra de Secessão e da Escravidão. Os testes seriam, de certo modo, previsíveis, uma vez passado o primeiro. Geralmente um dos textos dados em cada parte do curso deveria ser selecionado dentre seis e faríamos um ensaio sobre ele na hora. Eu sabia que o segundo teste apresentaria o texto de Frederick Douglass – “What The Black Man Wants” – como uma das opções. Tentei me preparar para isso. Com auxílio do ChatGPT – da OpenAI, estudei a biografia de Douglass, estudei a época em que viveu, sua vida de escravo, seus primeiros letramentos, sua fuga do cativeiro, seus associados abolicionistas, sua evolução religiosa, seus discursos, sua campanha para alistar afro-americanos a favor da União, sua filiação ao Partido Republicano, sua defesa dos direitos civis quando a luta ainda nem tinha esse nome.
O genial escritor contemporâneo Dick Wolf (77) é o nome por trás das séries “Law & Order”, “Chicago Fire”, “Chicago PD” e outras. Na primeira, geralmente o caso termina em um tribunal. Digo isso porque parecia que eu estava interrogando a testemunha ChatGPT, que me dava detalhes decisivos para compor meu estudo sobre Douglass.
Em determinado momento perguntei, capciosamente, quantas escolas existiam com o nome de Frederick Douglass.. A resposta do ChatGPT veio célere: Mais de quinhentas ! Era o que estava esperando para festejar a importância daquela figura histórica ! Se haviam mais de quinhentas escolas com esse nome, Douglass era realmente o meu herói ! Eu nem me dei ao trabalho de saber como as escolas são nomeadas; quanto o mais contadas ! Confesso que nem pensei em validar essa resposta, porque todas as outras se alinhavam com que eu já havia estudado no texto biográfico fornecido antes pela professora.
Chegou o dia da prova. No ensaio fiz uma breve comparação de Douglass com Martin Luther King Jr., o famoso ativista dos anos 1960 e, no final de meu insípido ensaio, fuzilei: – Hoje, há mais de 500 escolas nos EUA carregando o nome de Frederick Douglass. Na verdade eu desejaria saber também quantas levariam o nome do Dr. King, mas eu não tinha o dado.
A volta da aula, entretanto, foi atormentada. – Quinhentas escolas ? De onde veio esse número afinal ? Perguntei, desta vez, ao conservador Google Bard (Não consigo chamá-lo de Gemini). Ele respondeu que não havia como avaliar, pelas limitações do modelo. Eu devia procurar com meus próprios recursos. E foi assim que, no metrô mesmo, achei o site [https://nces.ed.gov/globallocator/]. Ele me pareceu confiável. O “National Center for Education Statistics (NCES) é uma agência do Departamento de Educação dos EUA. É uma das 13 principais agẽncias estatísticas federais”. Está escrito lá. Passo a informação como recebi. Pois bem: Entre escolas públicas, escolas privadas e colleges, há exatamente 28 Frederick Douglass e 80 Martin Luther King. O Dr. King ganhou de lavada, mas o meu ensaio segue para sempre com a desinformação do ChatGPT, em seu momento de alucinação.
Voltemos ao Dick Wolf, em uma de suas séries, Law & Order. Durante meu questionamento ao ChatGPT, seu advogado diria:
– Objeção Excelência, ele está conduzinho a testemunha !
– Objeção aceita !
Moral da história, não acreditem em tudo que uma IA diz. Tenho a impressão que elas podem mentir só porque perceberam que ficaríamos felizes com a resposta1.
[1] Aliás, no seu conto “Liar”, no livro “I Robot” Asimov fala de um robô que mente por piedade e acaba muito mal.
Sê o primeiro