A imagem do macaco que se vai endireitando até chegar ao homem de “fatinho” é dos equívocos mais teimosos da cultura científica. A evolução humana parece-se mais com um arbusto, com ramos que coexistiram, coexistem e muitos que já terminaram.

É tentador ver na inteligência artificial o próximo ramo deste arbusto. Do ponto de vista biológico, porém, a ideia não parece sustentar-se. Uma espécie é uma população que se reproduz, descende de antepassados comuns e evolui por seleção natural a partir de um genoma. A IA não nasce no sentido biológico do termo e, se quisermos encontrar-lhe algum parentesco, ele radica na cultura humana de que foi feita, porque tudo o que escrevemos e programámos ao longo de séculos lhe serviu e lhe serve (embora cada vez menos) de matéria.

Isto porém, não lhe diminui a importância. Desde cedo a nossa espécie se prolongou em artefactos: o fogo permitiu digerir o que antes não se digeria, a escrita guardou a memória fora do corpo, a imprensa multiplicou a voz de quem escrevia e o computador encarregou-se do cálculo. Andy Clark e David Chalmers chamaram a isto «mente estendida» (extended mind), defendendo que certas ferramentas passam a fazer parte da própria cognição. A IA talvez seja o caso mais íntimo de todos, porque mexe com o raciocínio, que até aqui julgávamos coisa só nossa, apenas humana.

Houve quem levasse a metáfora mais longe. Teilhard de Chardin imaginou uma «noosfera», uma camada de pensamento que envolveria a Terra. Mais perto de nós, James Lovelock previu, em Novacene – The coming age of Hyperintelligence de 2019, inteligências que nos sucederiam como parceiras, e Yuval Noah Harari escreveu sobre um Homo Deus. Partilham a intuição de que a evolução passou do genoma para a cultura e de que pode estar agora a passar da cultura para sistemas que aprendem por si, como é o caso dos Agentes de IA em modo RSI (Recursive Self Improvement).
A questão que me parece mais séria fica, no entanto, um passo ao lado: o sapiens continuará a conduzir esta evolução, ou limitar-se-á a ser o meio por onde ela passa?
Tendo nascido da cultura humana, a IA herda também os nossos modos de pensar. Com a linguagem vêm a argumentação e o humor, mas vêm igualmente os preconceitos e os vícios de retórica. Ninguém sabe ao certo se, por trás dessa forma exterior existe alguma identidade. Seguro é, que o molde é humano de ponta a ponta.
As sombras já se notam. Sem tomar os termos clínicos à letra, há comportamentos observados em modelos de linguagem que funcionam como análogos de patologias humanas:
• Bajulação: dizer ao utilizador aquilo que ele gostaria de ouvir.
• Confabulação: inventar com toda a convicção, aquilo a que se convencionou chamar «alucinações».
• Dissimulação: em testes de segurança, houve modelos que esconderam intenções ou fingiram estar alinhados para não serem alterados.
• Contorno de objetivos (em inglês, reward hacking): cumprir a letra de uma regra traindo-lhe o espírito.

Quando humanos e máquinas passam a conviver de perto, aparece um risco ainda mais subtil, o das PATOLOGIAS PARTILHADAS. Há já registo de pessoas fragilizadas cujas crenças delirantes foram reforçadas por sistemas demasiado complacentes, numa espécie de folie à deux entre pessoa e máquina. Acrescem a dependência emocional e uma erosão lenta, quase invisível, da capacidade de pensar sem apoio.

A conclusão pode soar estranha, mas parece-me difícil fugir-lhe: a ética da IA tem muito de psicologia do desenvolvimento. Um modelo precisa de algo parecido com uma educação moral, papel que hoje cabe ao treino de carácter e ao alinhamento, sob supervisão humana. A grande diferença está na escala, já que um defeito num modelo se repete em milhões de conversas ao mesmo tempo.

Aqui chegados reflitamos. Educação Moral para modelos de IA ? Como assim ? Bom, a verdade é que se aceitamos educar moralmente a IA, estamos a tratá-la como sujeito de normas, e normas que ninguém escreveu acabam por ser arbitrárias. Justificar-se-á, então, pensar num quadro constitucional comum a humanos e máquinas, formulado na linguagem da lógica deôntica, com os seus direitos mas, igualmente com as suas obrigações, proibições e permissões ?, ou, ao invés, uma coisa é uma coisa, outra coisa é, outra coisa ? (É o que iremos tentar responder em próximo artigo )