O tema desta crónica impõe um reparo. De modo algum sou especialista ou estudioso das possibilidades, vertentes e consequências da inteligência artificial (IA), mas apenas um cidadão atento à sua crescente presença, olhando-a estimulado pelas possibilidades que oferece, mas também preocupado com os problemas que levanta. De todos, os mais perigosos serão, sem dúvida, a sua possível e arriscada autonomização em relação ao fator humano, bem como o seu uso pelas formas autocráticas e manipuladoras dos grandes poderes políticos e empresariais. Neste quadro, se não vejo como útil a contestação cega e passadista do seu uso, feita por quem apenas teme a novidade ou não sabe do que fala, também não aceito um entusiasmo acrítico perante algumas das hipóteses que abre.

Encaro o seu lado mais obscuro e negativo sob a influência de declarações recentes do presidente dos Estados Unidos. Parto do princípio, julgo que bastante razoável, segundo o qual tudo o que este defenda é potencialmente danoso para a nossa vida coletiva e para o futuro da humanidade.

Recentemente, Trump classificou os sucessivos alertas que têm vindo a ser feitos sobre os potenciais riscos da IA, muitos deles por reputados cientistas, como «um embuste» – comparando-os até ao debate sobre as alterações climáticas, que escandalosamente considera uma preocupação desprezível – e rejeitou quaisquer obstáculos colocados ao seu livre desenvolvimento, considerando que estes poriam em causa aquilo a que chama «a liderança tecnológica» dos Estados Unidos.

Uma vez mais, o crescimento económico e o lucro imediato são aqui encarados como fatores decisivos e incontestáveis na condução das políticas, apesar do carácter perverso ou nocivo que possam conter. Aliás, outra das motivações de Trump para a sua defesa da ausência de controlo sobre as ferramentas da IA em expansão nos EUA é a concorrência da China, onde de há muito passaram a ter lugar central no controlo do sistema económico, da informação e da vida dos cidadãos por parte do Estado autocrata de partido único. Como nas distopias ficcionais protagonizadas por máquinas – são exemplos «1984», de Orwell, e «Eu, Robô», de Asimov, ou os filmes «Matrix» e «Terminator» – estas são olhadas como ferramentas de controlo dos humanos, não como seus auxiliares.

O uso produtivo e estimulante da IA – em áreas como a ciência, a indústria, a medicina, a criação artística e literária, o ensino e a investigação, ou o entretenimento – não exclui, quer as perversões a que pode dar lugar por ausência de regulamentação e vigilância, quer a possibilidade de parte dos seus agentes ganharem autonomia e capacidade para se imporem à ação humana. Como referia há dias um artigo do «Público», as maiores empresas de IA do mundo alertaram já o Conselho de Segurança da ONU para riscos que a tecnologia contém, apelando aos governos para que trabalhem em conjunto na gestão de sistemas cada vez mais avançados e autónomos. Dario Amodei, da Anthropic, afirmou mesmo que, se não for controlada, ela «pode representar um risco para a Humanidade».

Não se trata de alarmismo, nem de uma inevitabilidade, mas é sem dúvida uma perigosa possibilidade. Os alertas dispararam depois de agentes não-humanos de IA terem conseguido executar tarefas de forma autónoma, realizando ciberataques e ultrapassando restrições impostas pelos seus criadores. Sabe-se que, por sua iniciativa, foram pirateados sites de governos, serviços de saúde e empresas, sendo-o também serviços militares críticos, num dos casos para favorecer a agressão russa contra a Ucrânia. Embora diversos especialistas considerem exagerados estes reparos de teor apocalíptico, salientando que governos e empresas jamais perderão de todo o controlo sobre a tecnologia, é de temer, e muito, que este ponto de vista seja demasiado ingénuo ou exageradamente otimista.