Nos últimos meses Yuval Noah Harari, intelectual e historiador israelita, tem-se destacado a chamar à atenção coletiva para os riscos associados ao (mau) uso da inteligência artificial (IA). Num artigo profusamente publicado declarou que “a IA ganhou algumas habilidades notáveis para manipular e gerar linguagem, seja com palavras, sons ou imagens. A IA pirateou o sistema operacional da nossa civilização” e, com isto, a nossa existência poderá estar causa. Mais depressa do que alguém jamais poderia imaginar.
Se dúvidas ainda houvesse, a semana passada, um conjunto de líderes das maiores empresas de tecnologia do mundo vieram alertar para a necessidade de ser firmado um “Pacto da IA”, que possa de forma voluntária acelerar o compromisso ético perante a lentidão regulamentar e legislativa. Os mais recentes avanços tecnológicos parecem colocar em causa o controlo humano dos processos e a IA generativa supera já a criatividade humana, abusa do uso de dados e conteúdos criativos protegidos sem necessidade de um consentimento prévio. A obra parece superar o (antes) criador!
A União Europeia está há, pelo menos, três anos, a observar com atenção legislativa a IA. Reiteradas vezes a mensagem oficial tem sido a de que qualquer desenvolvimento tecnológico deve respeitar os direitos fundamentais e, por isso, está quase a concluir-se a negociação do “Ato da IA”: um regulamento que define um conjunto de obrigações jurídicas e princípios éticos para o desenvolvimento, a implantação e a utilização da IA, da robótica e das tecnologias conexas, devendo respeitar-se a dignidade humana, a autonomia e a autodeterminação dos indivíduos.
O problema é que existe uma diferença abissal entre os princípios e as normas plasmadas e a realidade do desenvolvimento tecnológico. Parece estar em causa o princípio (até aqui inquestionável) de que as tecnologias existem para servir as pessoas e não para as substituir ou decidir por elas. E já não se tratam apenas dos domínios mais críticos como a defesa e a segurança para se alastrar às utilizações mais prosaicas e correntes do nosso quotidiano. Em nome de um suposto bem-estar humano – e há projetos em que tal é visível, sobretudo nas áreas da saúde e desenvolvimento científico – parece estar a criar-se uma realidade paralela em que as máquinas controlam e decidem em nome dos humanos.
Tal como Yuval Harari, são cada vez mais as vozes que anunciam a proximidade do abismo. Estaremos ainda a tempo de o evitar?..