Inteligência artificial, responsabilidade humana
A máquina não hesita porque não conhece a dúvida, sendo essa a sua força e também o seu perigo.
Num hospital, um profissional de saúde pode ver a sua avaliação contrariada pela recomendação de um algoritmo. A máquina apresenta uma percentagem e sugere um caminho; o profissional traz formação, experiência e o conhecimento daquela pessoa. Quando discordam, quem deve ter a última palavra?
A pergunta já não pertence ao futuro. Sistemas de inteligência artificial calculam riscos, sugerem diagnósticos e emitem alertas, fazendo em segundos o que levaria horas. Seria insensato recusá-los, mas seria ainda mais insensato obedecer-lhes sem os compreender.
Um sistema pode funcionar bem no hospital onde foi desenvolvido e falhar noutro, sem que nada no ecrã revele a diferença.
Quanto mais convincente parecer a resposta, maior será a tentação de a aceitar sem a verificar. O perigo começa quando a força dos números substitui o pensamento crítico.
Quem somos nós para contrariar uma máquina que comparou milhares de casos? Somos quem terá de responder pela decisão, perante os doentes, as famílias, as ordens profissionais e os tribunais.
Um algoritmo reconhece padrões, mas não reconhece uma pessoa nem sabe o que um diagnóstico errado pode mudar na sua vida. Aprende com dados reais, mas esses dados nem sempre representam todos os grupos de forma equilibrada.
Quando os dados são escassos ou pouco representativos, o risco de erro aumenta. A tecnologia não é, por isso, automaticamente neutra: pode repetir desigualdades e dar-lhes uma aparência de objetividade.
Seria injusto, porém, fazer recair todo o peso sobre quem está junto do doente. A responsabilidade começa em quem compra os sistemas, os valida e acompanha o seu desempenho.
Sem tempo para pensar, a supervisão humana pode existir no papel e desaparecer na prática. É aí que as instituições de saúde têm de prestar contas.
É precisamente por reconhecer este risco que o Regulamento Europeu da Inteligência Artificial obriga as entidades que utilizam estes sistemas a promover a literacia dos seus profissionais e, nos casos de alto risco, a assegurar uma supervisão humana efetiva.
Mas colocar um humano no circuito não chega. É preciso conservar humanidade na decisão: conhecimento para compreender, tempo para pensar, autoridade para dizer «não» e colocar a particularidade de cada pessoa no centro da decisão clínica.
É aqui que o ensino superior tem de se assumir como linha de defesa dos doentes. Ensinar a utilizar uma ferramenta é simples. Difícil é formar profissionais capazes de questionar os dados e os resultados, de detetar o erro antes que chegue ao doente e reportá-lo para que não se repita. Precisamos de profissionais que dominem a tecnologia sem lhe entregarem o pensamento nem o julgamento.
Isso obriga a repensar o ensino e a avaliação. Quando uma máquina dá em segundos a resposta certa, o que conta é se o estudante percebe a pergunta, vê os limites da solução e tem argumentos para a contestar. Importa também saber se consegue explicar ao doente, por palavras simples, o papel que a tecnologia teve na decisão.
A inteligência artificial pode melhorar os cuidados e salvar vidas, mas nenhum progresso técnico nos liberta da responsabilidade moral. A máquina pode indicar o que é mais provável, mas não pode decidir o que é melhor para aquela pessoa, assumir a responsabilidade por um erro ou reparar o dano.
Quando estiverem em causa a saúde, a dignidade e a vida humana, alguém terá de olhar o doente nos olhos e responder pela decisão tomada.
Esse alguém nunca poderá ser uma máquina.

