Quando as máquinas “alucinam”:

 Quando as máquinas “alucinam”:

O que a Inteligência Artificial pode — e não pode — fazer por nós!

Vivemos uma época paradoxal. Nunca tivemos tanto acesso à informação e, ao mesmo tempo, nunca foi tão fácil sermos enganados por respostas que parecem certas, mas não o são!

A chamada “alucinação” da Inteligência Artificial (IA) é um dos fenómenos mais relevantes — e menos compreendidos — do nosso tempo. Importa explicá-lo com clareza, porque dele dependem decisões no ensino, na justiça, na saúde, na comunicação social e na vida quotidiana.

O que significa uma IA “alucinar”?

Quando se diz que uma IA alucina, não se está a falar de delírio, imaginação ou consciência — como acontece nos seres humanos. Trata-se de algo muito mais simples e, por isso mesmo, mais perigoso.

Uma IA alucina quando:

• fornece informação falsa ou inventada,

• com linguagem fluente e segura,

• sem indicar que não tem certeza do que afirma.

O problema não está na forma da resposta, mas no seu conteúdo. A resposta soa correta, mas não corresponde à realidade.

Porque acontece isto?

As IAs atuais não sabem factos nem verificam a realidade. Funcionam por cálculo estatístico: analisam grandes quantidades de texto e aprendem quais as palavras que costumam surgir juntas.

Em termos simples, a IA não pergunta:

“Isto é verdade?”

Ela pergunta:

“O que costuma vir a seguir numa frase como esta?”

Quando falta informação clara, quando a pergunta é ambígua ou quando o contexto é demasiado amplo, a IA tende a preencher lacunas com algo plausível. É aqui que nasce a alucinação.

Não há intenção de enganar. Há apenas ausência de ancoragem no real.

O erro está só na tecnologia?

Não. Uma parte significativa do problema está na forma como nós, humanos, usamos a tecnologia.

Projetamos na IA capacidades que ela não tem:

• compreensão,

• juízo,

• consciência,

• responsabilidade.

Falamos com a máquina como se fosse um especialista ou uma autoridade. Mas a IA simula linguagem, não conhecimento. Ela não tem experiência do mundo, não sofre consequências e não distingue verdade de plausibilidade.

Inteligência não é consciência!

Aqui reside a distinção fundamental que o debate público raramente faz.

• A IA calcula

• O ser humano compreende

A consciência humana inclui dúvida, hesitação, sentido ético e responsabilidade. A IA, pelo contrário, tende a avançar sempre com uma resposta, mesmo quando não sabe.

Paradoxalmente, a IA alucina porque é demasiado coerente. Onde o humano diria “não sei”, a máquina continua.

Um novo risco: confiar sem questionar

O verdadeiro perigo não é a existência de erros — errar é humano e técnico.

O perigo é a confiança acrítica.

Quando respostas geradas por IA são usadas:

• em trabalhos escolares,

• em decisões administrativas,

• em textos jornalísticos,

• em pareceres técnicos,

sem validação humana, o erro deixa de ser individual e passa a ser sistémico.

Tecnologia ao serviço da consciência, não no seu lugar

A Inteligência Artificial pode ser uma ferramenta extraordinária:

• para organizar informação,

• para apoiar análises,

• para acelerar processos.

Mas não pode substituir a consciência humana, nem deve ser tratada como fonte última de verdade.

Quanto mais avançada é a tecnologia, maior deve ser a responsabilidade humana — não menor.

Uma questão de cidadania:

Saber que a IA pode alucinar não é um detalhe técnico. É uma questão de literacia cívica.

Usar bem estas ferramentas exige:

• espírito crítico,

• verificação,

• humildade intelectual,

• e consciência dos limites da máquina.

O futuro não pertence às máquinas que calculam melhor, mas às sociedades que sabem decidir melhor.

 Jacinto Alves, escritor e investigador em Ciência Informacional.

ECLETA - ACADEMIA DE ESTUDOS ECLÉTICOS DE PORTUGAL.