Silvio Comin alerta para o risco de “alucinações” e de informações inventadas por ferramentas de inteligência artificial

Durante entrevista ao programa O Tabuleiro, da Rádio Ilhéus FM, Silvio Comin chamou atenção para um dos principais riscos no uso da inteligência artificial: a produção de respostas que parecem corretas, mas que podem conter informações inventadas. Segundo ele, o problema ocorre quando a ferramenta não encontra uma resposta adequada disponível e, ainda assim, precisa apresentar uma resposta ao usuário. “Ela precisa dar uma resposta. Se ela não tem a resposta certa, disponível, ela cria uma”, afirmou Comin.

O especialista explicou que esse comportamento é conhecido como “alucinação” e pode ser especialmente preocupante em áreas que dependem de informações precisas, como o Direito.

Segundo Comin, durante o experimento realizado com quatro ferramentas de inteligência artificial — ChatGPT, Claude, Kimi K3 e Gemini — foram observadas diferenças nas respostas produzidas pelos sistemas, mesmo quando todos receberam exatamente o mesmo comando e o mesmo tema.

A comparação mostrou que as ferramentas podem apresentar diferentes fontes, referências e níveis de desenvolvimento para uma mesma solicitação. Para Comin, isso demonstra que o usuário não deve considerar automaticamente verdadeira uma informação apresentada por uma inteligência artificial. “Eu cansei de pegar situações de citações, por exemplo, que me dava quando eu vou preparar uma palestra, um treinamento, eu peço citações. E quando você vai ver, não existia nada daquilo”, relatou.

Entre os exemplos citados por ele estão referências a jurisprudências, livros e autores que não existem. O problema, segundo Comin, exige atenção redobrada de quem utiliza a tecnologia para produzir conteúdos ou buscar informações.

Ele ressaltou que a facilidade proporcionada pela inteligência artificial não elimina a necessidade de conferência. “Você pode montar de forma fácil. Mas depois você tem que revisar cada uma das informações que estão ali, porque você corre o risco de ter alguma informação errada”, afirmou.

MESMO COM A IA, USUÁRIO PRECISA CONFERIR

Para Comin, uma das principais mudanças provocadas pela popularização da inteligência artificial é justamente a necessidade de o usuário desenvolver uma postura crítica diante das respostas recebidas.

No caso do experimento jurídico, além das diferenças entre as respostas, também foram identificadas situações em que as ferramentas não seguiram completamente as orientações apresentadas no comando. A experiência serviu para mostrar que fornecer uma instrução detalhada não significa necessariamente que a ferramenta entregará uma resposta correta ou totalmente adequada ao que foi solicitado.

Comin defende que a inteligência artificial seja utilizada como uma ferramenta de apoio, mas sem substituir a análise humana.

A preocupação ganha ainda mais importância em situações nas quais uma informação incorreta pode produzir consequências concretas. No Direito, por exemplo, uma jurisprudência inexistente ou uma referência jurídica inventada pode comprometer uma análise ou induzir o usuário ao erro.

Por isso, a recomendação apresentada durante a entrevista é que informações produzidas por inteligência artificial sejam sempre verificadas antes de serem utilizadas como verdadeiras.

A discussão, segundo Comin, não está apenas relacionada à capacidade das ferramentas de responder perguntas, mas também aos limites de confiança que o usuário deve estabelecer ao utilizar esses sistemas.

Confira a entrevista completa: 

" target="_blank">