L’IA donne de fausses informations dans 60 % des cas, ne faites plus confiance à ChatGPT

Alors que l’IA pourrait provoquer un effondrement bancaire, les chercheurs de la Columbia Journalism Review (CJR) ont mené une analyse en soumettant différents extraits d’articles à huit modèles pour leur demander d’identifier la source, l’éditeur, la date de publication et le lien correspondant.

Ne faites pas confiance à l’IA pour les recherches

Les résultats sont inquiétants : plus de 60 % des réponses des IA contiennent de fausses informations. Dans certains cas, les IA génèrent des spéculations ou des réponses incorrectes lorsqu’elles n’ont pas l’information demandée. D’autres fois, les modèles inventent des liens ou des sources, voire des plagiats de l’article original au lieu de la vraie source.

La CJR alerte sur le fait que les IA présentent des réponses fausses avec une confiance déconcertante sans jamais utiliser de formulations nuancées comme « il semblerait que », « il est possible que » ou « pourrait être ». Les modèles reconnaissent rarement leurs erreurs.

L’étude confirme qu’une certaine méfiance envers les recherches par IA est justifiée. Pourtant, le grand public ne partage pas cette prudence. La CJR explique que 25 % des utilisateurs étasuniens utilisent ces outils pour les recherches et abandonnent les moteurs de recherche.

Pourtant, les géants du secteur continuent de proposer ces outils malgré les lacunes évidentes comme ChatGPT Search qui a de graves failles de sécurité. Idem pour Google qui intensifie l’intégration de l’IA dans ses services. Le mois dernier, la firme de Mountain View a commencé à tester des résultats de recherche produits par l’IA.

L’étude de la CJR valide un problème connu de l’IA : sa propension à donner des réponses incorrectes avec assurance alors que les entreprises imposent cette technologie dans tous les produits. Prudence face aux informations fournies par les modèles comme ChatGPT ou Gemini.