Le New York Times a découvert que les réponses de Google Overview (ces résumés IA qui apparaissent en tête des résultats de recherche) affichaient 91% de réponses correctes. Ça semble rassurant… Sauf que Google traite plus de 5 000Mds de recherches par an… Donc 9% d'erreurs, ça représente des dizaines de millions de mauvaises réponses par heure.
Autre problème : les sources fantômes. Sur les réponses correctes, plus de la moitié pointent vers des sites qui ne soutiennent pas complètement l'information fournie. Facebook et Reddit figurent parmi les sources les plus citées. En clair : Google vous donne la bonne réponse, mais avec de mauvaises preuves.
Et le système est manipulable. Un journaliste de la BBC a publié un faux article se proclamant champion de mangeurs de hot-dogs. Le lendemain, Google l'affichait comme référence mondiale sur le sujet, en citant son propre article comme source. N'importe qui peut faire pareil.
C'est génial car ça va générer un nouveau flux de revenus immenses pour les marques medias. Bien plus fortes que ce qu'elles faisaient déjà avant en vendant des "backlinks" (des liens dans des articles pour faire remonter leurs clients sur Google). Hier, un backlink améliorait votre position. Aujourd’hui, un article bien positionné dans les sources d'une IA vous rend expert aux yeux de dizaines de millions de personnes simultanément, même si vous venez d'apparaître. Le retour sur investissement est juste énorme et les prix pour ce type d'article va être colossal.