Google condamné pour les hallucinations de son IA Overviews

Quand l’IA devient un bouc émissaire juridique : Google condamné pour les hallucinations de ses Overviews

La justice américaine vient de trancher un débat aussi vieux que les premières hallucinations des grands modèles de langage. Dans une décision qui fera date, un tribunal a jugé Google responsable des fausses informations générées par son outil AI Overviews, intégré aux résultats de recherche depuis 2024. Une première qui pourrait redéfinir les contours de la responsabilité algorithmique.

Le cas d’école est presque trop parfait. Un utilisateur avait demandé à Google si un certain champignon sauvage était comestible. L’IA, dans sa réponse synthétisée, avait affirmé avec assurance qu’il s’agissait d’une espèce sans danger, alors même que les sources citées en bas de page précisaient le contraire. Résultat : une intoxication sévère, des frais médicaux, et un procès qui vient de donner raison au plaignant. La cour a estimé que Google, en tant que concepteur, formateur et opérateur du système, devait endosser la responsabilité des dommages causés par ses réponses.

Cette décision tombe comme un pavé dans la mare des géants tech, habitués à se retrancher derrière le statut d’ »hébergeur neutre » pour éviter toute mise en cause. Jusqu’ici, les plateformes arguaient que leurs IA n’étaient que des outils, des « miroirs » reflétant les données avec lesquelles elles avaient été nourries. Mais le juge a balayé cet argument d’un revers de main : « Un système qui génère des réponses erronées en les présentant comme des vérités n’est pas un simple intermédiaire. C’est un acteur à part entière, dont les choix de conception et de modération ont des conséquences directes. »

Les implications sont immenses. Si cette jurisprudence se généralise, elle pourrait obliger les entreprises à repenser en profondeur leurs modèles d’IA, en intégrant des garde-fous juridiques dès la phase de conception. Certains imaginent déjà des systèmes où chaque réponse serait accompagnée d’un avertissement du type « Vérifiez cette information auprès de sources fiables », ou des algorithmes capables de refuser de répondre quand le risque d’erreur est trop élevé. D’autres craignent un effet inverse : une frilosité des développeurs, qui pourraient limiter les capacités de leurs IA par peur des poursuites, au détriment de l’innovation.

Une chose est sûre : cette affaire marque un tournant. Après des années à débattre de l’éthique des IA sans cadre légal clair, les tribunaux commencent à poser des limites. Et si la solution à la désinformation algorithmique passait, finalement, par le droit plutôt que par la technologie ?

Sources

Wired A Court Has Ruled That Google Is Liable for False Statements Generated by AI Overviews