Google

Ce qui s'est passé sourcé

Debut fevrier 2025, Google diffuse une campagne Super Bowl montrant Gemini rediger des descriptifs pour des petites entreprises. Le spot du fromager fait affirmer par l'IA que le gouda pese 50 a 60 pour cent de la consommation mondiale de fromage. Un observateur releve l'erreur. Un dirigeant de Google defend d'abord l'ad en disant que ce n'est pas une hallucination mais une reprise d'une source web. Devant la controverse, Google retire le chiffre de l'ad et de la page produit avant la diffusion du match.

Raison de l'échec sourcé

Le modele a repris un chiffre faux present sur une page web et l'a integre a un contenu marketing valide sans verification. La defense publique initiale (ce n'est pas une hallucination) a aggrave la situation en revelant qu'aucun garde-fou factuel ne separait la sortie du modele de la mise a l'antenne. L'erreur etait d'autant plus visible que l'ad servait justement a vanter la fiabilite de Gemini.

Coût sourcé

Cout reputationnel : la bevue est reprise par la presse tech au pire moment pour une demonstration de fiabilite. Pas de cout financier direct publie.

Signaux avant-coureurs inféré

Infere : mettre a l'antenne une sortie de LLM contenant une statistique chiffree sans verification humaine est un risque connu. Le fait que le modele s'appuie sur le web ne garantit pas la justesse, puisque le web contient des erreurs. Une relecture factuelle des affirmations chiffrees avant tournage aurait suffi.

Leçons avec recul inféré

Infere : toute affirmation chiffree generee par une IA et destinee a etre publiee doit passer par une verification humaine, surtout dans une pub qui vend la fiabilite de cette IA. Distinguer hallucination et reprise d'une source fausse ne change rien pour le public : c'est la marque qui porte l'erreur. Verifier les faits saillants n'est pas optionnel.