Google Gemini
generation d'images genAI grand public
Le 22 fevrier 2024, Google a suspendu la generation d'images de personnes dans Gemini apres qu'un reglage anti-biais non contextuel eut produit des images historiquement fausses, comme des soldats nazis racialement divers ; Google l'a reconnu dans un billet officiel.
Objectif
Offrir dans Gemini une generation d'images grand public competitive face aux autres assistants IA, pour retenir et engager les utilisateurs.
Le déploiement
Debut fevrier 2024, Google active la generation d'images de personnes dans Gemini. Des utilisateurs constatent que le modele produit des images historiquement fausses : soldats allemands de la Seconde Guerre mondiale racialement divers, peres fondateurs americains non blancs, papesses. Le 22 fevrier 2024, Google suspend la generation d'images de personnes. Dans un billet officiel du 23 fevrier, l'entreprise explique que son reglage destine a montrer une diversite de personnes n'a pas su exclure les cas ou cette diversite n'avait pas lieu d'etre, et que le modele etait devenu trop prudent, refusant des requetes anodines.
Résultats Preuve C
Cas etabli par un billet officiel de Google (source primaire, admission de la marque) et par la presse etablie (TechCrunch, CNBC, Time, Variety) citant la suspension et ses raisons. Le niveau reste C faute de document financier ou judiciaire, mais l'admission officielle renforce la fiabilite.
Comment ça fonctionne
Approche-type inféréeLe détail interne n'est pas public. Voici une approche éprouvée qui mène au même résultat - à adapter à votre stack.
La stack en détail
- plateforme Google Gemini Application assistant grand public dans laquelle la generation d'images de personnes a ete activee debut fevrier 2024 puis suspendue le 22 fevrier
- llm Imagen Modele de generation d'images (diffusion) de Google utilise derriere Gemini
- outil Couche de reglage diversite Reglage in-house destine a montrer une diversite de personnes, applique sans distinction de contexte ; c'est ce composant que Google a mis en cause dans son billet du 23 fevrier 2024
Post-mortem
CimetièreCe qui s'est passé sourcé
Debut fevrier 2024, Google active la generation d'images de personnes dans Gemini. Des utilisateurs montrent qu'elle produit des images historiquement fausses : soldats allemands de 1939-1945 racialement divers, peres fondateurs non blancs, papesses. Le 22 fevrier, Google suspend la generation d'images de personnes. Le 23 fevrier, un billet officiel explique que le reglage cense montrer une diversite de personnes n'a pas su exclure les cas ou elle n'avait pas lieu d'etre, et que le modele refusait aussi a tort des requetes anodines.
Raison de l'échec sourcé
Un reglage anti-biais applique globalement pour garantir la diversite des personnes generees, sans exception pour les contextes historiques ou une representation precise s'impose. Le systeme a surcorrige, produisant des images fausses, puis est devenu trop restrictif. Google le reconnait publiquement.
Coût sourcé
Cout reputationnel et politique important : controverse mondiale, accusations de biais ideologique, pression sur la direction. La generation d'images de personnes est restee indisponible plusieurs mois. Impact chiffre sur le cours ou les revenus non isole publiquement.
Signaux avant-coureurs inféré
Infere : appliquer une regle de diversite de maniere uniforme, sans distinguer les prompts ou l'exactitude historique prime, etait un point de rupture previsible. Un jeu de tests couvrant des figures et periodes historiques connues aurait revele la surcorrection avant l'ouverture au public.
Leçons avec recul inféré
Infere : un correctif de biais applique globalement doit etre conditionnel au contexte du prompt. La diversite par defaut est utile pour des personnes generiques, nuisible pour des faits historiques precis. Il faut tester un modele generatif contre des cas ou la bonne reponse est contrainte, pas seulement contre des cas ouverts, et prevoir un mecanisme de desactivation rapide, ce que Google a su faire.
Infere : oui, la generation d'images grand public reste un pattern valide et central dans les assistants IA, Google inclus apres correctif. L'echec condamne une methode de reglage anti-biais non contextuelle, pas la generation d'images. La lecon est de calibrer la diversite selon le contexte du prompt plutot que de l'imposer partout.
Comment vos clients perçoivent ce type d'usage
Études sourcéesUn ecart net separe les annonceurs des consommateurs : 77% des annonceurs voient l'IA positivement contre 38% des consommateurs (Yahoo/Publicis, 2024). Les mesures implicites confirment le rejet declare : en EEG, les pubs generees par IA produisent une activation memorielle plus faible que les pubs traditionnelles et sont decrites comme agacantes, ennuyeuses et confuses (NIQ, 2024). La disclosure a un effet ambivalent : elle augmente fortement la confiance quand elle est remarquee (Yahoo/Publicis), mais 27% des jeunes consommateurs disent faire moins confiance a une entreprise dont la pub est creee par IA (IAB, 2024).
Conditions d'acceptation
- Une disclosure visible : quand la mention IA est remarquee, la confiance globale envers l'entreprise augmente de 96% (Yahoo/Publicis 2024)
- Une qualite visuelle suffisante : les visuels IA de basse qualite augmentent l'effort cognitif et distraient du message (NIQ 2024)
Lignes rouges
- Le contenu IA non declare puis identifie : 72% des consommateurs disent que l'IA rend l'authenticite difficile a etablir (Yahoo/Publicis 2024) et les marques utilisant des pubs IA sont plus souvent jugees inauthentiques ou non ethiques par les consommateurs que par les dirigeants (IAB 2024)
- Les mannequins et personnes generes par IA : 46% des consommateurs n'en veulent pas dans la publicite, l'inquietude premiere etant les standards de beaute irrealistes (Attest 2025)
Sources : Yahoo / Publicis Media (terrain Ebco) 2024 · IAB (avec Attest) 2024 · NIQ (NielsenIQ) 2024 · Attest 2025
Voir l'acceptation complète : par pays, par usage, par génération
Comment répliquer
Inférence - non sourcéPrérequis data
- jeu de tests de prompts historiques et sensibles
- grille de contextes ou l'exactitude prime sur la diversite
Prérequis orga
- revue produit avant lancement
- mecanisme de desactivation rapide d'une feature
Stack possible
- reglage de diversite conditionnel au contexte du prompt
- banc de tests adversariaux avant release
- kill switch feature
Première étape : Constituer un banc de tests de prompts a reponse contrainte (figures et periodes historiques) et exiger qu'il passe avant toute ouverture publique du generateur.
Sources
- S1 Gemini image generation got it wrong. We'll do better. Primaire archive à générer
- S2 Google pauses Gemini's ability to generate images of people after historical inaccuracies Presse établie archive à générer
- S3 Google pauses Gemini AI image generator after it created inaccurate historical pictures Presse établie archive à générer
Une erreur, une info plus récente, une source ?
Cette fiche vit de sa justesse. Si un chiffre a bougé, si le déploiement a changé, ou si vous avez une source de meilleure qualité, dites-le nous. Toute correction sourcée est vérifiée avant publication.