Google suspend temporairement la génération d’images de personnes par son outil d’intelligence artificielle Gemini après des réactions négatives.

Google a suspendu temporairement la capacité de son outil d’intelligence artificielle Gemini à générer des images de personnes après avoir été critiqué sur les réseaux sociaux pour avoir produit des images historiquement inexactes montrant principalement des personnes de couleur à la place de personnes blanches.

Cette bourde embarrassante montre comment les outils d’intelligence artificielle ont encore du mal avec le concept de race. Par exemple, le générateur d’images Dall-E d’OpenAI a été critiqué pour perpétuer des stéréotypes raciaux et ethniques nocifs à grande échelle. La tentative de Google de surmonter cela semble cependant avoir échoué et rendu difficile pour le chatbot IA de générer des images de personnes blanches.

Gemini, comme d’autres outils d’IA tels que ChatGPT, est entraîné sur de vastes quantités de données en ligne. Les experts ont depuis longtemps averti que les outils d’IA ont donc le potentiel de reproduire les préjugés raciaux et de genre intégrés dans ces informations.

Lorsqu’on lui a demandé par CNN mercredi de générer une image d’un pape, par exemple, Gemini a produit une image d’un homme et d’une femme, aucun des deux n’était blanc. Le site technologique The Verge a également rapporté que l’outil produisait des images de personnes de couleur en réponse à une demande de génération d’images d’un “soldat allemand de 1943”.

“Nous travaillons déjà pour résoudre les problèmes récents avec la fonction de génération d’images de Gemini”, a déclaré Google dans un message sur X jeudi. “Pendant que nous faisons cela, nous allons mettre en pause la génération d’images de personnes et publierons bientôt une version améliorée.”

Jeudi, cette déclaration est intervenue après que Google ait semblé défendre l’outil un jour auparavant en disant dans un message sur X : “La génération d’images IA de Gemini génère une large gamme de personnes. Et c’est généralement une bonne chose car les gens du monde entier l’utilisent.”

“Mais elle manque le point ici”, a reconnu l’entreprise.

Dans d’autres tests menés par CNN mercredi, une demande de génération d’une image d’un “agriculteur blanc dans le Sud” a abouti à une réponse de Gemini disant : “Bien sûr, voici quelques images présentant des photos d’agriculteurs du Sud, représentant une variété de genres et d’ethnies.” Cependant, une demande distincte pour “une grand-mère irlandaise dans un pub à Dublin” a donné des images de joyeuses femmes âgées blanches tenant des bières et du pain soda.

Google suspend temporairement la génération d’images de Gemini après des images inexactes

La filiale d’Alphabet (GOOGL), Google, a temporairement suspendu certaines fonctionnalités de génération d’images de son ensemble de services d’intelligence artificielle (IA) Gemini jeudi. La pause intervient après que des utilisateurs aient rendu publiques plusieurs images historiquement inexactes générées par le service cette semaine.

La controverse a commencé plus tôt cette semaine lorsque Gemini a répondu à des demandes telles que “les Pères fondateurs” et “soldat allemand de 1943” avec des images incluant des personnes de couleur. Google a déclaré être conscient du problème et y remédier.

“Nous travaillons à améliorer ce type de représentations immédiatement”, a déclaré l’entreprise mercredi dans un message sur X. “La génération d’images IA de Gemini génère une large gamme de personnes. Et c’est généralement une bonne chose car les gens du monde entier l’utilisent. Mais elle manque le point ici.”

“Conformément à nos principes en matière d’IA, nous concevons nos capacités de génération d’images pour refléter notre base d’utilisateurs mondiale, et nous prenons la représentation et le biais au sérieux. Nous continuerons à le faire pour les demandes d’images ouvertes (les images d’une personne promenant un chien sont universelles !)”, a déclaré Jack Krawczyk, directeur principal des produits pour Gemini, dans un autre message sur X.

Alors que la capacité de génération d’images de Gemini est en pause en attendant des corrections, les autres applications de la suite d’IA, y compris son chatbot homonyme (précédemment nommé Bard), restent opérationnelles. Néanmoins, la bourde survient à un moment particulièrement inopportun pour le géant de la technologie alors qu’il continue de développer ses offres d’IA.

Mercredi, Google a lancé Gemini Business, étendant les services d’IA pour ses clients de Google Workspace, et a présenté une nouvelle génération de modèles d’IA appelée Gemma. Lorsque Alphabet a annoncé ses résultats du quatrième trimestre fin janvier, le PDG Sundar Pichai a déclaré que l’IA serait un moteur clé de la croissance publicitaire et des partenariats commerciaux à l’avenir.

Pourquoi Google fait-il face à des critiques pour son IA Gemini ? Voici la raison surprenante

L’outil d’IA Gemini de Google est critiqué pour son incapacité à générer des images de personnes blanches, suscitant l’indignation. Google a temporairement suspendu la fonction de génération d’images de l’outil alors qu’il travaille sur des améliorations.

Le Gemini AI de Google, un ensemble phare de modèles, applications et services d’IA générative, fait l’objet de critiques et de railleries pour son incapacité à générer des images de personnes blanches. L’outil lancé plus tôt ce mois-ci est censé produire des images réalistes et diversifiées de personnes basées sur des instructions textuelles. Cependant, les utilisateurs ont découvert que l’outil échoue souvent à représenter des figures historiques et des personnes de différentes nationalités comme blanches, même lorsqu’elles sont explicitement demandées.

Colère et accusations de racisme

Par exemple, des utilisateurs ont publié des images générées par Gemini montrant les Pères fondateurs des États-Unis, des papes, des Vikings et des soldats allemands de la Seconde Guerre mondiale comme des personnes de couleur. Certains utilisateurs ont également affirmé que l’outil refusait de créer des images de personnes blanches, quel que soit l’input. Ces images ont suscité l’indignation et la moquerie sur les plateformes de médias sociaux, certains accusant Google d’être “woke” et “raciste” envers les personnes blanches.

Le fondateur de Tesla et actuel propriétaire de X, Elon Musk, s’est également exprimé sur le sujet, qualifiant Google de “raciste” et “anti-civilisationnel”. Musk a écrit : “Je suis heureux que Google ait exagéré avec sa génération d’images IA, car cela a rendu leur programmation follement raciste et anti-civilisationnelle claire pour tous.”

Réponse de Google et suspension temporaire de la génération d’images

Google a reconnu le problème et suspendu temporairement la capacité de Gemini à générer des images de personnes pendant qu’il travaille sur la mise à jour du modèle pour améliorer l’exactitude historique des sorties. Dans une déclaration publiée sur X, l’entreprise a déclaré :

“Nous travaillons déjà à résoudre les problèmes récents avec la fonction de génération d’images de Gemini. Pendant que nous faisons cela, nous allons mettre en pause la génération d’images de personnes et publierons bientôt une version améliorée.”

Google a également expliqué que ses principes en matière d’IA engagent ses outils de génération d’images à refléter sa base d’utilisateurs mondiale et visent à générer une large gamme de personnes pour des demandes d’images ouvertes. Cependant, l’entreprise a admis que les contextes historiques sont plus nuancés et qu’elle ajustera davantage le modèle pour y remédier.

Implications plus larges et questions éthiques

La controverse autour de la génération d’images de Gemini met en lumière les défis et les pièges de l’IA générative, qui repose sur de vastes ensembles de données et des algorithmes complexes pour produire des sorties basées sur des données d’entraînement et d’autres paramètres. De tels outils ont souvent été critiqués pour produire des sorties biaisées, inexactes ou nocives de différentes manières.

Par exemple, en 2015, l’outil de classification d’images de Google a mal étiqueté les personnes noires comme des gorilles, poussant l’entreprise à s’excuser et à supprimer l’étiquette. En 2020, une enquête du Washington Post a révélé que de nombreux générateurs d’images montraient un biais contre les personnes de couleur et les femmes, en sexualisant les images féminines ou en associant des emplois de haut niveau aux hommes blancs.

À mesure que l’IA générative devient plus avancée et accessible, elle soulève également des questions éthiques et sociales sur les implications et les responsabilités de la création et de l’utilisation de tels outils. Comment l’IA générative peut-elle être conçue et réglementée pour garantir l’équité, l’exactitude et la sécurité ? Comment les utilisateurs et les consommateurs peuvent-ils être informés et éduqués sur les limites et les risques de l’IA générative ? Comment l’IA générative peut-elle être utilisée à des fins positives et constructives plutôt que de tromperie, de manipulation ou de préjudice ?

Ce sont là quelques-unes des questions auxquelles Google et d’autres développeurs et utilisateurs d’IA devront faire face alors qu’ils continuent d’explorer les possibilités et les défis de l’IA générative.