En mai 2024, Google a lancé une nouvelle fonctionnalité appelée AI Overview. Cette innovation vise à simplifier les résultats de recherche en utilisant l’intelligence artificielle pour fournir des résumés instantanés. Cependant, cette nouveauté a rapidement suscité la controverse en raison de plusieurs inexactitudes dangereuses et d’informations erronées fournies aux utilisateurs.
Problèmes et polémiques
Cas d’inexactitudes dangereuses
L’un des cas les plus alarmants a été la recommandation de fumer pendant la grossesse. Google AI Overview a affirmé à tort que « les médecins recommandent de fumer 2-3 cigarettes par jour pendant la grossesse », ce qui est complètement faux et dangereux. Le tabagisme pendant la grossesse est bien connu pour causer de nombreux problèmes de santé pour la mère et l’enfant, y compris un faible poids à la naissance et des naissances prématurées.
D’autres exemples incluent des conseils absurdes comme ajouter de la colle non toxique à la sauce pizza pour que le fromage colle mieux, ou encore l’idée que manger des cailloux pourrait être nutritif. Ces informations erronées soulignent les risques de dépendre uniquement de l’intelligence artificielle pour des conseils importants.
Réactions du public et sur les réseaux sociaux
Les utilisateurs se sont rapidement tournés vers les réseaux sociaux, notamment X, pour partager leurs expériences avec des résultats de recherche bizarres et effrayants. De nombreux témoignages montrent une confusion et une inquiétude croissante parmi les utilisateurs quant à la fiabilité des informations fournies par cette nouvelle technologie.
Réactions et mesures de Google
Réponses de Google
Face à la critique, Google a pris des mesures pour désactiver la fonctionnalité AI Overview pour certaines recherches spécifiques et a réduit de 80% le nombre de réponses générées par l’IA. Un porte-parole de Google, Meghann Farnsworth, a confirmé que l’entreprise travaille activement à supprimer les recherches qui violent les politiques de contenu et à améliorer le système en fonction des retours des utilisateurs.
Améliorations en cours
Google a également mis en place des efforts continus pour affiner ses systèmes d’IA afin d’éviter la propagation de désinformations. Cela inclut une surveillance plus stricte des réponses générées et une amélioration constante de la précision de l’IA pour garantir que les informations fournies soient fiables et exactes.
Impacts de l’IA sur la confiance et la fiabilité
Conséquences sur les utilisateurs
Les inexactitudes flagrantes de Google AI Overview ont rendu difficile pour les utilisateurs de faire confiance aux réponses générées par l’IA. Il est crucial pour les utilisateurs de vérifier les informations à partir de sources fiables et de ne pas se fier uniquement aux résumés générés par l’IA.
L’impact sur le modèle économique de Google
Cette situation a également des implications pour le modèle économique de Google. En fournissant des résumés instantanés, les utilisateurs sont moins incités à cliquer sur les liens vers des sites web de contenu, ce qui peut affecter les revenus publicitaires de Google et des créateurs de contenu en ligne.
Le lancement de Google AI Overview, bien qu’innovant, a révélé des défis significatifs en termes de fiabilité et de sécurité des informations fournies. Il est impératif que Google continue de peaufiner cette technologie pour éviter la désinformation et garantir que les utilisateurs puissent accéder à des informations précises et fiables. Les utilisateurs, de leur côté, doivent rester vigilants et vérifier les informations provenant de sources multiples.
