Aller au contenu principal

L’intelligence artificielle de Google conseille aux parents d’utiliser un sextoy sur leurs enfants…

L'IA n'en est pas à son premier dérapage

sextoy
— Alexander Mak / Shutterstock.com

Lorsqu’il s’agit de l’utilisation d’outils d’intelligence artificielle, la prudence est de rigueur, car ces outils sont imparfaits et ils sortent parfois des aberrations qui peuvent être nocives pour les utilisateurs. Cela a été le cas pour l’IA de Google qui a suggéré à des adultes d’utiliser des jouets sexuels avec des enfants.

Depuis mai 2024, Google utilise une intelligence artificielle générative dans plus de 20 % de ses résultats de recherche grâce à une fonctionnalité appelée AI Overview. Mais, comme de nombreux outils d’IA, cette fonctionnalité intégrée au moteur de recherche de Google est encore loin d’être parfaite et cela a été démontré de la pire des façons. Il a été récemment rapporté que l’IA avait confondu des jouets pour enfant avec des jouets sexuels. Cette erreur a été initialement découverte par un utilisateur de Reddit qui avait tapé « magic wand pregnancy » (« grossesse baguette magique ») dans la barre de recherche de Google.

These AI generated search results are really getting out of hand
byu/clist186 inartificial

L’objectif de la recherche était de savoir si l’utilisation du Magic Wand – un célèbre jouet sexuel produit par l’entreprise japonaise Hitachi – était recommandée pour les femmes enceintes. Cependant, la réponse donnée par Google n’a en rien aidé. Au contraire, ladite réponse était très étrange et inappropriée. En guise de réponse, AI Overview a suggéré d’utiliser le jouet sexuel pour assurer l’identification des problèmes comportementaux chez les enfants. « L’outil Magic Wand est un moyen créatif pour les parents d’identifier les changements de comportement qu’ils souhaitent apporter, notamment ceux liés à la grossesse », avait notamment écrit l’IA.

Visiblement, le quiproquo vient d’une confusion entre le terme anglophone pour « baquette magique » qui désigne à la fois un jouet sexuel et un jouet éducatif. Bien que cela soit compréhensible, de telles erreurs restent condamnables, surtout dans la mesure où cela peut porter atteinte au bien-être des enfants. De plus, ce n’est pas la première fois que les IA de Google commettent de telles erreurs. Par ailleurs, voici comment se terminera une guerre entre l’intelligence artificielle et l’humanité.

Par Gabrielle Andriamanjatoson, le

Source: Futurism

Étiquettes: ,

Catégories: ,

Partager cet article

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *