ChatGPT dissuade un homme de quitter son emploi à cause d’une idée absurde

Cela fait déjà trois ans que ChatGPT a fait une entrée fracassante dans nos vies, et si le chatbot peut parfois être vraiment utile, il peut aussi être totalement à côté de la plaque. La question est de savoir lequel de ces deux cas se produit lorsqu’un utilisateur lui dit qu’il va quitter son emploi pour se lancer dans une affaire loufoque.

Il y a quelque temps encore, les utilisateurs de ChatGPT se sont plaints du fait que le chatbot était trop mielleux et flatteur, au point d’en être gênant. En fait, Sam Altman – le PDG d’OpenAI, le propriétaire de l’agent conversationnel – a admis que c’était le cas et avait alors promis de corriger ce problème dans les nouvelles mises à jour de l’intelligence artificielle qui alimente le chatbot. Il semblerait que la mise à jour ait eu une certaine efficacité. La preuve provient notamment d’un utilisateur de Reddit qui a raconté à ChatGPT comment il a eu une idée commerciale totalement loufoque pour obtenir des conseils.

Lire aussi Il promet la fin du travail, mais son IA propage déjà des fake news : l’utopie selon Elon Musk commence très mal

I told chatGPT I was going to quit my job to pursue an awful business plan.
byu/Theimmortalboi inChatGPT

L’idée en question – que l’utilisateur pensait être géniale et potentiellement lucrative au début – consistait à réunir des personnes avec des bocaux et des couvercles de bocaux compatibles afin de ne pas perdre l’usage de ces objets. Il pensait que cette idée était si brillante qu’il a même envisagé de quitter son emploi. Et au lieu des réponses habituellement flatteuses et enthousiastes de ChatGPT, le chabot a clairement dit à l’utilisateur que ce n’était pas du tout une bonne idée. Plus étonnant encore, après que l’utilisateur lui a annoncé qu’il allait quitter son emploi pour poursuivre cette mission, ChatGPT lui a clairement indiqué de ne pas démissionner.

Si ChatGPT a ainsi donné la réponse adéquate dans ce cas en particulier, il faut savoir que l’agent conversationnel continue avec la flatterie et l’enthousiasme mal placé pour certaines idées d’affaire totalement absurdes. Cela reste donc à corriger. Par ailleurs, voici comment se terminera une guerre entre l’intelligence artificielle et l’humanité.