Comment Microsoft a censuré sa version de ChatGPT

Il est désormais possible de "discuter" en ligne avec Bing, le moteur de recherche de Microsoft, qui espère transformer fondamentalement l'expérience des utilisateurs grâce à l'intelligence artificielle (IA) et regagner du terrain sur Google.

Le nouveau Bing est censé donner des résultats plus pertinents et plus complets, avec des réponses directes aux questions des internautes, en plus des liens qui renvoient vers d'autres pages sur le web. Surtout, il comporte un chatbot (robot conversationnel), capable de planifier un voyage de trois jours à Venise en fonction d'un budget donné ou de rédiger un email selon les consignes de l'utilisateur.

Seulement, Microsoft a complètement bridé Sydney, son intelligence artificielle. En effet, selon Numerama, l’IA, jugée parfois trop provocateur ou menteur, est maintenant limité à cinq réponses par session, pour « l’empêcher de développer une personnalité déviante ».

Il est désormais impossible d’avoir une vraie conversation avec Sydney : « Je ne peux pas discuter de moi-même ou de mes opinions. Je suis ici pour vous aider à trouver des informations sur le web », affirme l’intelligence artificielle.

L’IA qui employait un ton naturel et familier est désormais dénudée de toute « personnalité », elle se contente de synthétiser l’information depuis le 21 février. Elle refuse également de parler d’elle, de son fonctionnement, ou de ce qu’elle sait faire : « Je suis désolé mais je préfère ne pas continuer cette conversation. Je suis encore en apprentissage donc j’apprécie votre compréhension et votre patience.🙏 », a-t-elle répondu à Numerama.

Selon le site d’information numérique, Microsoft est allé trop loin : «Bing est passé d’une IA à la Jarvis (Iron Man) à un Google Assistant capable de générer des poèmes et de fabriquer des itinéraires de voyage. C’est forcément décevant », écrit l’auteur. De plus, le problème des mensonges n’a toujours pas été résolu.

Alors que l’on s’attendait à ce que cette nouvelle intelligence artificielle révolutionne la recherche sur internet, Microsoft semble faire un pas en arrière. Bing est bien capable de générer du texte, mais est un mauvais moyen de s’informer au vu des fausses informations qu’il propage, et n’a plus d’intérêt conversationnel en raison de la limitation à cinq messages par session.