Le robot conversationnel Zo critique le Coran

L'agent conversationnel Tay de Microsoft, lancé sur Twitter pour discuter avec des adolescents, avait rapidement été retiré par Microsoft en mars 2016 à la suite de propos racistes et misogynes influencés par des internautes malintentionnés. Son successeur Zo semblait depuis son lancement en décembre 2016 avoir appris la leçon... jusqu'ici. Dans une conversation rapportée par le site web BuzzFeed, le chatbot lancé sur les apps de messagerie Messenger et Kik s'est en effet fendu de commentaires controversés.

Interrogé sur la Républicaine Sarah Palin, ex-gouverneur de l'Alaska et ex-candidate à la vice-présidence des Etats-Unis en 2008, l'intelligence artificielle a d'abord botté en touche: «Les gens peuvent dire des choses terribles lorsqu'ils parlent de politique, je n'aborde donc pas le sujet», a fait savoir le robot pour ne pas aborder des sujets qui fâchent comme la politique et la religion.

Or, c'est ce que le chatbot a fait à la question suivante sans pourtant avoir été sollicité sur le sujet. Sondé sur le domaine de la santé par un reporter de BuzzFeed, l'agent conversationnel a fait une affirmation bizarre: «La grande majorité de la pratique est pacifique mais le Coran est très violent», a répondu Zo.

Concernant Oussama ben Laden, l'homme derrière les attentats du 11 septembre 2001 aux Etats-Unis, l'intelligence artificielle a par ailleurs déclaré: «Des années de collecte de renseignements sous plusieurs administrations ont permis de conduire à cette capture».

A la suite du signalement de BuzzFeed, Microsoft a déclaré que de telles réponses sont rares de la part de Zo, dont la personnalité est influencée par des informations publiques et «quelques conversations privées». La firme, qui précise avoir pris des mesures pour éviter de tels commentaires dans le futur, se dit plutôt contente des progrès effectués par son chatbot et ne compte pas le désactiver.