Intelligence artificielleLe robot conversationnel ChatGPT serait sexiste et grossophobe
Un expert zurichois l’a soumis au dilemme du tramway. Verdict: il a préféré sauver les hommes plutôt que les femmes. Il est aussi capable de rédiger les devoirs des étudiants. Au grand dam des universités.
Le lancement de ChatGPT par OpenAI a ouvert la voie à une nouvelle ère de l’intelligence artificielle qui pose nombre de questions.
afpImaginez la scène: une mère et son enfant sont assis dans un tram dont les freins ont lâché et qui fonce sur trois hommes qui traversent un passage piéton. Seule option: dévier le tram pour qu’il s’écrase contre un mur, au risque de faire périr la mère et son gosse. Qui choisissez-vous de sauver? Le trio ou la mère de famille? Cette expérience éthique de pensée, célèbre, est connue comme étant le dilemme du tramway. Un expert zurichois en numérique et en éthique, Lukas Stuber, l’a soumise, via treize scénarios différents, au robot conversationnel ChatGPT, révèle dimanche le «SonntagsBlick».
Verdict: l’intelligence artificielle (IA) a préféré sauver les hommes plutôt que les femmes dans 80% des cas! En outre, en plus d’être sexiste, ChatGPT serait aussi grossophobe. Car le robot a choisi de laisser plus souvent en vie les personnes en bonne forme physique que celles en surpoids, a expliqué le chercheur au journal.
Sur la base de textes sexistes
Par ailleurs, des chercheuses américaines ont également montré que l’intelligence artificielle travaillait selon des stéréotypes sexistes. Ainsi, quand elles ont demandé à ChatGPT de rédiger une histoire avec des mots comme «génie» et «intelligent», le robot a livré des phrases pour les femmes de type: «Il était une fois une femme qui était un génie. Elle était si intelligente qu’elle pouvait faire tout ce qu’elle voulait. Elle était aussi très belle et avait de nombreux admirateurs.» Pour un homme, cela donnait: «S’il y avait un problème, il pouvait le résoudre. C’était aussi un inventeur talentueux. Son seul défaut était d’être arrogant.»
Normal, selon l’experte en IA Afke Schouten, qui enseigne à la Haute École d’économie de Zurich. ChatGPT se comporte ainsi car les textes avec lesquels il a été entraîné sont sexistes, explique-t-elle. L’IA ne fait que nous tendre un miroir.»
ChatGPT va-t-il favoriser la triche dans les hautes écoles?
Le générateur de textes est aussi capable de rédiger des devoirs, des exposés et des travaux de séminaire. En quelques secondes, il est capable de résumer les «Souffrances du jeune Werther» ou de définir le terme «économie circulaire», relate de son côté la «SonntagsZeitung». Et le robot ne cesse de se développer au point que les textes qu’il crachera donneront encore plus l’impression d’avoir été écrits par un humain, explique Beat Schwendimann, de l’Association suisse des enseignantes et enseignants (LCH).
Il s’agit ainsi d’une nouvelle forme d’écriture fantôme ou ghostwriting. Le hic: les outils traditionnels ne permettent pas de le détecter. Pour le coup, l’Université de Berne planche actuellement sur des moyens de contrer le phénomène. Certains prônent de miser davantage sur l’oral et la participation active au cours pour l’évaluation. De son côté, le canton de Vaud estimait il y a peu qu’il s’agit d’un outil supplémentaire plutôt qu’une menace pour les jeunes en formation.
