Ville de Genève«Je crains une fuite de données» via l’intelligence artificielle
Un élu appelle la Ville à former ses fonctionnaires et à réguler l’usage des logiciels d’IA au sein de l’administration.
Rien n’interdit les fonctionnaires de visiter ChatGPT au travail.
draDes renseignements fiscaux confidentiels, des données privées de l’état civil ou le détail d’un appel d’offres avant même sa publication… Autant d’éléments sensibles que des intelligences artificielles (IA) comme ChatGPT ou le projet LaMDA de Google pourraient dévoiler à tout un chacun. C’est la crainte du conseiller municipal Alain de Kalbermatten (Le Centre). Il a déposé mardi une interpellation sur le sujet, à l’intention de l’Exécutif de la Ville.
L’IA et les lois
«Je redoute des fuites de données au sein de l’administration, résume l’élu. Si un fonctionnaire consulte une IA en fournissant des renseignements sur un projet foncier, par exemple, celle-ci va les conserver, s’en nourrir et pourrait les recracher à quiconque s’intéressera à ce projet-là. L’IA ne sait pas forcément que tel ou tel élément est confidentiel; elle se contente de répondre à une demande, sans s’occuper des normes légales en vigueur.» Alain de Kalbermatten souhaite donc que la Ville forme ses employés et définisse quelles données peuvent être transmises ou pas, lors d’une demande sur ChatGPT.
Risques confirmés
Les craintes de l’élu ne sont clairement «pas dénuées de sens», abonde Paul Such, spécialiste en cybersécurité et patron de l’entreprise Hacknowledge. Le risque que des données soient utilisées par des personnes à qui elles n’étaient pas destinées «est, en fait, réel pour tous les services en ligne sur le cloud. Même des recherches sur un traducteur de langues, par exemple, sont envoyées sur des ordinateurs externes à l’entreprise. Dans notre domaine d’activité, il y a une phrase qui dit: «There is no cloud, it’s just someone else’s computer» (ndlr: il n’y a pas de cloud, c’est juste l’ordinateur de quelqu’un d’autre).»
La Ville n’interdit pas ChatGPT
Si la Ville juge «intéressante» l’interpellation de l’élu du Centre, la question de fuites de données se pose depuis longtemps et les derniers systèmes d’IA «ne changent pas la problématique», expose Félicien Mazzola, porte-parole du Département du sport et de la transition numérique. Il note que des renseignements confidentiels peuvent déjà être transmis «par erreur»; et ce, «via des services tiers, les médias sociaux ou encore les moteurs de recherche».
La commune a «à cœur de prendre soin des données qui lui sont confiées et prend très au sérieux le défi posé par l’intelligence artificielle», mais elle n’interdit pas spécifiquement ChatGPT. Cependant, «cet enjeu figurera dans la future data policy municipale (ndlr: un document sur le bon usage de la gestion des données) qui devrait être publiée ce printemps». Le communicant ajoute que des formations régulières ont lieu en matière de sécurité informatique. On y invite par exemple les employés «à expérimenter les méthodes de hacking pour mieux adopter les pratiques qui permettent de s’en prémunir».
Pas de mesures particulières à Lausanne
Pour l’heure, la capitale vaudoise n’a pas enregistré d’interpellation politique en lien avec l’avènement et l’usage des plus récentes intelligences artificielles. Par ailleurs, ces dernières «ne font pas l’objet de règles spécifiques au sein de l’administration, précise Amélie Nappey-Barrail, porte-parole de la Ville de Lausanne. Mais nous procédons en continu à des formations et à des sensibilisations à la sécurité numérique, dans tous nos services».