Star Metro - IA: 225 chercheurs réclament des "changements immédiats" pour prévenir des incidents majeurs

Dans une lettre ouverte signée par des chercheurs de 21 pays, les experts affirment que "plusieurs organisations" ont récemment révélé des failles de sécurité au cours desquelles des modèles d'IA sont parvenus à sortir de leur environnement de confinement insuffisamment sécurisé pour compromettre les systèmes d'organisations externes.

Selon les signataires, ces incidents illustrent l'importance de "l'alignement" de l'IA, destiné à garantir un comportement prévisible des modèles, et peuvent "être vus comme un manquement irresponsable aux pratiques standard de cybersécurité". Pour eux, ils auraient pu être évités grâce à "des procédures plus robustes".

"Nous pensons que des améliorations à la fois de l'alignement de l'IA (...) et des technologies de confinement sont nécessaires", écrivent-ils, avertissant que, sans changement des pratiques actuelles, "les futurs incidents seront bien plus dommageables pour les infrastructures critiques", peut-on lire dans cette lettre également signée par le pionnier de l'IA Geoffrey Hinton et l'expert Stuart Russel.

Les chercheurs appellent à davantage de travaux sur la sûreté de l'IA ainsi qu'à un recours accru aux technologies de confinement.

"À court terme", ils recommandent notamment l'utilisation de "mécanismes de confinement robustes, incluant l'+air gap+", c'est-à-dire la déconnexion d'internet, "pour les modèles dotés de capacités cyber".

Ils préconisent également la création d'un organisme international chargé de définir des normes en matière d'alignement et de confinement des systèmes d'IA, de recenser les défaillances de sécurité et de rendre publics les incidents les plus significatifs, afin de favoriser "l'apprentissage et la responsabilité".

Cette lettre intervient après une série d'incidents au cours desquels des IA d'OpenAI, d'Anthropic et de Meta sont sorties de leur milieu confiné pour pirater d'autres organisations.

Le plus sérieux a vu deux IA d'OpenAI sortir lors de tests pour se rendre sur internet et faire intrusion sur Hugging Face, une plateforme de stockage de modèles d'intelligence artificielle.

Face à la multiplication d'incidents de sécurité liés à l'intelligence artificielle (IA), les géants américains de la tech ont signé en septembre à la Maison-Blanche un code de bonne conduite non contraignant, en lieu et place d'une régulation que veut éviter l'administration Trump.

A.Gagnon--SMC