La sécurité de l’IA est une préoccupation grandissante dans le monde, tant au niveau des gouvernants que des acteurs de la société civile. Le premier rapport international sur la sécurité de l’intelligence artificielle a été publié le 29 janvier 2025. Il dresse un état des lieux des risques liés aux systèmes d’IA avancés et propose des stratégies d’atténuation. Yoshua Bengio a dirigé les travaux qui ont été réalisés avec collectif de 96 experts internationaux.
Ce document s’est inspiré de la méthodologie du Groupe d’experts intergouvernemental sur l’évolution du climat (GIEC) des Nations Unies. Il vise à instaurer une compréhension partagée des menaces que représente l’IA de pointe. Aussi, servira-t-il de référence pour les discussions à venir lors du Sommet pour l’action sur l’IA.
Un consensus scientifique pour encadrer l’IA
Lors du premier Sommet sur la sécurité de l’IA, 30 pays ont convenu de la nécessité d’une approche scientifique rigoureuse pour évaluer les risques de l’IA avancée. Le Royaume-Uni, hôte de l’événement, a confié la supervision du rapport à Yoshua Bengio. Ce dernier est une figure emblématique du domaine et lauréat du prix Turing 2018.
Ce rapport apporte désormais une synthèse approfondie de la littérature scientifique existante. Il articule donc son analyse autour de trois questions centrales :
- Quelles sont les capacités de l’IA à usage général ?
- Quels sont les risques associés à ces technologies ?
- Quelles stratégies permettent de les atténuer ?
Sécurité de l’IA : Des risques multiples et croissants
Les avancées de l’IA ont permis le développement de systèmes capables d’effectuer une grande variété de tâches. De la programmation complexe à la détection de cybervulnérabilités. Ils affichent des performances comparables à celles d’experts humains dans des disciplines scientifiques de pointe. Ces progrès s’accompagnent toutefois de risques que les chercheurs ont classés en trois grandes catégories
L’utilisation malveillante de l’IA
- Cyberattaques facilitées par l’IA
- Propagation de désinformation à grande échelle
- Potentiel détournement de l’IA pour la conception d’armes biologiques
Les dysfonctionnements systémiques
- Biais algorithmiques et discriminations
- Fiabilité incertaine des modèles
- Risques de perte de contrôle sur des systèmes autonomes
Les impacts économiques et sociaux
- Remplacement d’emplois par l’automatisation
- Exploitation massive des données personnelles
- Effets environnementaux liés à la consommation énergétique des modèles d’IA
Transparence et gouvernance : des priorités !
L’une des conclusions du rapport insiste sur la nécessité de rendre l’IA plus transparente. Aujourd’hui, la compréhension des décisions prises par ces systèmes reste limitée, ce qui pose des défis majeurs pour prévenir les abus, les biais et les erreurs. Sans contrôle strict, l’IA pourrait devenir un outil incontrôlable et potentiellement dangereux
Le rapport plaide pour une coopération mondiale accrue afin d’élaborer des standards de sécurité et des mécanismes de surveillance efficaces. Face à l’ampleur des enjeux, les experts exhortent les gouvernements à adopter une approche proactive, évitant ainsi l’immobilisme législatif qui pourrait laisser l’IA évoluer sans cadre réglementaire strict.
Les auteurs insistent sur l’urgence d’un accord international pour encadrer les développements futurs : « L’IA à usage général aura un impact profond sur nos sociétés. Les progrès rapides nécessitent une régulation adaptée afin de garantir que cette technologie bénéficie à l’humanité sans en menacer la stabilité. »
Toutefois, parvenir à un consensus mondial sur ces questions reste un défi. Les experts reconnaissent qu’il existe encore des divergences de points de vue quant aux capacités réelles de l’IA et aux mesures d’atténuation nécessaires.
Ce premier rapport sur la sécurité de l’IA permet de mieux comprendre, anticiper et encadrer les risques liés à l’évolution de l’IA de pointe Son objectif est clair : faire de l’intelligence artificielle un levier de progrès, et non une menace incontrôlable. Reste à savoir si les gouvernements sauront s’accorder sur une gouvernance mondiale efficace, à la hauteur des défis que cette révolution technologique impose à notre époque.
