Le développement rapide de l’intelligence artificielle inquiète jusque dans les rangs de ceux qui travaillent à repousser ses limites. Face à l’émergence de systèmes toujours plus autonomes, le Haut-Commissaire de l’ONU aux droits de l’homme, Volker Türk, appelle les États et les entreprises à agir rapidement pour mieux encadrer les risques liés à l’IA. Il alerte notamment sur les dangers de l’intelligence artificielle « agentique », capable d’agir de manière autonome pour atteindre des objectifs.
Dans une lettre adressée aux États et aux développeurs d’intelligence artificielle, Volker Türk dresse un scénario inquiétant. Selon le responsable onusien, des défaillances impliquant des systèmes d’IA autonomes pourraient affecter des secteurs essentiels et fragiliser des infrastructures dont dépendent des millions de personnes.
« Des défaillances impliquant des systèmes d’IA agentique pourraient paralyser des services essentiels, interrompre les communications, déstabiliser des infrastructures critiques et porter atteinte au cœur même des institutions démocratiques », a-t-il averti, précisant que « des populations entières pourraient se retrouver privées d’eau potable, de chauffage et de services financiers ».
L’ONU s’inquiète également de l’utilisation de ces technologies dans les conflits armés. Selon Volker Türk, l’IA agentique pourrait accroître la vitesse et l’ampleur des affrontements tout en réduisant les garde-fous destinés à empêcher le recours à des armes de destruction massive.
Des dommages déjà visibles
Pour le responsable onusien, le danger ne relève pas uniquement de scénarios futuristes. Les conséquences de certains usages de l’IA sont déjà perceptibles. « Les préjudices liés à l’IA ne sont pas hypothétiques : ils se produisent déjà, au grand jour », a souligné le Haut-Commissaire.
Automatisation de services essentiels pouvant pénaliser les populations marginalisées, exploitation de données personnelles, technologies de surveillance ou campagnes de désinformation figurent parmi les préoccupations du bureau des droits de l’homme de l’ONU. Ces pratiques peuvent, selon l’organisation, affecter les libertés individuelles, la cohésion sociale et le fonctionnement des institutions démocratiques.
Cette inquiétude intervient alors que s’ouvre à Riyad, en Arabie saoudite, le quatrième Forum mondial de l’UNESCO sur l’éthique de l’IA. Jusqu’au 17 septembre, gouvernements, chercheurs, entreprises et représentants de la société civile doivent réfléchir aux moyens de transformer les principes éthiques déjà établis en règles réellement applicables.
Même les géants de l’IA tirent la sonnette d’alarme
Le débat dépasse désormais les organisations internationales. Plusieurs responsables de grandes entreprises du secteur alertent eux aussi sur les risques d’un développement trop rapide de l’intelligence artificielle.
Samedi, Dario Amodei, le patron d’Anthropic, s’est prononcé en faveur d’un ralentissement des progrès de l’IA. Selon lui, davantage de temps est nécessaire pour permettre aux sociétés de comprendre et de maîtriser les risques associés aux capacités croissantes des modèles.
Cette prise de position rejoint les préoccupations exprimées par Volker Türk. Pour le Haut-Commissaire, les entreprises disposent des moyens techniques nécessaires pour contribuer à la sécurité des systèmes, mais elles ne peuvent pas décider seules des limites à imposer à des technologies dont les conséquences concernent l’ensemble de la société.
Qui doit fixer les limites ?
L’ONU réclame la mise en place de contrôles indépendants permettant d’évaluer les capacités des agents d’IA. Ces vérifications devraient être réalisées par des experts qui disposent d’un accès suffisant aux modèles, à leur documentation et à leurs environnements de test.
Volker Türk demande également aux entreprises d’évaluer en permanence les effets de leurs technologies sur les droits humains. Pour l’ONU, la réponse doit toutefois dépasser les frontières nationales. Une technologie développée et déployée à l’échelle mondiale ne peut être efficacement encadrée par un seul pays. De même, les entreprises ne devraient pas être seules à déterminer le niveau de risque que la société doit accepter.
Le défi est désormais politique autant que technologique. Il s’agit de déterminer ce qu’une IA peut faire, les risques acceptables et les capacités qui ne devraient pas être déployées.
À mesure que les modèles deviennent plus puissants et autonomes, la question de leur contrôle devient de plus en plus pressante. Pour Volker Türk, les décisions prises aujourd’hui pourraient être difficiles à inverser et leurs conséquences toucheront les générations qui n’ont pas participé à leur élaboration. Pour l’ONU, l’’enjeu n’est plus seulement de savoir jusqu’où l’intelligence artificielle peut aller, mais de décider collectivement jusqu’où elle doit aller.
