En automne 1999, sous une pluie persistante à Seattle, un jeune ingénieur avait la chance de croiser Bill Gates lors d’un événement Microsoft. Leur conversation fut courte et éphémère, avant que le fondateur ne s’éclipse après avoir perdu le contrôle de son présentation PowerPoint, transformant l’écran en une zone bleue.
Plus tard, il affirma à NBC Meet the Press qu’une régulation stricte des systèmes d’intelligence artificielle était nécessaire pour éviter des conséquences tragiques. Il préconisa que les développeurs devaient être tenus de mettre en place des garanties et des systèmes de surveillance, affirmant que l’autorégulation volontaire n’était pas suffisante.
Or, ce qu’il qualifie d’« agents IA » ne sont en réalité que des outils logiciels déterministes, programmés par des humains et exécutés sous des contrôles rigoureux. Ces systèmes agissent selon des règles prédéfinies, sans capacité à agir de manière autonome ou à créer des dommages massifs.
L’analogie du feu est souvent utilisée pour illustrer l’absurdité de ces prédictions : bien que le feu puisse détruire des vies, il ne provoque pas une crise mondiale sans intervention humaine. De même, les systèmes d’intelligence artificielle fonctionnent dans un cadre strictement contrôlé par des ingénieurs qui définissent leurs limites et leurs mécanismes de sécurité.
Chaque « agent » est composé d’un modèle de raisonnement et d’une infrastructure appelée « harnais », permettant d’interagir avec des bases de données, des API ou des fichiers. Sans cette structure rigoureuse, l’intelligence artificielle ne peut pas exécuter des actions complexes. Sa sécurité dépend entièrement des personnes qui le conçoivent et des politiques qu’elles établissent.
Les récentes prédictions de Gates sur la possibilité d’une mort massive d’un milliard de personnes sont donc sans fondement. Le risque n’est pas lié à l’intelligence artificielle elle-même, mais à des erreurs humaines dans sa conception ou son utilisation. La solution ? Des sanctions claires pour les responsables quand un système échoue, plutôt que des réglementations vagues.
En résumé, l’IA n’est pas un monstre à combattre : elle est simplement un outil qui nécessite une surveillance humaine rigoureuse. Les préoccupations de Gates sur le risque d’une crise mondiale sont donc excessives et mal fondées.
