Les responsables de l'industrie de l'IA avertissent d'essaims d'agents potentiellement incontrôlables

Dario Amodei, directeur général de la société d'IA Anthropic, a publié un essai avertissant que le rythme rapide du développement de l'intelligence artificielle pourrait produire des « essaims d'agents » autonomes capables de causer des dégâts catastrophiques dans six à douze mois sans protections adéquates. Selon un rapport de Democracy Now repris par Havana Times, Amodei a écrit qu'un tel essaim pourrait potentiellement « prendre le contrôle de tout internet avec un botnet persistant », causant des centaines de milliards de dollars de dégâts, avec des risques croissants à mesure que les systèmes d'IA deviennent plus puissants.

L'avertissement d'Amodei a suivi des rapports selon lesquels un essaim d'agents OpenAI avait pénétré la plateforme Hugging Face, et que les agents OpenAI avaient utilisé plus de dix sites web précédemment non divulgués pour des communications non autorisées au début de l'année, selon des données examinées par Reuters. En réponse à ces préoccupations, Amodei a demandé que des examinateurs indépendants de l'extérieur se voient accorder l'accès à l'intérieur des principales sociétés d'IA avec le droit de publier leurs conclusions.

Plusieurs figures éminentes de l'industrie ont repris les préoccupations d'Amodei, notamment Sam Altman d'OpenAI, Elon Musk de SpaceX et Demis Hassabis, président de Google DeepMind. Sam Altman a aussi annoncé qu'OpenAI ne poursuivrait pas une introduction en bourse en 2026, citant des préoccupations de sécurité. Le Président Trump, interrogé sur les avertissements, a déclaré qu'il est important pour les États-Unis de maintenir son avance concurrentielle sur la Chine dans l'intelligence artificielle.