Google, Microsoft et xAI ont accepté de laisser un centre du Commerce Department évaluer de nouveaux modèles d’IA avant leur diffusion publique, élargissant les tests fédéraux de sécurité.
WASHINGTON — The US Department of Commerce will safety test new artificial intelligence models from Google, Microsoft and xAI before they are released or deployed, under voluntary agreements announced Tuesday by its Center for AI Standards and Innovation.
Les accords offrent aux scientifiques fédéraux un accès à des systèmes d’IA de pointe développés par trois acteurs majeurs, à un moment où Washington cherche à évaluer les risques pour la sécurité liés à des modèles de plus en plus puissants sans imposer de règles obligatoires générales au secteur.
CAISI a indiqué que le travail inclura des tests, de la recherche collaborative et l’élaboration de bonnes pratiques pour les systèmes d’IA commerciaux, avec des évaluations axées sur les capacités et la sécurité. Le directeur du centre, Chris Fall, a déclaré que les accords élargiraient le travail du gouvernement «dans l’intérêt public à un moment critique».
Les accords prolongent des arrangements antérieurs conclus sous l’administration Biden avec OpenAI et Anthropic. Le Commerce testing center, alors connu sous le nom de US Artificial Intelligence Safety Institute, a servi de pôle fédéral pour les évaluations d’IA et les normes volontaires de sécurité.
CAISI a déclaré mardi avoir mené plus de 40 évaluations précédentes, y compris des tests de «modèles de pointe qui restent non publiés». L’agence a précisé que les développeurs fournissent souvent des versions des modèles avec certaines protections réduites afin que les évaluateurs puissent rechercher des risques pour la sécurité nationale.
Microsoft a indiqué qu’il travaillerait avec des scientifiques du gouvernement américain pour tester des systèmes d’IA «de manière à sonder des comportements inattendus» et pour développer des jeux de données et des flux de travail partagés pour l’évaluation des modèles. L’entreprise a aussi dit avoir signé un accord similaire avec le United Kingdom’s AI Security Institute. Google a refusé de commenter auprès d’Al Jazeera, et xAI n’a pas immédiatement répondu à sa demande de commentaire.
L’annonce intervient alors qu’augmentent les inquiétudes à Washington sur la manière dont des systèmes d’IA avancés pourraient être détournés dans des cyberattaques ou des contextes militaires. L’attention récente s’est notamment portée sur le modèle Mythos d’Anthropic et sur la question de savoir si des systèmes puissants pourraient suralimenter des pirates informatiques avant que les gouvernements et les entreprises n’aient pleinement compris leurs risques.
Les accords de test font également suite à un arrangement du Pentagon avec sept entreprises technologiques — dont Google, Microsoft, Amazon Web Services, Nvidia, OpenAI, Reflection et SpaceX — pour utiliser des systèmes d’IA sur des réseaux informatiques classifiés. Le Defense Department a déclaré que cet accord vise à «renforcer la prise de décision des combattants dans des environnements opérationnels complexes».
La mesure marque une expansion notable de l’accès fédéral aux modèles des entreprises sous la présidence de Donald Trump, dont l’administration a par ailleurs mis l’accent sur la réduction des obstacles réglementaires au développement de l’IA. Trump a signé l’an dernier des décrets exécutifs formant la base d’un AI Action Plan qu’il a dit vouloir «supprimer les lourdeurs administratives et les réglementations contraignantes» et aider les États-Unis à l’emporter grâce à l’avancement et au contrôle de l’IA.
L’annonce publique ne précisait pas quels modèles spécifiques de Google, Microsoft ou xAI seront examinés, ni quelle part des conclusions de CAISI sera rendue publique. Pour l’instant, les accords placent davantage des systèmes d’IA commerciaux les plus puissants dans un processus de test fédéral avant qu’ils n’atteignent une utilisation plus large.
Commentaires (0)