آمریکا مدل‌های گوگل، مایکروسافت و xAI را پیش از عرضه آزمایش می‌کند

گوگل، مایکروسافت و xAI موافقت کردند که یک مرکز وزارت بازرگانی پیش از انتشار عمومی مدل‌های جدید هوش مصنوعی را ارزیابی کند و آزمایش‌های ایمنی فدرال را گسترش دهد.

واشنگتن — وزارت بازرگانی آمریکا تحت توافق‌های داوطلبانه‌ای که سه‌شنبه توسط مرکز استانداردها و نوآوری هوش مصنوعی آن اعلام شد، پیش از انتشار یا به‌کارگیری، مدل‌های جدید هوش مصنوعی گوگل، مایکروسافت و xAI را از نظر ایمنی آزمایش خواهد کرد.

این توافق‌ها به دانشمندان فدرال دسترسی به سیستم‌های پیشرفته هوش مصنوعی سه توسعه‌دهنده بزرگ را می‌دهد، در زمانی که واشنگتن تلاش می‌کند خطرات امنیتی ناشی از مدل‌های با توانمندی فزاینده را بدون تحمیل مقررات اجباری گسترده بر این بخش ارزیابی کند.

CAISI اعلام کرد این کار شامل آزمایش، پژوهش مشترک و توسعه بهترین شیوه‌ها برای سیستم‌های هوش مصنوعی تجاری خواهد بود، و ارزیابی‌ها بر توانمندی‌ها و امنیت متمرکز خواهند شد. کریس فال، مدیر این مرکز، گفت که این توافق‌ها کار دولت را «در راستای منافع عمومی در لحظه‌ای حساس» گسترش خواهد داد.

این توافق‌ها ترتیبات قبلی‌ای را که تحت دولت بایدن با OpenAI و Anthropic به‌دست آمده بود، گسترش می‌دهد. مرکز آزمایش وزارت بازرگانی که آن زمان با نام مؤسسه ایمنی هوش مصنوعی ایالات متحده شناخته می‌شد، به‌عنوان یک مرکز فدرال برای ارزیابی‌های هوش مصنوعی و استانداردهای ایمنی داوطلبانه استفاده شده است.

CAISI روز سه‌شنبه گفت که بیش از ۴۰ ارزیابی پیشین را تکمیل کرده است، از جمله آزمایش‌هایی از «مدل‌های پیشرفته‌ای که هنوز منتشر نشده‌اند.» این نهاد آن مدل‌ها را مشخص نکرد. این آژانس گفته است توسعه‌دهندگان اغلب نسخه‌هایی از مدل‌ها را ارائه می‌دهند که برخی از مکانیزم‌های حفاظتی‌شان کاهش یافته است تا ارزیابان بتوانند برای یافتن خطرات امنیت ملی بررسی کنند.

مایکروسافت گفت که با دانشمندان دولت آمریکا برای آزمایش سیستم‌های هوش مصنوعی «به‌روش‌هایی که رفتارهای غیرمنتظره را بررسی می‌کنند» همکاری خواهد کرد و مجموعه‌داده‌ها و جریان‌های کاری مشترکی برای ارزیابی مدل‌ها توسعه خواهد داد. این شرکت همچنین گفت که توافق مشابهی را با AI Security Institute بریتانیا امضا کرده است. گوگل از پاسخ به Al Jazeera خودداری کرد و xAI بلافاصله به درخواست نظر آن پاسخ نداد.

این اعلام در میانه نگرانی‌های فزاینده در واشنگتن در مورد نحوه سوءاستفاده از سیستم‌های پیشرفته هوش مصنوعی در حملات سایبری یا محیط‌های نظامی منتشر می‌شود. توجه اخیر تا حدی بر مدل Mythos از Anthropic متمرکز شده و پرسش‌هایی درباره این‌که آیا سیستم‌های قدرتمند می‌توانند پیش از آنکه دولت‌ها و شرکت‌ها به‌طور کامل خطراتشان را درک کنند، هکرها را تقویت کنند، مطرح شده است.

این قراردادهای آزمایشی همچنین در پی توافقی بین پنتاگون و هفت شرکت فناوری — از جمله Google، Microsoft، Amazon Web Services، Nvidia، OpenAI، Reflection و SpaceX — برای استفاده از سیستم‌های هوش مصنوعی در شبکه‌های رایانه‌ای طبقه‌بندی‌شده است. وزارت دفاع گفت که این ترتیب با هدف «تقویت تصمیم‌گیری جنگجویان در محیط‌های عملیاتی پیچیده» است.

این اقدام نشان‌دهنده گسترش قابل‌توجهی از دسترسی فدرال به مدل‌های شرکت‌ها در دوره رئیس‌جمهور دونالد ترامپ است، که دولت او در غیر این زمینه بر کاهش موانع نظارتی برای توسعه هوش مصنوعی تأکید داشته است. ترامپ سال گذشته دستورهای اجرایی‌ای را امضا کرد که پایه‌گذار یک طرح اقدام در حوزه هوش مصنوعی شدند و او گفت که این‌ها «موانع اداری و مقررات دست‌وپاگیر را حذف می‌کنند» و به ایالات متحده کمک می‌کنند از طریق پیشرفت و کنترل در هوش مصنوعی پیروز شود.

اعلام عمومی نام مدل‌های مشخص Google، Microsoft یا xAI که مورد بازبینی قرار خواهند گرفت را فاش نکرد، و همچنین مشخص نکرد چه میزان از یافته‌های CAISI منتشر خواهد شد. فعلاً این توافق‌ها بخش بیشتری از قدرتمندترین سیستم‌های تجاری هوش مصنوعی را پیش از رسیدن به استفاده گسترده در فرایند آزمایشی فدرال قرار می‌دهند.