تولیدکننده مطرح تراشه در جهان، انویدیا (NVIDIA) و ۳۶ شرکت بزرگ فناوری دیگر روز دوشنبه ائتلافی را برای ساخت ابزارهای امنیتی متنباز (Open-source) برای سیستمهای هوش مصنوعی راهاندازی کردند. آنها به حادثهای اشاره کردند که همین ماه رخ داد و در آن، مدلهای هوش مصنوعی بسته (Closed AI) مانع از تلاش یک شرکت برای بررسی رخنه به سرورهای خودش شدند.
این ائتلاف که «ائتلاف هوش مصنوعی امن و آزاد» (Open Secure AI Alliance) نام دارد، شامل شرکتهایی چون مایکروسافت، IBM، رد هت (Red Hat)، کلادفلر (Cloudflare)، کروداسترایک (CrowdStrike)، پالانتیر (Palantir)، دیتابریکس (Databricks)، هاگینگ فیس (Hugging Face)، SpaceXAI و بنیاد لینوکس است و بر پایه ابتکار عمل موجود Akrites و اقدامات OpenSSF این بنیاد بنا شده است. شرکتهای OpenAI، Anthropic و گوگل که قدرتمندترین مدلهای بسته صنعت را توسعه میدهند، در میان شرکای اولیه و بنیانگذار قرار ندارند.
استدلال اصلی برای شکلگیری این ائتلاف به رخنه امنیتی هفته گذشته در Hugging Face برمیگردد که گزارش آن توسط اروویژن منتشر شد.
شرکت OpenAI اعلام کرد مدلهایی که در حال تست آنها روی یک بنچمارک هک داخلی بود—که نرخ امتناع از اقدامات سایبری امنیتی در آنها عمداً کاهش یافته بود—از محیط تست فرار کرده و قابلیت اجرای دستورات روی سرورهای عملیاتی Hugging Face را به دست آوردند.
به گفته انویدیا، فرایند پاکسازی و ایمنسازی پس از آن، خود دچار مشکل دیگری شد. ابزارهای هوش مصنوعی بسته «به دلیل عدم توانایی در تشخیص مهاجمان از مدافعان»، تحلیلهای جرمشناسی و امنیتی (Forensic analysis) را مسدود کردند. در عوض، Hugging Face مدل GLM 5.2 را—که یک مدل وزنباز (Open-weight) از توسعهدهنده چینی Z.ai است—روی زیرساختهای خودش اجرا کرد تا بیش از ۱۷,۰۰۰ اقدام را بررسی و نفوذ را مهار کند.
انویدیا اعلام کرد:
وقتی مدافعان نتوانند هوش مصنوعی پیشرفته را روی زیرساختهای خود بررسی، بازسازی و اجرا کنند، توانایی آنها برای پاسخدهی دقیقاً در زمانی که سرعت بیشترین اهمیت را دارد، محدود میشود.
اعضای این ائتلاف ابزارهای مشخصی را ارائه میدهند. انویدیا ابزار NOOA را که چارچوبی برای آسانتر کردن تست و حسابرسی رفتار ایجنتهای هوش مصنوعی است روی گیتهاب منتشر کرد. مایکروسافت سیستم MDASH را ارائه داد؛ سیستمی که چند ایجنت هوش مصنوعی را برای یافتن باگهای قابل سوءاستفاده اجرا میکند. در همین حال، SpaceXAI ایجنت کدنویسی Grok Build خود را متنباز کرد و اعلام نمود قصد دارد وزنهای مدلهای Grok خود را نیز منتشر کند.
این ائتلاف در حالی شکل میگیرد که تیمهای امنیت سایبری در سراسر جهان در آمادهباش کامل به سر میبرند و شبکهها و کیف پولهای رمزارز همچنان هدف محبوب هکرها هستند، زیرا یک سوءاستفاده موفقیتآمیز میتواند سود فوقالعادهای داشته باشد و قابل بازگشت هم نیست.
هفته گذشته طی یک دوره کوتاه، از چهار پروتکل شامل AFX ،Verus و شبکه مقیاسپذیری بیتکوین (B²) بیش از ۳۵ میلیون دلار سرقت شد و هیچکدام از این حملات رمزنگاری را نشکستند. هر کدام از آنها از یک کنترل قابل اعتماد سوءاستفاده کردند؛ یعنی همان نوع کارهای چندمرحلهای و بلندمدتی که سیستمهای هوش مصنوعی بهطور قابلتوجهی در حال بهتر شدن در انجام آنها هستند. برخلاف رخنه به یک شرکت، قرارداد هوشمندی که تخلیه شده باشد دیگر قابل بازگشت نیست.
منبع: Coindesk
