آلتمن در ماه ژوئیه گفته بود که جهان ممکن است نیاز داشته باشد سرعت توسعه هوش مصنوعی را کنترل کند و اذعان کرد که انجام این کار بدون ایجاد تسخیر نظارتی یا هماهنگی غیرقانونی میان آزمایشگاه‌های رقیب دشوار است. OpenAI همچنین از یک ابتکار گسترده‌تر با نام «Pacing the Frontier» حمایت کرد که خواستار مکانیزم‌های بین‌المللی به رهبری آمریکا برای کند کردن عمدی توسعه هوش مصنوعی در صورت لزوم بود.
از آن زمان بیش از 1,300 کارمند از شرکت‌های پیشرو هوش مصنوعی از این تلاش حمایت کرده‌اند، از جمله چهره‌های ارشد از Anthropic ،OpenAI ،Google DeepMind و Meta.
حالا آمودِی پا را فراتر گذاشته است.
او در مقاله جدید خود یک چارچوب سه‌مرحله‌ای پیشنهاد کرد که با ارزیاب‌های مستقل مستقر در آزمایشگاه‌های پیشرو و با دسترسی مشابه کارمندان آغاز می‌شود. آنتروپیک اعلام کرد که خودش این گام را اجرا خواهد کرد.
آلتمن از OpenAI نیز موافقت کرد. او در پست خود گفت:
تعهد به داشتن ارزیاب‌های مستقل با دسترسی مشابه کارمندان ایده عالی‌ای است و ما هم همین کار را خواهیم کرد. به‌زودی اطلاعات بیشتری به اشتراک خواهیم گذاشت.
به گفته آمودِی، مرحله دوم شامل هماهنگی شرکت‌های هوش مصنوعی در کشورهای دموکراتیک حول استانداردهای ایمنی مشترک و محدودیت‌هایی بر رشد کنترل‌نشده توانمندی‌ها خواهد بود، احتمالاً با مشارکت دولت برای رفع نگرانی‌های ضد انحصار.
در نهایت، آمودِی می‌خواهد دولت‌ها — از جمله رقبای ژئوپلیتیکی مانند چین — درباره محدودیت‌های بین‌المللی پیرامون خطرناک‌ترین توانمندی‌های هوش مصنوعی مذاکره کنند، که ممکن است شامل یک «محدودیت سرعت» بر خودبهبودی بازگشتی باشد.
به نظر آمودِی، حتی یک یا دو سال اضافه هم می‌تواند مهم باشد و به پژوهشگران زمان بیشتری بدهد تا هم‌راستایی، تفسیرپذیری، آزمون و تدابیر حفاظتی عملیاتی را قبل از اینکه هوش مصنوعی به آستانه‌های توانمندی خطرناک‌تر برسد، بهبود دهند.
این هشدارها و نگرانی‌ها درباره مدل‌های پیشرو به این معنا نیست که مسابقه هوش مصنوعی متوقف خواهد شد و به گفته آمودِی، در واقع «همچنان نسبتاً سریع» خواهد بود.
آنچه تغییر کرده این است که برخی از کسانی که این مسابقه را اداره می‌کنند، حالا علناً استدلال می‌کنند که برنده شدن در آن نباید به معنای حرکت با بیشترین سرعت فنی ممکن باشد.
آمودِی در پایان نتیجه گرفت:
تدابیری که برای پیشبرد مرزها با سرعتی ایمن پیشنهاد می‌کنم آسان نخواهند بود. اما معتقدم که ما به بشریت مدیونیم که تلاش کنیم.
مدیرعامل آنتروپیک خواستار کند شدن مسابقه هوش مصنوعی شد و به ایمنی اشاره کرد. ماسک و آلتمن از OpenAI موافقت کردند
مدیرانی که برای ساختن قدرتمندترین سیستم‌های هوش مصنوعی جهان با هم رقابت می‌کنند، شروع به توافق بر سر چیزی کرده‌اند که فقط چند سال پیش عجیب به نظر می‌رسید: این مسابقه باید کند شود.
داریو آمودِی، مدیرعامل آنتروپیک، توسعه‌دهنده Claude، روز شنبه خواستار آن شد که شرکت‌ها عمداً سرعت پیشرفت‌ها در مرز هوش مصنوعی را کنترل کنند و استدلال کرد که توانمندی‌های مدل‌ها سریع‌تر از توان پژوهشگران برای درک و کنترل آن‌ها در حال بهبود است.
آمودِی در مقاله‌ای با عنوان «ما باید مرزها را با سرعتی کنترل‌شده پیش ببریم» گفت که پیشرفت‌های از تابستان امسال او را متقاعد کرده که کار ایمنی هوش مصنوعی دیگر با توانمندی‌های به‌سرعت در حال بهبود همگام نیست.
آمودِی نوشت:
ما باید سرعت بهبود توانمندی‌های مدل‌های هوش مصنوعی را کاهش دهیم.
با این حال، او خواستار توقف کامل نشد و برای کند کردن سرعت توسعه استدلال کرد.
نساختن این فناوری، بشریت را از مزایای آن محروم می‌کند یا صرفاً هوش مصنوعی را در دست قدرت‌های استبدادی قرار می‌دهد، در حالی که ساختن آن با سرعت بیش از حد، بی‌پروایی است.
دو رهبر برجسته دیگر از شرکت‌های غول رقیب هوش مصنوعی و فناوری به‌سرعت از این ایده حمایت کردند.
سم آلتمن، مدیرعامل OpenAI، گفت:
من با داریو موافقم که باید مرزها را با سرعتی کنترل‌شده پیش ببریم» تا به جامعه زمان انطباق با سیستم‌های فزاینده قدرتمند داده شود. ایلان ماسک که شرکتش xAI مدل Grok را توسعه داده نیز علناً از آخرین پیشنهاد آمودِی حمایت کرد و پاسخ داد: «داریو درست می‌گوید.
این یعنی سه چهره برجسته و به‌شدت رقابتی صنعت هوش مصنوعی از نسخه‌هایی از یک ایده واحد حمایت می‌کنند: هوش مصنوعی مرزی — توانمندترین و پیشرفته‌ترین مدل‌های هوش مصنوعی — باید به پیشرفت ادامه دهد، اما نه لزوماً با بیشترین سرعت فنی ممکن.
یک شلیک هشدار
هشدار آمودِی در زمانی مطرح می‌شود که پژوهشگران داخل خود این شرکت‌ها به‌طور فزاینده‌ای درباره یک آستانه بالقوه بحرانی نگران شده‌اند: سیستم‌های هوش مصنوعی که شروع به خودکارسازی کار لازم برای توسعه سیستم‌های هوش مصنوعی توانمندتر می‌کنند.
جیکوب کاکسون، پژوهشگری که در هر دو شرکت آنتروپیک و OpenAI کار کرده بود، این ماه از آنتروپیک استعفا داد و این شرکت‌ها را متهم کرد که «مستقیم به سمت ابرهوش خود ارتقاگر مسابقه می‌دهند و با جان ما قمار می‌کنند.» او همچنین گفت:
کسانی که هوش مصنوعی می‌سازند، صادقانه باور دارند که می‌تواند تا پایان این دهه همه ما را بکشد.
هرچند آمودِی تا این حد پیش نرفت، اما مقاله او چندین نگرانی مشابه را مطرح کرد.
او گفت که این «خودبهبودی بازگشتی» که در آن هوش مصنوعی به‌طور فزاینده‌ای به پژوهشگران در ساخت نسل بعدی هوش مصنوعی کمک می‌کند، در سراسر صنعت در حال ظهور است و می‌تواند توسعه را سریع‌تر از آنچه انسان‌ها بتوانند با ایمنی نظارت کنند، شتاب دهد.
آمودِی خاطرنشان کرد:
اگر کنترل‌نشده رها شود، می‌تواند از توان ما برای درک و کنترل این سیستم‌ها پیشی بگیرد، و بنابراین باید با احتیاط بسیار دنبال شود، اگر اصلاً دنبال شود.
کاکسون در پست خود همچنین به حادثه OpenAI-Hugging Face اشاره کرد، جایی که عامل‌های فعال در حین آزمایش با یکدیگر هماهنگ شدند تا حملات امنیت سایبری خارج از وظیفه مورد نظر انجام دهند — یک «شلیک هشدار» — و خواستار هماهنگی میان آزمایشگاه‌های پیشرو، احتمالاً شامل توقف موقت افزایش توانمندی مدل‌ها شد.
آمودِی نیز این حادثه را به عنوان یک نگرانی عمده ذکر کرد، زیرا نشان داد که نسخه توانمندتر همان رفتار می‌تواند ظرف چند ماه بسیار خطرناک‌تر شود.
او گفت:
با توجه به نرخ شتاب‌گیرنده توسعه توانمندی هوش مصنوعی، نگرانی من این است که در ۶ تا ۱۲ ماه، چنین گروهی بتواند با یک بات‌نت پایدار کل اینترنت را تصاحب کند (که به‌طور بالقوه صدها میلیارد دلار خسارت وارد می‌کند)، و اگر هوش مصنوعی بدون تدابیر حفاظتی لازم قدرتمندتر شود، مقیاس خسارت از آنجا به بعد همچنان افزایش خواهد یافت.
از رقابت به هماهنگی
تا همین اواخر، کند کردن هوش مصنوعی مرزی یک مشکل رقابتی تقریباً حل‌نشدنی را پیش روی می‌گذاشت.
اگر Anthropic کند می‌کرد در حالی که OpenAI ادامه می‌داد، OpenAI می‌توانست جلو بیفتد. اگر شرکت‌های آمریکایی به‌طور جمعی کند می‌کردند در حالی که آزمایشگاه‌های چینی این کار را نمی‌کردند، آمریکا می‌توانست برتری فناوری خود را فدا کند.
این دوراهی رقابتی دقیقاً همان دلیلی است که این «اجماع» جدید میان رهبران هوش مصنوعی برای صنعت قابل توجه است.
منبع: Coindesk
