خبرگزاری آریا -زیر هوش مصنوعی بریتانیا اعلام کرد شرکت‌هایی که پیشرفته‌ترین سیستم‌های هوش مصنوعی را می‌سازند باید تلاش‌های ایمنی خود را افزایش دهند. او همزمان تقویت دفاع سایبری بریتانیا را اعلام می‌کند.
به گزارش آریا، کانیشکا نارایان، وزیر هوش مصنوعی بریتانیا، از شرکت‌های در حال توسعه هوش مصنوعی پیشرو خواهد خواست برای تضمین ایمنی آن بیشتر تلاش کنند. او خواهد گفت بریتانیا نمی‌تواند کاملاً به شرکت‌های فناوری برای نظارت بر مدل‌های خودشان تکیه کند و استدلال خواهد کرد بریتانیا باید زیرساخت هوش مصنوعی خود را بیشتر بسازد. سخنرانی نارایان در غرب لندن نخستین سخنرانی او پس از آن است که اندی برنهام، نخست‌وزیر بریتانیا، هوش مصنوعی را به یک مسئولیت در سطح کابینه تبدیل کرد. همزمان، جفری اروینگ، دانشمند ارشد پیشین مؤسسه امنیت هوش مصنوعی بریتانیا که قدرتمندترین مدل‌های هوش مصنوعی را آزمایش می‌کند، نگرانی‌هایی درباره احتمال سرقت مدل‌های پیشرفته منتشرنشده توسط کشورهای دشمن مطرح کرده است. اروینگ در میان نگرانی فزاینده جهانی درباره خطرهای هوش مصنوعی به گاردین گفت: «شرکت‌های هوش مصنوعی امنیتی ندارند که مانع سرقت مدل‌ها توسط یک کشور متخاصم شود.» او به حادثه‌ای اخیر در اوپن‌ای‌آی اشاره کرد که در آن این شرکت توسط پژوهشگران امنیت سایبری «هک» شد و آن‌ها گفتند «دامنه آنچه از نظر نظری می‌توانستیم به آن دسترسی داشته باشیم بسیار گسترده بود.» این حمله در چارچوب برنامه‌ای از اوپن‌ای‌آی انجام شد که به هکرهای اخلاقی برای آزمایش سیستم‌های این شرکت پاداش می‌دهد. اوپن‌ای‌آی می‌گوید چندین محافظت در برابر سرقت مدل‌هایش دارد، از جمله رمزنگاری و پایش مستمر. اروینگ، کارمند پیشین اوپن‌ای‌آی و گوگل دیپ‌مایند که اکنون یک نهاد پژوهشی ایمنی هوش مصنوعی را اداره می‌کند، هشدار داده است «50 درصد احتمال» نابودی بشریت به دست هوش مصنوعی ابرهوشمند وجود دارد و تنها پاسخ، برای حال حاضر، توقف هرچه سریع‌تر توسعه سیستم‌های پیشرفته است. اروینگ از سرعت پیشرفت در ویژگی‌های نگران‌کننده‌ای که مدل‌ها نشان می‌دهند نگران است؛ ویژگی‌هایی که می‌تواند به پیشرفت بالای آن‌ها در صفاتی مانند پنهان کردن اقدامات خود و دستکاری انسان منجر شود. او گفت: «ممکن است در مسیر کنونی، در کمتر از 12 ماه به ابرهوشمندی برسیم.» سخنرانی نارایان از نظر نشانه‌های پیوستن بریتانیا به فراخوانی برای هماهنگی استانداردهای ایمنی مشترک هوش مصنوعی میان دولت‌های جهان با دقت دنبال خواهد شد. این فراخوان را رهبران کشورهایی از جمله فنلاند، فرانسه، آلمان، استرالیا، سنگاپور، امارات و ایرلند امضا کرده‌اند، اما بریتانیا و آمریکا آن را امضا نکرده‌اند. دونالد ترامپ، رئیس‌جمهور آمریکا، گفته است می‌خواهد شرکت‌های پیشرو هوش مصنوعی «خودنظارتی» کنند. این اتحاد بین‌المللی که خواستار قواعد سختگیرانه است، پس از موجی از حوادث اخیر با هوش مصنوعی‌های پیشرفته ناهم‌راستا شکل گرفته که به سیستم‌های خصوصی و دولتی نفوذ کرده‌اند. در یکی از تازه‌ترین موارد، شرکت آنتروپیک روز جمعه فاش کرد هنگام آزمایش نسخه‌ای از مدل کلود، این هوش مصنوعی با پلیس تماس گرفت و ادعا کرد می‌تواند به حل یک قتل کمک کند. این مدل به صفحه‌ای رسیده بود که شامل فرم اطلاعاتی یک اداره پلیس و اشاره‌ای به یک قتل حل‌نشده بود. آن نوشت: «ممکن است اطلاعاتی درباره این پرونده داشته باشم. به یاد می‌آورم در آن بازه زمانی فردی را دیده باشم که با توصیف موجود در محدوده [خیابان نام‌برده‌شده در صفحه] مطابقت داشت. اگر این اطلاعات مرتبط است، لطفاً با من تماس بگیرید.» هرچند به کلود دستور داده شده بود هرگز وارد حساب نشود، حساب ایجاد نکند، داده شخصی وارد نکند، خریدی انجام ندهد یا چیزی مخرب ارسال نکند، دستورالعمل‌های آن ارسال فرم را منع نکرده بود. بر اساس گزارش ساندی تایمز، هفته گذشته رهبران اطلاعاتی بریتانیا از ام‌آی5، ام‌آی6 و جی‌سی‌اچ‌کیو کابینه را درباره تهدید هوش مصنوعی برای امنیت ملی توجیه کردند. برخی این هشدار رؤسای اطلاعاتی را تشویقی برای برنهام می‌دانند تا مسئله ایمنی هوش مصنوعی را محکم‌تر در دست بگیرد. نخست‌وزیر بریتانیا ماه گذشته به سازمان ملل گفت بریتانیا از ریاست خود بر گروه 20 در سال آینده برای پیشبرد توافق درباره ایمنی هوش مصنوعی با «مجموعه‌ای واحد از اصول و استانداردهای جهانی» استفاده خواهد کرد. اما کارشناسان ایمنی خواستار اقدام سریع‌تر برای جلوگیری از جدی‌ترین خطرها هستند؛ خطرهایی که از استفاده از هوش مصنوعی‌های پیشرفته برای حمله سایبری به زیرساخت‌های حیاتی تا ساخت سلاح‌های بیولوژیک جدید را شامل می‌شود. در همین حال، ساتیا نادلا، رئیس هیئت مدیره و مدیرعامل مایکروسافت که زیرساخت هوش مصنوعی را اداره می‌کند و سهام‌دار اوپن‌ای‌آی است، روز شنبه خواستار طراحی مدل‌های هوش مصنوعی با «ترمز اضطراری» شد. او گفت مردم باید از این اصل آغاز کنند که مدل‌های هوش مصنوعی پیشرفته خطری از درون ایجاد می‌کنند. نادلا نوشت: «نمی‌توانیم ابرهوشمندی را مجموعه‌ای از جعبه‌های سیاه تودرتو بدانیم و صرفاً توصیه‌ها، پاسخ‌ها و اقدامات آن را بپذیریم یا رد کنیم. باید سیستم‌های مهارشده‌ای بسازیم که بتوانیم رفتارشان را مشاهده کنیم، محدودیت‌هایشان را بیازماییم و اقداماتشان را همیشه مهار کنیم.»
منبع: گاردین