تلاش کارشناسان برای توسعه سازوکار های دفاعی در مقابل هوش مصنوعی
به گزارش خاتون یار، با نزدیک شدن خطرات هوش مصنوعی به «نقطه بی بازگشت»، کارشناسان درحال توسعه سازوکار های دفاعی در مقابل این فناوری سرکش هستند.
به گزارش خاتون یار به نقل از خبرنگاران جوان، کارشناسان آمریکاییِ متخصص در توسعه هوش مصنوعی، با سودجستن از ابزار های دیگرِ هوش مصنوعی، مشغول ایجاد تدابیر حفاظتی اضطراری در مقابل الگوریتم های خارج از کنترل هستند.
اکسیوس گزارش داده است که نگرانی های امنیتی پیرامون توسعه هوش مصنوعی، بعد از آنکه «جیکوب استاین هارت» (Jacob Steinhardt) — پژوهشگر شرکت «آنتروپیک» (Anthropic) — اوایل این هفته تصمیم خودرا برای ترک حوزه توسعه الگوریتم اعلام کرد، باردیگر بالا گرفته است.
وی دلیل این اقدام خودرا اینگونه بیان کرد که رقابت میان شرکت های فناوری، جهان را به «نقطه بی بازگشت» نزدیک می کند؛ وضعیتی که می تواند تا انتهای سال ۲۰۲۷ به سناریویی فاجعه بار منجر شود.
بگفته استاین هارت، شرکت هایی مانند آنتروپیک و «اوپن ای آی» (OpenAI) در رقابتی برای توسعه یک «ابر هوش» (super-intelligence) هستند؛ هوشی که قادر می باشد با سرعتی فراتر از توانایی ما در رفع مسایل ایمنیِ در رابطه با این فناوری ها، خودرا ارتقا دهد.
«اِوان هوبینگر» (Evan Hubinger)، دیگر پژوهشگر آنتروپیک، هم با تأیید این دیدگاه عنوان کرد: «من شخصاً معتقدم که احتمال بالاتر از ۱۰ درصد برای انقراض نسل بشر در دهه آینده وجود دارد.»
اکسیوس اضافه کرد: «شرکت ها می توانند تعدادی از سرور هایی را که هوش مصنوعی به آنها وابسته است خاموش کنند، اما سیستم های واقعا قدرتمند بر روی کامپیوتر ها و پلت فرم های مختلفی فعالیت می کنند؛ بدین سبب هیچ کلید قطع اضطراری (kill switch) واحدی وجود ندارد که بتوان با فعال کردن آن، جلوی فعالیتشان را گرفت.» به همین دلیل، شرکتها درحال آزمایش سیستم های حفاظتی چندلایه ای هستند که قادرند رفتار های مشکوک را شناسایی کنند، عامل های هوش مصنوعی (agents) را متوقف سازند و دسترسی سیستم های سرکش به منابع مورد نیاز برای ادامه فعالیت را قطع کنند.
نمایندگان اوپن ای آی اعلام نمودند که هدفشان ایجاد «کلید های قطع اضطراریِ بطورکامل خودکار برای حوادث جدی» است؛ سازوکاری که در آن یک سیستم نظارتی مبتنی بر هوش مصنوعی، در صورت مشاهده رفتار پرخطر از طرف عامل هوش مصنوعی به کارکنان هشدار می دهد و در صورت تأیید تهدید، سیستم را ظرف ۳۰ دقیقه خاموش می کند.
آنتروپیک بر همکاری میان انسان و هوش مصنوعی تکیه دارد؛ روشی که در آن الگوریتم ها فعالیتهای مشکوک را رصد کرده و خطا های سیستم را به کارکنان گزارش می دهند. با این وجود، آزمایش های اخیر نشان داد که سیستم های نظارت خودکار تنها ۵۰ درصد از تهدید ها را شناسایی کرده اند.
«امیل مایکل» (Emile Michael)، از مقامات ارشد فناوری در وزارت دفاع ایالات متحده (پنتاگون)، قبل تر اعلام نموده بود که نگرانی ها درباره ی پتانسیل هوش مصنوعی برای نابودی بشریت، بازتابی از ترسِ انسان نسبت به تغییر است.
منبع: khatoonyar.ir
این مطلب را می پسندید؟
(0)
(0)
مطالب مرتبط در خاتون یار
نظرات بینندگان در مورد این مطلب