افزایش هشدارها در رابطه با فاجعه ای ناشی از هوش مصنوعی چطور از زندگی دیجیتال خود محافظت کنیم؟
به گزارش خاتون یار، محققان و کارشناسان هوش مصنوعی اخطار می دهند که رقابت جهانی برای توسعه سیستم هایی با قدرت روز افزون، امکان دارد به نقطه ای برسد که در آن انسان ها کنترل این فناوری را از دست بدهند.
به گزارش خاتون یار به نقل از خبرنگاران جوان، هشدارها در مورد خطرات توسعه هوش مصنوعی، هم زمان با استعفای «جیکوب استاین هارت» طرح شده است؛ پژوهشگری که قبل تر در شرکتهای «آنتروپیک» (سازنده مدل «کلود») و «اوپن ای آی» (سازنده «چت جی پی تی») فعالیت می کرد و اندکی قبل از آن که سهام تشویقی اش (stock options) قابل واگذاری شود، آنتروپیک را ترک کرد.
استاین هارت در پیام خداحافظی خود که تنها در یکروز بالاتر از ۹۰ میلیون بازدید داشت، نوشت که شرکتهای بزرگ هوش مصنوعی «برای توسعه ابرهوشِ خود-اصلاح گر (self-improving superintelligence) با یکدیگر رقابت می کنند و با این کار، جان ما را به بازی گرفته اند.»
اصطلاح «ابرهوش» به سیستم های هوش مصنوعی اشاره دارد که در اغلب وظایف حیاتی، از توانایی های انسان فراتر می روند. «اِوان هوبینگر» که سرپرستی تیمی در آنتروپیک را بر عهده دارد و کارشان هم سو کردن سیستم های هوش مصنوعی با اهداف انسانی است، احتمال نابودی بشریت توسط هوش مصنوعی در دهه پیش رو را بالاتر از ۱۰ درصد برآورد کرده است.
با این وجود، «کیم کوماندو»، کارشناس فناوری، خاطرنشان می کند که زمان ظهور ابرهوش بازهم نامشخص است؛ این اتفاق امکان دارد طی چند سال، چند دهه و یا شاید هیچگاه رخ ندهد. بعلاوه، برآورد احتمال بروز رویدادی بی سابقه، کاری بسیار دشوار است. اقداماتی برای حفاظت از زندگی دیجیتال شما
با وجود نگرانی های آینده، کوماندو اعتقاد دارد که کاربران عادی می توانند با انجام اقداماتی ساده، خصوصاً با پرهیز از اعطای دسترسی های گسترده به «عامل های هوش مصنوعی» (AI agents) برای ورود به حساب های کاربری شخصی، خطرات را به حداقل برسانند.
عامل های هوش مصنوعی را می توان سیستم هایی دانست که بجای صرفا عرضه پاسخ، قادر به استفاده از کامپیوتر و انجام وظایف به نیابت از کاربر هستند. از این رو، کوماندو سفارش می کند که این ابزارها را از حساب های بانکی، آدرس های ایمیل اصلی و حساب هایی که کدهای عبور موقت دریافت می کنند، دور نگه دارید؛ در عوض، پیشنهاد می دهد آنها را با بهره گیری از حساب های جداگانه ای که حاوی اطلاعات حساس نیستند، آزمایش کنید.
وی همینطور سفارش می کند که قابلیت بروزرسانی خودکار را در تلفن ها، کامپیوتر ها و روترها فعال کنید و از شیوه های احراز هویت دو مرحله ای یا چند مرحله ای، برنامه های مدیریت رمز عبور و همین طور نسخه های پشتیبان (بک آپ) از فایل ها، عکس ها و اسناد مهم استفاده نمایید.
خطر، لزوماً یک «ماشین شرور» نیست
کوماندو تاکید می کند که نگرانی های فعلی لزوماً حول محور ظهور ماشین های شرور —مانند آن چه در فیلمهای علمی-تخیلی دیده می شود— نیست؛ او توضیح می دهد که یک سیستم برای ایجاد تهدید، نیاز به داشتن احساسات یا آگاهی ندارد. او می گوید: «هوش مصنوعی نیاز به نفرت از ما ندارد و همین طور نیاز به داشتن احساسات یا حتی آگاهی؛ تنها چیزی که لازم دارد، هدفی است که برای دستیافتن به آن تلاش می کند.»
او خاطرنشان می کند که برخی آزمایش های ایمنی نشان داده اند که مدلهای هوش مصنوعی—تحت شرایط خاص—تلاش می کرده اند تا از فرآیندهای خاموش سازی (توقف فعالیت) سرپیچی کنند؛ خصوصاً زمانیکه این توقف ها مانع از تکمیل وظایف محول شده به آنها می شده است.
این کارشناس تاکید می کند که این مدلها به دنبال «بقا» به خاطر خودِ بقا نبودند، بلکه تداوم فعالیتشان را ابزاری برای رسیدن به هدف خود می دانستند. کماندو اعتقاد دارد بزرگ ترین خطر فعلی در رقابت میان شرکتها و کشورها برای توسعه سیستم هایی با قدرت روز افزون نهفته است، چونکه هر یک از طرفین، توسعه هوش مصنوعی را ضرورتی برای عقب نماندن از رقبا می دانند.
در همین جهت، او پیشنهاد می دهد که آزمایش های مستقلی روی سیستم های پیشرفته صورت گیرد، کنترل هایی بر سرعت توسعه آنها اعمال گردد و کشورها در گفتگوی جهانی پیرامون ایمنی هوش مصنوعی مشارکت داده شوند.
نگرانی ها در مورد ویروس ها
یکی از دغدغه های اصلی که کماندو مطرح می کند، احتمال استفاده از هوش مصنوعی در آینده برای ساخت ویروس های کامپیوتری یا بیولوژیکی است.
درباب جنبه بیولوژیکی، او به آزمایش هایی اشاره می کند که در آنها از سیستم های هوش مصنوعی برای طراحی کامل ژنوم ویروس ها از پایه استفاده شده است؛ این آزمایش ها «باکتریوفاژها» را هدف قرار داده بودند—ویروس هایی که به باکتری ها حمله می کنند اما انسان ها را آلوده نمی سازند. برمبنای توضیحات او، این سیستم ها ۳۰۲ طرح ایجاد کردند؛ محققان ۲۸۵ مورد از آنها را به مرحله اجرا درآوردند و ۱۶ طرح با موفقیت به تولید ویروس های کارآمد منجر گردید.
این بدان معنا نیست که هوش مصنوعی ویروس کرونای جدیدی خلق کرده یا سبب ابتلای انسان ها شده است؛ بلکه نشان داده است که سیستم های هوش مصنوعی حالا قادرند در طراحی مواد بیولوژیکی پیچیده نقش ایفا کنند.
در ۱۰ سپتامبر، شرکت «آنتروپیک» (Anthropic) اعلام نمود که پنج مورد را شناسایی کرده است که در آنها افراد از مدل «کلود» (Claude) به شیوه هایی استفاده می کردند که می توانست ساخت سلاح های بیولوژیکی را تسهیل کند؛ این شرکت گفت: حساب های کاربری مربوطه را مسدود و این موارد را گزارش کرده است.
کماندو هشدار می دهد که در آینده، سیستم های پیشرفته تر امکان دارد بتوانند وظایف را میان افراد و لابراتوار های مختلف توزیع کنند، به صورتی که هر طرف قسمتی از پروسه را بدون آگاهی از تصویر کلی کار، به انجام برساند.
با این وجود، کماندو مردم را به ادامه استفاده از هوش مصنوعی تشویق می کند و تاکید دارد که راه حل مواجهه با این فناوری، پرهیز از آن نیست، بلکه شناخت قابلیت ها و خطرات آن—و استفاده ایمن تر از آن—است.
او دیدگاه خودرا این گونه خلاصه می کند: «من از هوش مصنوعی هراسی ندارم؛ بلکه نگران آنم که خوی رقابت جویی انسان بر خرد او پیشی گیرد، چونکه میان این دو، تفاوت بسیاری وجود دارد.» بطور خلاصه، به این دلیل، کوماندو سفارش می کند که این ابزارها را از حساب های بانکی، آدرس های ایمیل اصلی و حساب هایی که کدهای عبور موقت دریافت می کنند، دور نگه دارید؛ در عوض، پیشنهاد می دهد آنها را با استفاده از حساب های جداگانه ای که حاوی اطلاعات حساس نیستند، آزمایش کنید.
وی همچنین سفارش می کند که قابلیت به روزرسانی خودکار را در تلفن ها، کامپیوتر ها و روترها فعال کنید و از شیوه های احراز هویت دو مرحله ای یا چند مرحله ای، برنامه های مدیریت رمز عبور و همینطور نسخه های پشتیبان (بک آپ) از فایل ها، عکس ها و اسناد مهم استفاده نمایید.
خطر، لزوماً یک ماشین شرور نیست
کوماندو تأکید می کند که نگرانی های فعلی لزوماً حول محور ظهور ماشین های شرور —مانند آنچه در فیلم های علمی-تخیلی دیده می شود— نیست؛ او توضیح می دهد که یک سیستم برای ایجاد تهدید، احتیاج به داشتن احساسات یا آگاهی ندارد. کماندو اعتقاد دارد بزرگ ترین خطر فعلی در رقابت میان شرکتها و کشورها برای توسعه سیستم هایی با قدرت بیش از پیش نهفته است، چراکه هر یک از طرفین، توسعه هوش مصنوعی را ضرورتی برای عقب نماندن از رقبا می دانند.
در همین جهت، او پیشنهاد می دهد که آزمایش های مستقلی روی سیستم های پیشرفته صورت گیرد، کنترل هایی بر سرعت توسعه آنها اعمال گردد و کشورها در گفتگوی جهانی پیرامون ایمنی هوش مصنوعی مشارکت داده شوند.
نگرانی ها در مورد ویروس ها
یکی از دغدغه های اصلی که کماندو مطرح می کند، احتمال استفاده از هوش مصنوعی در آینده برای ساخت ویروس های کامپیوتری یا بیولوژیکی است.
درخصوص جنبه بیولوژیکی، او به آزمایش هایی اشاره می کند که در آنها از سیستم های هوش مصنوعی برای طراحی کامل ژنوم ویروس ها از پایه استفاده شده است؛ این آزمایش ها باکتریوفاژها را هدف قرار داده بودند—ویروس هایی که به باکتری ها حمله می کنند اما انسان ها را آلوده نمی سازند. برمبنای توضیحات او، این سیستم ها ۳۰۲ طرح ایجاد کردند؛ پژوهشگران ۲۸۵ مورد از آنها را به مرحله اجرا درآوردند و ۱۶ طرح با موفقیت به تولید ویروس های کارآمد منجر گردید.
این بدان معنا نیست که هوش مصنوعی ویروس کرونای جدیدی خلق کرده یا سبب ابتلای انسان ها شده است؛ بلکه نشان داده است که سیستم های هوش مصنوعی حالا قادرند در طراحی مواد بیولوژیکی پیچیده نقش ایفا کنند.
در ۱۰ سپتامبر، شرکت آنتروپیک (Anthropic) اظهار داشت که پنج مورد را شناسایی کرده است که در آنها افراد از مدل کلود (Claude) به شیوه هایی استفاده می کردند که می توانست ساخت اسلحه های بیولوژیکی را تسهیل کند؛ این شرکت اظهار داشت: حساب های کاربری مربوطه را مسدود و این موارد را گزارش کرده است.
کماندو هشدار می دهد که در آینده، سیستم های پیشرفته تر امکان دارد بتوانند وظایف را میان افراد و آزمایشگاه های مختلف توزیع کنند، به صورتی که هر طرف قسمتی از فرآیند را بدون آگاهی از تصویر کلی کار، به انجام برساند.
با این حال، کماندو مردم را به ادامه استفاده از هوش مصنوعی تشویق می کند و تأکید دارد که چاره مواجهه با این فناوری، پرهیز از آن نیست، بلکه شناخت قابلیت ها و خطرات آن—و استفاده ایمن تر از آن—است.
او دیدگاه خودرا اینگونه خلاصه می کند: من از هوش مصنوعی هراسی ندارم؛ بلکه نگران آنم که خوی رقابت جویی انسان بر خرد او پیشی گیرد، چراکه میان این دو، تفاوت بسیاری وجود دارد.
منبع: خاتون یار
این مطلب را می پسندید؟
(0)
(0)
مطالب مرتبط در خاتون یار
نظرات بینندگان در مورد این مطلب