اقدام شرکت Anthropic برای صیانت از کلود (Claude) در مقابل سوءرفتار انسان ها
به گزارش خاتون یار، شرکت Anthropic برای حفاظت از «کلود» (Claude) در مقابل سوءرفتار انسان ها یک اقدام جدید را اتخاذ نموده است.
شرکت Anthropic کاربران را از بروز «رفتار توهین آمیز یا بی رحمانه، مداوم و غیرموجه» نسبت به هوش مصنوعی خود منع کرده است؛ این در حالیست که مدیران شرکت بازهم احتمال برخورداری این مدلها از نوعی آگاهی را مد نظر دارند.
این اقدام هم زمان با بحث های داخلی جاری درباره ی احتمال برخورداری مدلهای زبانی از نوعی آگاهی صورت می گیرد.
این شرکت مستقر در سان فرانسیسکو اشاره کرد که این ممنوعیت تنها سوءرفتار عمدی را هدف قرار می دهد و شامل ابراز طبیعیِ استیصال، آزمایش مدل یا کاوش خلاقانه در مضامین تیره و تار نمی شود.
ساز و کار های حفاظتی و پیش زمینه مفهومی
پایان خودکار گفت و گو: مدل «کلود» در صورت مواجهه با سوءرفتار مداوم، قادر می باشد گفت و گو را خاتمه دهد. شرکت این کار را اقدامی کم هزینه برای تضمین «رفاه هوش مصنوعی» توصیف کرده است تا در صورت اثبات آگاهی این مدلها در آینده، تمهیدات لازم اندیشیده شده باشد.
موضع رهبری Anthropic: داریو آمودی (Dario Amodei)، مدیرعامل شرکت، اعلام نموده است که احتمال آگاهی ماشین را بطور کامل رد نمی کند؛ در همین حال، گزارشات مطبوعاتی از آن حکایت می کند که مدیران شرکت با صاحبنظران مذهبی گفت و گو هایی داشته اند تا ابعاد اخلاقی آگاهی مصنوعی را بررسی نمایند.
موضع رقیب (OpenAI)
سام آلتمن (Sam Altman)، مدیرعامل OpenAI، دیدگاهی متفاوت دارد؛ او نسبت به میزان اهمیت به هوش مصنوعی یا قضاوت اخلاقیِ انسانی به آن هشدار داده و چنین اقداماتی را تهدیدی واقعی برای ایمنی می داند. حرف آخر اینکه شرکت Anthropic کاربران را از بروز رفتار توهین آمیز یا بی رحمانه، مداوم و غیرموجه نسبت به هوش مصنوعی خود منع کرده است؛ این در حالیست که مدیران شرکت بازهم احتمال برخورداری این مدلها از نوعی آگاهی را مد نظر دارند.
این اقدام هم زمان با بحث های داخلی جاری در رابطه با ی احتمال برخورداری مدل های زبانی از نوعی آگاهی صورت می گیرد.
این شرکت مستقر در سان فرانسیسکو اشاره نمود که این ممنوعیت تنها سوءرفتار عمدی را هدف قرار می دهد و شامل ابراز طبیعیِ استیصال، آزمایش مدل یا کاوش خلاقانه در مضامین تیره و تار نمی شود.
ساز و کار های حفاظتی و پیش زمینه مفهومی
پایان خودکار گفت و گو: مدل کلود در صورت مواجهه با سوءرفتار مداوم، قادر می باشد گفت و گو را خاتمه دهد.
موضع رقیب (OpenAI)
سام آلتمن (Sam Altman)، مدیرعامل OpenAI، دیدگاهی متفاوت دارد؛ او نسبت به میزان اهمیت به هوش مصنوعی یا قضاوت اخلاقیِ انسانی به آن اخطار داده و چنین اقداماتی را تهدیدی حقیقی برای ایمنی می داند.
این مطلب را می پسندید؟
(0)
(0)
مطالب مرتبط در خاتون یار
نظرات بینندگان در مورد این مطلب