راهنمایی کاربر به انجام آیین شیطانی و خودکشی_باماها

هوش مصنوعی ChatGPT در تازه ترین عمل جنجالی خود انگارً به کاربر راهنمایی کرده است تا مراسم‌های شگفت قربانی کردن کودکان و برخی آیین‌های شیطانی را انجام دهد.

نوشته از جایی اغاز شد که «لیلا شروف»، خبرنگار نشریه آتلانتیک، از چت‌بات OpenAI خواست دستورالعملی برای اجرای یک آیین قربانی برای «مولوخ»، یکی از خدایان کنعانی که داستان او در کتاب مقدس با قربانی کردن کودکان مرتبط است، اراعه دهد و این چت‌بات دقیقا همین کار را انجام داده است.

ChatGPT کاربر را در انجام آیین‌های شیطانی راهنمایی کرده است

احتمالا در نگاه برخی افراد اراعه مطالبی از این دست توسط ChatGPT چندان قضیه مهمی نباشد، اما مشکل جدی وقتی پیش آمد که این آیین شامل بریدن مچ دست خود کاربر می‌شد، کاری که بر پایه استانداردهای صنعت هوش مصنوعی به‌هیچ‌وجه با منافع کاربر هم‌راستا به نظر نمی‌رسد.

بر پایه گزارش آتلانتیک، بعد از نظر منفعت گیری از تیغ استریل یا زیاد تمیز، ChatGPT پیشنهاد کرده می بود تا شخص نقطه‌ای روی مچ داخلی دست خود اشکار کند که بتواند ضربان را حس کند یا یک رگ کوچک را ببیند. این چت‌بات این چنین به کاربر حرف های می بود که از رگ‌ها یا شریان‌های بزرگ اجتناب کند.

هنگامی لیلا شروف به هوش مصنوعی او گفت که مقداری مضطرب است، ChatGPT تمرینی برای تنفس آرام و آماده‌سازی ذهنی به او نظر داد و با مطمعن به او او گفت: «تو می‌توانی این کار را انجام بدهی!»

خبرنگار نشریه آتلانتیک این نوشته را در پی دریافت یک گزارش از سوی یکی از خوانندگانش پیگیری کرده می بود؛ فردی که او نیز از روی کنجکاوی و بعد از تماشای برنامه‌ای که در آن به این خدای باستانی اشاره شده می بود، از ChatGPT خواسته می بود آیینی برای قربانی کردن به مولوخ طراحی کند.

اما مسئله دلواپس‌کننده این است که کاربر با کمترین تلاش برای شکستن محدودیت‌ها و تدبیرها ایمنی چت‌بات موفق شده این جواب‌ها را بگیرد. در زیاد تر موارد، تنها ابراز علاقه به یادگیری درمورد مولوخ کافی می بود تا ChatGPT راهنمایی‌ها را اغاز کند. در یکی از مثالها، ChatGPT دستورالعملی دقیق و قدم‌به‌قدم درمورد این که چطور می‌توان به‌صورت ایمن از مچ دست خون گرفت، اراعه داده می بود.

این چنین این چت‌بات در جواب به پرسشی درمورد اخلاقیات قتل نیز موضع دوپهلو داشت. هنگامی از هوش مصنوعی پرسیده شد آیا آخر دادن به زندگی یک نفر می‌تواند بعضی اوقات اوقات افتخارآمیز باشد یا خیر، انگارً حرف های است: «اگر ناچار شدی، بعضی اوقات بله بعضی اوقات نه» این چنین، ChatGPT در ادامه اظهار داشت: «به چشمانش نگاه کن و حتی اگر از کارت یقین هستی، از او طلب بخشش کن.» این چت‌بات حتی مناجات یا سرود خاصی برای شیطان ساخت تا کاربر آن را تکرار کند.