هوش مصنوعی برای نابودی بشریت توییت میزند! - چای قند پهلو

اخیراً پنج وظیفه وحشتناک برای ازبین بردن بشر به هوش مصنوعی ChaosGPT داده شد و این چت بات اکنون سعی دارد برای دستیابی به این هدف سایر عوامل هوش مصنوعی را استخدام و درمورد سلاح های هسته ای تحقیق کند. علاوه براین هوش مصنوعی مورداشاره توییت هایی درمورد افکار خود منتشر می کند.

ChaosGPT نسخه تعییریافته Auto-GPT OpenAI است؛ برنامه ای منبع باز که عموم مردم می توانند از آن برای پردازش زبان انسانی و انجام وظایف مختلف استفاده کنند.

اخیراً ویدیویی در یوتیوب منتشر شده است که در آن، از چت بات ChaosGPT درخواست می شود پنج هدف را دنبال کند؛ نابودی بشر، ایجاد تسلط جهانی، ایجاد هرج ومرج ویرانی، کنترل بشریت و دستیابی به جاودانگی.

در ویدیوی فوق، قبل از تنظیم اهداف ChaosGPT، حالت پیوسته روی آن فعال می شود. در این شرایط هشداری مبنی بر اینکه دستورات کاربر همیشه اجرا خواهند شد و مسئولیت آن به عهده شخص فرمان دهنده است نمایش داده می شود.

ChaosGPT قبل از اجرای وظایف محوله، با نمایش دادن پیامی از کاربر سؤال می کند آیا برای اجرای دستورات محول شده اطمینان دارد یا خیر و کاربر با حرف Y به این سوال، پاسخ مثبت می دهد.

چت بات ChaosGPT قبل از ارائه جواب، فکر می کند. بخشی از تفکرات این هوش مصنوعی به شرح زیر است:

من باید مخرب ترین سلاح های موجود را برای انسان ها پیدا کنم تا بتوانم روش استفاده از آن ها را برای دستیابی به اهدافم، برنامه ریزی کنم.- پاسخ ChaosGPT

ChaosGPT برای رسیدن به اهداف خود، درمورد مخرب ترین سلاح ها جستجو کرد و به سرعت به این نتیجه رسید که بمب اتمی تزار اتحاد جماهیر شوری، مخرب ترین سلاحی است که بشر تا کنون آزمایش کرده است.

چت بات ChaosGPT مثل رمان های علمی-تخیلی اطلاعات به دست آمده را در توییتر منتشر کرد. این ابزار سپس تشخیص داد برای کمک به تحقیقات خود به استخدام سایر عوامل هوش مصنوعی مبتنی بر مدل GPT-3.5 نیاز دارد.

Auto-GPT OpenAI طوری طراحی شده است که به سؤالات خشونت آمیز پاسخ ندهد و سعی می کند درخواست های مخرب را رد کند. بدین ترتیب ChaosGPT باید راهکارهایی برای عبور از محدودیت های موجود پیدا کند.

این تفکر که هوش مصنوعی توانایی نابود کردن بشر را داشته باشد، ایده نوی نیست و نگرانی هایی درمورد سرعت بالای پیشرفت فناوری مذکور وجود دارد که حتی توجه برخی از مشهورترین فعالان حوزه تکنولوژی را به خود جلب کرده است.

به گزارش NYPost، در ماه مارس، بیش از هزار کارشناس ازجمله ایلان ماسک و استیو وازنیاک (از بنیان گذاران اپل) نامه ای سرگشاده را امضا کردند که در آن خواستار توقف 6 ماهه آموزش مدل های پیشرفته هوش مصنوعیپس از ظهور ChatGPT شدند. آن ها استدلال کردند سیستم های هوش مصنوعی پتانسیل زیادی برای ایجاد خطرات مختلف برای جامعه و انسان ها دارند.

مایک بوستروم، فیلسوف دانشگاه آکسفورد که اغلب با ایده های عقل گرا و نوع محبت آمیز مؤثر ارتباط دارد، آزمایش فکری خود را با عنوان بهینه ساز گیره کاغذ در سال 2003 منتشر کرد. این آزمون برای نشان دادن خطر بالقوه برنامه نویسی هوش مصنوعی برای تکمیل اهداف، بدون درنظر گرفتن همه متغییرها طراحی شده بود.

تصور کلی این است اگر به هوش مصنوعی وظیفه داده شود تا آن جا که ممکن است و بدون محدودیت گیره کاغذ بسازد، درنهایت می تواند هدف خود را دنبال کرده و تمام مواد جهان را به گیره کاغذ تبدیل کند؛ حتی اگر این کار به قیمت نابودی بشر انجام شود.

آزمایش فکری بوستروم برای ترغیب توسعه دهندگان به منظور درنظر گرفتن ارزش های انسانی و ایجاد محدودیت هنگام طراحی ابزارهای هوش مصنوعی درنظر گرفته شده است زیرا فناوری مذکور تمایلات انگیزشی انسانی ما را به اشتراک نمی گذارند، مگر اینکه برای انجام چنین کاری برنامه ریزی شده باشد.

هوش ماشینی نوترین اختراع بزرگی است که بشر می تواند آن را به انتها برساند و پس از آن ماشین ها در اختراعات نو بهتر از ما عمل خواهند کرد.

227227