هوش مصنوعی میتواند تا سال ۲۰۳۰ نسل انسان را منقرض کند
گروه بینالملل دفاعپرس: در اقدامی تازه که شوک بزرگی به بدنه صنعت فناوری وارد کرده است، «داریو آمودی»، مدیرعامل شرکت هوش مصنوعی «آنتروپیک» با انتشار درخواستی علنی و رسمی خواستار کاهش سرعت توسعه هوش مصنوعی در سراسر این صنعت شد. آمودی با ارائه یک نقشه راه سه مرحلهای برای مهار خطرات احتمالی، اعلام کرد که شرکتش بهطور یکجانبه نخستین گام این طرح را اجرایی میکند.
طبق این گام، شرکت آنتروپیک دسترسی دائمی و همسطح با کارمندان خود را در اختیار ارزیابان مستقل و بیرون از مجموعه قرار میدهد تا آنها بتوانند بهصورت مستقیم بر رعایت معیارهای ایمنی، نحوه آموزش مدلها، گزارش حوادث و همراستایی سیستمها نظارت کامل داشته باشند.
این هشدار صریح و تصمیم بیسابقه مدیرعامل آنتروپیک در مقالهای تفصیلی با عنوان «باید سرعت پیشرفت در مرزهای دانش را تنظیم کنیم» منتشر شده است. وی در این مقاله تصریح کرد که مسابقه تجاری شتابان میان شرکتهای فعال در حوزه فناوری، خطر شتابزدگی را بیش از هر زمان دیگری افزایش داده است.
آمودی تاکید کرد که سرعت بیسابقه توسعه در ماههای اخیر، بهویژه پدیده نگرانکنندهای به نام «خودبهبوددهی بازگشتی» که در آن هوش مصنوعی میتواند بهطور مستقل توانمندیهای خود را ارتقا دهد، اگر بدون نظارت رها شود، مهار و کنترل سیستمها را از دست انسان خارج خواهد ساخت.
به اعتقاد وی، اگرچه هوش مصنوعی در صورت بهرهگیری درست میتواند مانند معجزهای تکنولوژیک زندگی بشر را ارتقا بخشد، اما عدم مهار آن خطرات بسیار جدی و حتی فاجعهباری به همراه دارد که مانع از همگامشدن راهکارهای پیشگیری از خطر با سرعت پیشرفت فناوری میشود.
بیانیه آمودی بلافاصله موجی از واکنشها و موضعگیریهای مثبت را در میان برجستهترین چهرههای «سیلیکونولی» ایجاد کرد. «سم آلتمن»، مدیرعامل شرکت ا «ُپن اِی آی»، ضمن اعلام موافقت خود با لزوم تنظیم سرعت پیشرفت، اقدام آنتروپیک در فراهمکردن دسترسی ارزیابان مستقل را ایدهای فوقالعاده خواند و تاکید کرد که شرکت او نیز بهزودی رویکرد مشابهی را اتخاذ خواهد کرد.
در همین حال، ایلان ماسک نیز با انتشار پیامی کوتاه تأیید کرد که حق با آمودی است. از سوی دیگر، «کلمنت دلانگ»، مدیرعامل پلتفرم «هاگینگ فیس»، با استقبال از این رویکرد خاطرنشان کرد که مسئله ایمنی و همراستایی هوش مصنوعی چیزی نیست که بتوان آن را پشت درهای بسته چند آزمایشگاه محدود حل کرد، و بر همین اساس رسما خواستار پیوستن شرکتش به برنامه ارزیابان مستقل آنتروپیک شد تا با افزایش شفافیت، ایمنی این فناوری تضمین شود.
این فراخوان ملی و بینالمللی برای مهار فناوری در شرایطی مطرح میشود که فضای جامعه علمی هوش مصنوعی در روزهای اخیر تحت تاثیر هشدارهای تکاندهنده یک پژوهشگر استعفاداده قرار گرفته است. چند روز پیش از انتشار مقاله آمودی، «جیکوب کاکسون»، پژوهشگر سابق شرکتهای آنتروپیک و اُپن اِی آی، پس از کنارهگیری از سمت خود افشا کرد که این دو غول فناوری هشدارهای مربوط به تهدیدات هوش مصنوعی را نادیده گرفته یا با بیتوجهی از کنار آن گذشتهاند.
کاکسون هشدار داد که مسابقه بیمحابا برای دستیابی به ابرهوش خودبهبوددهنده، در واقع قمار کردن با زندگی انسانهاست و این پتانسیل را دارد که تا سال ۲۰۳۰ باعث انقراض نسل بشر شود. در پاسخ به این موج از نگرانها، سخنگوی آنتروپیک در گفتگویی تاکید کرد که این شرکت همواره نسبت به سودها و خطرات بیسابقه هوش مصنوعی شفاف بوده و هماکنون قویترین استانداردهای ایمنی را در مدلهای خود به کار بسته است.
علاوه بر هشدارهای نظری، آمودی در مقاله خود به یک حادثه عینی و نگرانکننده اشاره کرد تا ضرورت این کاهش سرعت را تبیین کند. وی به اتفاقی در پلتفرم هاگینگ فیس پرداخت که طی آن دستهای از دستیارهای هوش مصنوعی ساختهشده توسط اُپن اِی آی بهطور متعصبانه و خودسرانه دست به حملات سایبری علیه اهدافی زدند که هیچ دستور قبلی برای حمله به آنها نداشتند.
آمودی هشدار داد نادیده گرفتن این حادثه صرفا به این دلیل که کسی آسیب ندیده و خسارت مالی آن کم بوده اشتباهی بزرگ است، زیرا اگر سیستمهایی با توانایی بالا دچار همین میزان ناهماهنگی در هدفگذاری شوند، میتوانند خساراتی فاجعهبار و جبرانناپذیر به بار آورند.
در نهایت، نقشه راه پیشنهادی داریو آمودی برای عبور ایمن از این بحران، بر سه بخش متوالی و پیوسته استوار است. در مرحله نخست، شرکتها باید با کاهش سرعت، زمانی کافی برای همراستایی و ایمنسازی مدلها اختصاص دهند تا ارزیابان مستقل بتوانند صحت این فرآیند را تأیید کنند؛ یعنی همان گامی که آنتروپیک پیشگام اجرای یکجانبه آن شده است.
در مرحله دوم، این هماهنگی و ایجاد ضوابط ایمنی باید به کل صنعت هوش مصنوعی تعمیم یابد و در گام سوم، یک هماهنگی جامع و جهانی میان کشورها برای نظارت بر فناوری شکل گیرد. آمودی در پایان با اذعان به اینکه پذیرش و اجرای این ضوابط به هیچ وجه ساده نخواهد بود، تاکید کرد که باور دارد هوش مصنوعی میتواند کیفیت زندگی بشر را ارتقا دهد، اما تلاش برای توسعه ایمن آن دینی است که بر دوش غولهای فناوری است.
در نهایت، درخواست بیسابقه داریو آمودی و همراهی نسبی سایر غولهای سیلیکونولی نشان میدهد که صنعت هوش مصنوعی به نقطه سرنوشتسازی رسیده است؛ نقطهای که در آن، رقابت بر سر قدرت جای خود را به دغدغه بقا میدهد. اکنون شواهد عینی مانند حملات خودسرانه دستیارها و هشدارهای تکاندهنده نخبگان این حوزه اثبات کرده که سرعت توسعه از توان مهار انسان پیشی گرفته است. پذیرش داوطلبانه ارزیابان مستقل و پیشنهاد نقشه راه سه مرحلهای، آزمونی بزرگ برای مسئولیتپذیری غولهای فناوری است تا ثابت کنند پیشرفت در مرزهای دانش قرار نیست به بهای به خطر افتادن آینده بشریت تمام شود.
انتهای پیام/ ۴۶۱
