پس از چندین دهه کار بر روی هوش مصنوعی اکنون به این نتیجه رسیده ام که این فناوری قادر است بشریت را نابود کند. شبیه آن است که موجودات فضایی بر روی سیاره ما فرود آمده اند و ما هنوز کاملا متوجه این موضوع نشده ایم زیرا آنان به خوبی انگلیسی صحبت می کنند. من با فکر کردن به این موضوع ماه هاست که نمی توانم بخوابم.
جفری هینتون
به گزارش کابل۲۴ به نقل از اسپکتیتر، من به تازگی گوگل را ترک کردم. دلایل ام برای ترک گوگل پیچیده بود. من 75 ساله هستم و انجام کارهای فنی برایم دشوارتر می شود.
شما برای این کار باید انواع جزئیات دقیق را به خاطر بسپارید و این کار مشکلی خواهد بود. دلیل دیگر آن است که واقعا می توانم به مردم بگویم که گوگل تاکنون تا چه اندازه مسئولیت پذیر بوده است.
من می خواهم درباره خوبی های گوگل بگویم و اگر آنجا نباشم سخن ام معتبرتر خواهد بود. دلیل دیگر آن است که حتی اگر گوگل باید و نباید برای تان درباره آن چه می خواهید بگویید تعیین نکند خواه ناخواه زمانی که برای یک سازمان کار می‌کنید ناگزیر خودسانسوری امری اجتناب ناپذیر خواهد بود. من نسبت به خودسانسوری آگاهی دارم. بنابراین، نمی‌خواهم خود را مقید آن سازم. من صرفا می‌خواهم قادر باشم آن چه را که به آن باور دارم بیان کنم.
پس از چندین دهه کار بر روی هوش مصنوعی اکنون به این نتیجه رسیده ام که این فناوری قادر است بشریت را نابود کند. شبیه آن است که موجودات فضایی بر روی سیاره ما فرود آمده اند و ما هنوز کاملا متوجه این موضوع نشده ایم زیرا آنان به خوبی انگلیسی صحبت می کنند. من با فکر کردن به این موضوع ماه هاست که نمی توانم بخوابم.
اکنون که در 75 سالگی قرار دارم دو کار در مورد هوش مصنوعی انجام داده ام که از آن تحت عنوان انقلابی قابل توجه یاد شده است:
نخست از طریق کارم بر روی شبکه های عصبی نوعی معماری رایانه ای که شباهت زیادی به ساختار مغز دارد و سپس از طریق به اصطلاح “یادگیری عمیق” که به هوش مصنوعی اجازه می دهد تا الگوها و مفاهیم را اصلاح و استخراج کند.
من در سال 1986 میلادی اولین چت بات را طراحی کردم که در آن زمان “مدل پیش بینی کننده زبان” نام گرفت. چند دهه پس از آن در سال 2012 میلادی یک هوش مصنوعی یادگیری عمیق که پایه و اساس فکری چت جی پی تی (Chat GPT) بود را توسعه دادم.
من در خانواده ای با اعضای ریاضیدان و دانشمند متولد شدم. “جورج بول” پدربزرگ ام ریاضیدانی بود که جبر بولی را فرموله کرد و پایه های کل عصب دیجیتال را پی ریزی کرده بود.
من پیش تر درباره هوش مصنوعی تردید داشتم البته صرفا در مورد کاربرد آن و نه اصول اولیه. من از توسعه تسلیحات خودمختار و بدون نیاز به کنترل انسانی نفرت داشتم و شغل خود را در ایالات متحده به دلیل کمک مالی وزارت امور خارجه به پروژه توسعه هوش مصنوعی ترک کردم.
من هم چنین درباره استفاده “بازیگران بد” هم چون “ولادیمیر پوتین” از قابلیت های هوش مصنوعی از جمله برای انتشار اخبار جعلی هراس داشته ام. من پیش از این تهدید وجودی هوش مصنوعی برای نابودی بشریت را نادیده می گرفتم. با این وجود، اکنون فکر می کنم هوش مصنوعی شانس قابل توجهی برای انجام این کار در اختیار دارد.
در طول زمان تغییراتی رخ داد. گوگل یک مدل زبان بزرگ به نام پالم داشت که می توانست دلیل خنده دار بودن یک جوک را توضیح دهد. این موضوع من را بهت زده کرده بود. من به این نتیجه رسیدم که این مدل زبانی ممکن است شکل بسیار بهتری از هوش باشد. در آن زمان با خود گفتم اگر این طور باشد می تواند جایگزین ما انسان ها شود.
برخی از من می پرسند تا چه اندازه احتمال دارد که میلیاردها نفر توسط هوش مصنوعی نابود شوند؟ من در پاسخ می گویم بخش عمده ای از این قلمرو ناشناخته است.
من نمی خواهم عدد و رقمی ارائه دهم. اگر دو گزینه در اختیار داشته باشیم یکی آن که هوش مصنوعی بشریت را نابود می کند و دیگری آن که نابود نمی کند و درک بسیار کمی از آن چه در حال وقوع است نیز داشته باشیم می توانم بگویم این احتمال 50 درصد است.
در مورد هوش مصنوعی نقطه عطف بعدی هوش عمومی مصنوعی (AGI) خواهد بود: هوش مصنوعی که دست کم به اندازه یک متفکر انسانی شایستگی دارد.
این اولین بار در تاریخ بشر است که ما در آستانه توسعه چیزی هوشمندتر از خود قرار داریم. بسیاری از افراد فکر می کنند که هوش مصنوعی به زودی از ما هوشمندتر می شود نه در صد سال و 50 سال بلکه شاید ظرف مدت بیست سال و یا شاید پنج سال.
ممکن است زمانی که هوش دیجیتالی جایگزین هوش بیولوژیکی شود به مرحله جدیدی از تکامل برسیم. در آن زمان ما ممکن است تاریخ باشیم.
تصور کنید که یک چیز باهوش تر توسط یک چیز با هوش کم تر کنترل می شود. کووید وجود دارد. آن ویروس چندان باهوش نیست و توانایی تصمیم گیری در مورد این که چه اتفاقی باید رخ دهد را ندارد بلکه صرفا ما را درگیر می کند اما مسئول نیست.
با توجه به اینکه غول های فناوری از جمله مایکروسافت و گوگل در حال رقابت شدیدی در عرصه هوش مصنوعی هستند می توان گفت که در حال حاضر غول از چراغ جادو خارج شده است.
در عرصه تحقیقات پیرامون هوش مصنوعی من از گوگل دفاع می کنم. من شرکت خود را در سال 2012 میلادی به آن غول فناوری به قیمت 44 میلیون دالر فروختم و آزمایشگاه هوش مصنوعی گوگل را در تورنتو افتتاح کردم. از دید من مایکروسافت به دلیل ایجاد جنگ در بازار مقصر اصلی بوده است.
گوگل سال ها در زمینه هوش مصنوعی پیشتاز بود. گوگل با انتشار ندادن چت بات ها بسیار مسئولانه رفتار کرد. گوگل از مدت ها پیش چت بات را در اختیار داشت.
با این وجود، شما تنها زمانی می توانید این کار را انجام دهید که رهبر باشید. به محض آن که Open AI برای تامین هزینه محاسبات مورد نیاز خود چت جی پی تی را به مایکروسافت تحویل داد گوگل مجبور شد وارد عرصه شود. من اخیرا با یکی از دانشجویان سابق ام صحبت می کردم.
او بسیار نگران است اما فکر نمی کند که مشکلات با توقف تحقیقات Open AI حل شوند. علاوه بر شرکت های درون امریکا من نسبت به رقابت ایالات متحده و چین بر سر هوش مصنوعی نگران هستم.
هیچ شانسی برای وقفه در این عرصه وجود ندارد. حتی اگر غرب در این زمینه با تعلیق تحقیقات و توسعه هوش مصنوعی موافقت کند چین چنین کاری را انجام نمی دهد در نتیجه، مسابقه ای در جریان است.
علیرغم نگرانی ها من از کارم واقعا پشیمان نیستم. اگر من این کار را انجام نمی دادم شخص دیگری انجام می داد. در زمانی که من بر روی هوش مصنوعی کار می کردم تصمیم عاقلانه ای بود. با این وجود، ممکن است در کلیت امر تصمیم برای کار بر روی آن تاسف بار بوده باشد.
یکی از نگرانی های من این ترس است که مغز انسان به اندازه هوش دیجیتالی برانگیزنده احساسات نباشد.
همواره تصور می شد که مغز بهترین چیزی است که وجود دارد و چیزهایی که ما تولید می کردیم تلاش‌های بیرحمانه ای برای تقلید از مغز بودند.
برای 49 سال از 50 سالی که روی آن کار می کردم این همان چیزی بود که من به آن باور داشتم: مغزها بهتر بودند.
مغز انسان با توان بسیار کم کار می‌کند: حدود 30 وات و ما حدود 100 تریلیون اتصال داریم. تلاش برای یادگیری دانش از کسی یک کار آهسته و دردناک است.
در مقابل، هوش دیجیتال به انرژی بسیار بیش تری نیاز دارد اما در کل شبکه ها به اشتراک گذاشته می‌شود. اگر ما آن را به طور دقیق بسازیم آن گاه می‌توانید هزاران عامل داشته باشید.
زمانی که یک عامل چیزی را یاد می گیرد بقیه فورا آن را می دانند و می توانند داده های بسیار بیش تری را در مقایسه با مغز ما پردازش کنند و انواع چیزهایی را ببینند که ما هرگز نخواهیم دید.
اگر بخواهم به زبان ساده بگویم فرض کنید برای ابتلا به یک بیماری نادر به پزشک مراجعه کرده اید اگر آن پزشک پش از آن تنها یک مورد از ابتلا به این بیماری را در فردی دیگر دیده باشد شما خوش شانس بوده اید.
حال تصور کنید نزد پزشکی بروید که 100 میلیون بیمار از جمله ده ها نفر از افراد مبتلا به آن بیماری نادر را معاینه کرده است.
بنابراین، استفاده از هوش مصنوعی در پزشکی و حوزه های دیگر دستاوردهای کوتاه مدت شگفت انگیزی را به دنبال خواهد داشت. هر جا که انسان ها از هوش استفاده کنند کمک کننده خواهد بود.
شاید بپرسید زمانی که از احتمال آسیب رسانی هوش دیجیتال به بشریت می‌گویم منظورم چیست؟ تصور کنید که این هوش مصنوعی قدرت انجام اعمال در جهان را دارد و صرفا شبیه چت بات به پرسش ها پاسخ نمی دهد.
حال یک ربات خانگی را تصور کنید که بتوانید به آن بگویید چه کاری را انجام دهد و قادر به انجام چه کارهایی باشد. آن ربات خانگی بسیار باهوش تر از شما خواهد بود. آیا مطمئن هستید که آن چه را که به آن گفته اید انجام می دهد؟ ما جواب را نمی دانیم به نوعی شبیه شاگرد جادوگر است.
یکی از نگرانی های اصلی من این است که با پیشرفت هوش مصنوعی آن فناوری اهداف فرعی را توسعه دهد تا دستیابی به هدف اصلی خود را کارآمدتر کار کند اما این اهداف فرعی لزوما با اهداف انسانی همسو نباشند و ما را در برابر دستکاری هوش مصنوعی آسیب پذیر سازند.
اگر به کودکی که روی چوکی مخصوص غذا خوردن نشسته نگاه کنید مادرش یک قاشق به او می‌دهد تا خود غذا بخورد. اولین کاری که کودک انجام می‌دهد چیست؟
قاشق را روی زمین می اندازد و مادرش آن را بر می دارد. او به مادرش نگاه کرده و دوباره قاشق را روی زمین می‌اندازد. کودک از این طریق در تلاش است تا کنترل مادرش را در دست بگیرد.
دلیل بسیار خوبی برای آن کار وجود دارد: هر چه کنترل بیشتری داشته باشید دستیابی به سایر اهداف تان آسان تر است. به همین دلیل است که به طور کلی داشتن قدرت خوب است زیرا به شما امکان می دهد به چیزهای دیگری دست یابید.
انسان ها به ناچار به سیستم های مبتنی بر هوش مصنوعی توانایی ایجاد اهداف فرعی را می دهند زیرا این گونه می توان آن ها را کارآمد ساخت. یکی از اهداف فرعی که آنان فورا به دست خواهند آورد کسب قدرت بیش تر است چرا که با کسب قدرت بیش تر انجام سایر کارها آسان تر خواهد شد.
حتی اگر هوش مصنوعی ما را دستکاری کند تا اهداف فرعی داشته باشیم تا کارآمدتر باشیم آیا آن ها لزوما قدرت بیش تری خواهند خواست؟ اینجا جایی است که پای تکامل به میان می آید. یک نوع اصل اساسی تکامل این است که اگر دو گونه از یک گونه را در نظر بگیرید گونه ای که فرزندان زنده تری تولید می‌کند برنده می‌شود و قرار است در نهایت جایگزین دیگری خواهد شد.
این موضوع را در مورد ویروس هایی مانند اومیکرون می‌بینیم که بسیار سریع عمل می کند ویروسی که میزان آلودگی بالاتری دارد در نهایت برنده خواهد شد.
این موضوع برای تمام گونه ها صدق می کند. تکامل این گونه است. موجوداتی که می توانند فرزندان بادوام تری تولید کنند برنده می‌شوند.
حالا تصور کنید چندین هوش عمومی مصنوعی مختلف وجود دارد. کدام یک قرار است برنده شود؟ آن هوشی که نسخه های بیش تری از خود تولید می‌کند.
بنابراین، آن چه مرا نگران می سازد این است که اگر هوش عمومی مصنوعی این ایده را بیابد که باید نسخه های زیادی از خود تولید کند آن دسته از هوش های عمومی مصنوعی که در انجام این کار بهتر باشند بقیه را از بین می برند.
حتی بدتر از آن برای ما این است که این ماشین ها نمی توانند بمیرند. اگر یکی از آن رایانه های دیجیتال بمیرد اهمیتی ندارد چرا که شما دانش را از دست نداده اید. هم چنین، اگر صرفا دانش را در یک حافظه ضبط کنید به محض آن که رایانه دیجیتال دیگری داشته باشید می‌توانید آن را دانلود کنید و در واقع بار دیگر زنده خواهد بود. با این وجود، آیا ما با اطمینان می‌توانیم صرفا یک هوش مصنوعی مبهم را از برق بکشیم و آن را از برق محروم کنیم و بگوییم این کار مانعی بر سر راه فعالیت آن خواهد بود؟ شاید بتوانم برای پاسخ به این پرسش جمله بیان شده توسط شخصیت “هال” در فیلم “2001: اُدیسه فضایی” را به شما بگویم:” متاسفم، دیو. من نمی توانم به این پرسش پاسخ دهم”.
منبع: اسپکتیتر
