وقتی علم تبدیل به سیاست می‏ شود جهل علمی؛ دستورالعمل برای فاجعه سیاسی!

۵۵آنلاین :

یووال نوح هراری*، ترجمه کیوان فیض ‏اللهی؛ هوش مصنوعی احتمالا مهم‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ترین عامل تغییر در قرن ۲۱ خواهد بود. اقتصاد، فرهنگ، سیاست و حتا جسم و ذهن ما را طوری متحول خواهد کرد که بیشتر مردم حتا نمی‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌توانند تصورش را بکنند. اگر سناریویی درباره دنیا در سال ۲۰۵۰ شنیدید و به نظرتان علمی‌تخیلی آمد، احتمالا غلط است؛ اما اگر سناریویی از دنیای ۲۰۵۰ شنیدید که شبیه به داستان‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های علمی‌تخیلی نبود، حتما غلط است.

فناوری هرگز جبرگرایانه نبوده است: با استفاده از آن می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌توان انواع بسیار متفاوتی از جوامع را به وجود آورد. در قرن بیستم، از قطارها، الکتریسیته و رادیو هم برای شکل دادن به دیکتاتوری‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های نازی و کمونیستی و هم برای رشد دموکراسی‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های لیبرال و بازارهای آزاد استفاده شد. در قرن ۲۱، هوش مصنوعی طیف به‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌مراتب گسترده‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌تری از امکان‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ها را خواهد گشود. این تصمیم که کدام‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌یک از آنها محقق شود احتمالا مهم‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ترین انتخاب بشر در دهه‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های پیش‌رو است.

این انتخاب از جنس مهندسی یا علم نیست. موضوع سیاسی است و بنابراین چیزی نیست که بتوانیم آن را به «سیلیکون‌ولی» واگذار کنیم و باید در میان مهم‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ترین موارد دستور کار سیاسی‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌مان باشد. تا اینجای کار، متاسفانه هوش مصنوعی به‌ندرت در رادار سیاسی ما قرار داشته است. هیچ‌وقت در هیچ انتخاباتی موضوع عمده و برجسته‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ای نبوده است و ظاهرا بیشتر حزب‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ها، سیاستمداران و رای‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌دهندگان هیچ نظری درباره آن ندارند. این وضعیت عمدتا ناشی از این است که بیشتر مردم نسبت به یادگیری ماشین، شبکه‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های عصبی و هوش مصنوعی درک بسیار مبهم و محدودی دارند. در واقع منشأ بیشتر ایده‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های رایج در این زمینه، فیلم‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های علمی‌تخیلی مانند «ترمیناتور» و «ماتریکس» است. بدون یک درک بهتر از این حوزه، نمی‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌توانیم دوراهی‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های پیش‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌روی‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌مان را درک کنیم: وقتی علم تبدیل به سیاست می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌شود، جهل علمی بهترین دستورالعمل برای فاجعه سیاسی خواهد بود.

ترمیناتور را فراموش کنید مکس تگمارک (M.Tegmark)، فیزیک‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌دان و کیهان‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌شناس سوئدی-آمریکایی، در کتاب «حیات ۳,۰» (Life ۳.۰) تلاش می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌کند همین وضعیت را سامان دهد. این کتاب که به سبک جذاب و عامه‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌فهمی نوشته شده و مخاطب عام را هدف قرار داده است، در واقع ترسیمی سیاسی و فلسفی از بیم‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ها و امیدهای انقلاب هوش مصنوعی را ارائه می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌کند. تگمارک به جای پافشاری بر دیدگاه یا پیش‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌بینی خاصی، تلاش می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌کند تا حد امکان گوناگونی گسترده‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ای از سناریوهای مرتبط با اثر هوش مصنوعی بر بازار کار، جنگ و نظام‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های سیاسی را مورد نقد و بررسی قرار دهد. حیات ۳.۰ به‌خوبی از پس روشن کردن اصطلاحات و بحث‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های کلیدی و برطرف کردن افسانه‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های رایج در این زمینه برآمده است.

برای مثال با اینکه آثار علمی‌تخیلی باعث شده‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌اند بسیاری از مردم نگران روبات‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های شیطان‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌صفت باشند، تگمارک به‌درستی بر این نکته تاکید می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌کند که مشکل واقعی در این است که پیامدهای توسعه هوش مصنوعی بسیار کارآمد را پیش‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌بینی نکنیم. هوش مصنوعی برای اینکه ویرانی به بار آورد، نیازی ندارد که شیطانی باشد یا در قامت یک چارچوب روباتیک تجسم یابد. یا آنطور که تگمارک می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌گوید «خطر حقیقی هوش مصنوعی نه در بدذاتی که در کارآمدی آن است.

یک هوش مصنوعی ابرهوشمند در اجرای اهدافش بی‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌نهایت خوب است و اگر آن اهداف هم‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌راستا با اهداف ما نباشد، به دردسر می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌افتیم.» در مورد وسواس به روبات‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ها، باید به خودمان یادآوری کنیم که سیستم‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های نظارتی -سیستمی که پیوسته مردم را رهگیری و با استفاده از الگوریتم‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های «داده‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های کلان» (Big Data) رفتار و شخصیت‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌شان را تحلیل می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌کند - بدون نیاز به ماشین‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌هایی به سبک ترمیناتور می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌تواند حریم خصوصی، فردیت و نهادهای دموکراتیک‌مان را نابود کند.

مهندسان حوصله ندارند طبیعی است که ترسیم تگمارک از مساله هوش مصنوعی نیز کامل نیست و به طور خاص به تلاقی هوش مصنوعی با زیست‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌فناوری توجه کافی نکرده است. آنچه قرن ۲۱ را شکل خواهد داد صرفا فناوری اطلاعات نیست، بلکه ادغام فناوری اطلاعات با فناوری زیستی است. در واقع هوش مصنوعی دقیقا از این حیث بسیار مهم و حیاتی خواهد بود که توان محاسباتی لازم برای هک کردن موجود انسانی را در اختیار ما قرار می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌دهد. مدت‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ها پیش از ظهور کامپیوترهای ابرهوشمند، جامعه ما توسط هوش مصنوعی ناپخته و احمقی که با این حال برای هک کردن انسان‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ها، پیش‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌بینی احساسات‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌شان، انتخاب‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌کردن به جای آنها و دست‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌کاری علایق‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌شان به‌حد کافی خوب است، به کلی متحول خواهد شد.

زمانی که الگوریتمی شما را بهتر از خودتان بشناسد، نهادهای دموکراتیک مانند انتخابات و بازارهای آزاد از کار می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌افتند و قدرت از انسان‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ها به الگوریتم‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ها منتقل می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌شود. به‌جای وحشت از روبات‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های قاتلی که می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌خواهند ما را از صفحه روزگار محو کنند، باید نگران گله‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های بی‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌شمار «بات‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌هایی» باشیم که حتا از مادرمان بهتر می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌دانند چطور دکمه احساسات‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ ما را فشار دهند و از این توانایی اسرارآمیز استفاده می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌کنند تا چیزی را به ما بفروشند. این می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌تواند آخرالزمان خرید باشد.

با این حال مشکل واقعی کتاب تگمارک این است که خیلی زود درگیر محدوده بحث‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های سیاسی امروز می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌شود. انقلاب هوش مصنوعی بسیاری از مسائل فلسفی را به پرسش‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های سیاسی‌عملی تبدیل خواهد کرد و ما را وادار می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌کند درگیر چیزی شویم که نیک باسترم (N.Bostrom)، فیلسوف دانشگاه آکسفورد، آن را «فلسفه با ضرب‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌الاجل» می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌نامد. فیلسوفان برای هزاران سال درباره آگاهی و اراده آزاد بحث و مجادله کرده‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌اند، بی‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌آنکه به اجماعی برسند. این در عصر افلاطون یا دکارت اهمیت چندانی نداشت چراکه در آن روزها تنها جایی که می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌توانستید در آن یک ابرهوش مصنوعی بسازید تخیلات‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌تان بود.

اما در قرن ۲۱ این جدل‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ها دارد از جمع استادان فلسفه به دانشکده‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های مهندسی و علوم کامپیوتر جابه‌جا می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌شود. هرچقدر که فیلسوفان آدم‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های شکیبایی هستند، همان‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌قدر مهندسان ناشکیبا هستند و سرمایه‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌گذاران آینده‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌نگر از آن هم بی‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌قرارتر. وقتی مهندسان شرکت تسلا به فکر طراحی یک اتومبیل خودران می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌افتند، نمی‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌توانند صبر کنند تا فیلسوف‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ها درباره اخلاق این پدیده به بحث بنشینند.

فراتر از مقیاس ما به همین علت است که تگمارک از بحث‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های آشنایی مانند بازار کار، حریم خصوصی و جنگ‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌افزارهای کشتار جمعی به سرعت عبور می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌کند و وارد قلمروهایی می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌شود که پیش از این بیشتر منتسب به فلسفه، الهیات و اسطوره‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌شناسی بوده‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌اند تا سیاست. خلق هوش مصنوعی ابرهوشمند رویدادی جهانی یا حتا کیهانی است نه یک رویداد ملی. حیات در زمین طی ۴ میلیارد سال بر اساس قوانین انتخاب طبیعی و شیمی آلی تکامل پیدا کرد. اکنون علم در آستانه ورود به عصر حیات غیرآلی است که به‌واسطه طراحی هوشمند تکامل می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌یابد و ممکن است چنین حیاتی در نهایت زمین را ترک کند تا در سرتاسر پهنه کهکشان منتشر شود. انتخاب‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌هایی که امروز می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌کنیم، می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌تواند برای هزاره‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های بیشمار و در دوردست‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های فراسوی سیاره ما اثر بسیار عمیقی بر خط سیر حیات بگذارد.

هرچند دیدگاه تگمارک در کشاندن ماجرا به این سطح کیهانی احتمالا درست است، اما می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ترسم بسیاری از خواننده‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌هایش، اگر نه بیشترشان، با او همراهی نکنند. نظام‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های سیاسی ما، و در واقع ذهن‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های فردی ما، برای اندیشیدن در چنین مقیاسی ساخته نشده‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌اند. سازوکارهای سیاسی کنونی که به‌ندرت می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌توانند از پس تصمیم‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌گیری در مقیاس چند دهه برآیند، چطور می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌توانند در مقیاس هزاره‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ها تصمیم بگیرند؟ وقتی مجبورید با دونالد ترامپ و برگزیت سروکله بزنید، چه کسی وقتش را دارد که به تسلط هوش مصنوعی بر این سیاره فکر کند؟

در مورد انقلاب هوش مصنوعی نیز، مانند آنچه اغلب پیش از این در تاریخ بشر شاهد بوده‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ایم، احتمالا عمیق‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ترین تصمیم‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ها را بر مبنای ملاحظات کوته‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌بینانه کوتاه‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌مدت خواهیم گرفت. آینده حیات در زمین به دست سیاستمداران زودگذری که درباره تهدید‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های تروریستی هراس‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌افکنی می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌کنند، سهام‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌دارانی که نگران درآمدهای سه‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ماهه هستند و کارشناسان بازاری که تمام سعی‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌شان به حداکثر رساندن «تجربه مشتری» است، تعیین خواهد شد. The Guardian, Sep. ۲۲, ۲۰۱۷

* یووال نوح هراری (Yuval Noah Harari) استاد دانشکده تاریخ دانشگاه عبری اورشلیم است. ترجمه فارسی دو کتاب پرفروش او - «انسان خردمند» و «انسان خداگونه» - توسط نشر نو منتشر شده است.

سرنوشت کیهان در دست ما وقتی خبرنگار نشریه Spectrum از مکس تگمارک پرسید چرا مردم باید کتاب جدید او را بخوانند و درگیر بحث هوش مصنوعی شوند، با پاسخ بسیار سنگینی مواجه شد: «فروش کتاب را فراموش کنید، موضوع سرنوشت کیهانی است. فرجام جهان احتمالا به‌واسطه تصمیم‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌هایی رقم خواهد خورد که در طول حیات‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌مان، اینجا در سیاره کوچک‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌مان می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌گیریم.»

تگمارک در این کتاب که عنوان کامل آن «حیات ۳,۰: انسان بودن در عصر هوش مصنوعی» است، ابتدا توضیح می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌دهد که چگونه پژوهش‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های کنونی در حوزه هوش مصنوعی احتمالا منجر به خلق هوش مصنوعی ابرهوشمند در آینده خواهد شد. سپس فراتر می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌رود و سناریوهای احتمالی برای آینده‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ای را بررسی می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌کند که پس از خلق هوش مصنوعی ابرهوشمند انتظارمان را می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌کشد. البته برخلاف انتظار، همه‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌اش بدبختی و بیچارگی نیست. اما در بدترین سناریوی مدنظر او، بشریت به‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌کلی منقرض می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌شود و جایش را به هوش مصنوعی می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌دهد که هوش فراوانی دارد اما فاقد آگاهی است. به‌باور تگمارک تمام شگفتی‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های کیهان بدون ذهن آگاهی که آنها را ستایش کند چیزی نخواهد بود جز «اتلاف فضا».

تگمارک استاد فیزیک موسسه فناوری ماساچوست (MIT) است و در سال‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های اخیر یکی از مدافعان برجسته پژوهش در زمینه امنیت هوش مصنوعی بوده است. کتاب اندیشمندانه او بر پایه کارهای نیک باستروم، فیلسوف دانشگاه آکسفورد، بنا شده است که کتاب «ابرهوش» (Supperintelligence) او بسیاری از جمله ایلان ماسک، بنیان‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌گذار خودروسازی تسلا و کارآفرین حوزه فناوری، را تا حد مرگ ترسانده است. باستروم در کتابش با جزئیاتی موشکافانه شرح می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌دهد که چگونه یک هوش مصنوعی ابرهوشمند می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌تواند بشریت را به نابودی بکشاند. آنچه در پی می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌آید، ترجمه بخشی از گفت‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌وگوی تگمارک با نشریه Spectrum است:

در کتاب‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌تان ۱۲ آینده ممکن را شرح می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌دهید که می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌توانند نتیجه کوشش انسان برای ساخت هوش مصنوعی ابرهوشمند باشند، سناریوهایی که در طیفی از آرمان‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌شهر تا رویدادهای انقراض قرار می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌گیرند. شما از مردم خواستید به‌صورت آنلاین رای بدهند که کدام سناریو را ترجیح می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌دهند. با فرض اینکه تا خلق هوش مصنوعی ابرهوشمند راه بسیار درازی در پیش داریم، چرا فکر می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌کنید مهم است که مردم اکنون به این سناریوها بیندیشند؟

به نکته بسیار جالبی در مورد این سناریوها پی بردم: فارغ از اینکه چقدر تلاش کردم تمام این سناریوها تا حد ممکن مثبت به نظر برسد، هیچ سناریویی نبود که در موردش نگرانی نداشته باشم. اساسا تصور بهشت بسیار دشوارتر از تصور جهنم است و این مساله را در توصیف‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های دینی هم می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌توانید مشاهده کنید. اما وقتی پیامدهای مثبتی را تصور می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌کنیم که حاصل همکاری ماست، مردم علایق کوچک‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌شان را کنار می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌گذارند و روی این هدف بزرگ تمرکز می‌کنند که رویای همه آنهاست. اگر صرفا روی خطرها تمرکز کنید باعث چندپارگی جامعه خواهد شد که همین حالا هم کلی چندپارگی داریم. هالیوود به این ماجرا کمکی نمی‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌کند.

تصاویری که در فیلم‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ها از آینده ارائه می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌شود، عمدتا ویران‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌شهری است. وقتی از دوستانم پرسیدم دوست دارند جامعه‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ در ۳۰ یا ۵۰ سال دیگر چگونه باشد، عموما خیلی در موردش فکر نکرده بودند و صرفا فهرست بلندبالایی از چیزهایی را که می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌خواهند از آنها اجتناب کنند به من دادند. به این فکر کنید که چند مهندس از خواندن توصیف‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های ژول ورن درباره سفر میان‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌سیاره‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ای و سیستم‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌های ارتباطات راه دور به وجد آمده‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌اند. به همین علت است که می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌خواستم کتاب امیدوارکننده‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌تری بنویسم. به نظرم خیلی مهم است که مردم فکر کنند چه نوع آینده‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ای را می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌خواهند. اگر به آن فکر نکنند شانس چندانی برای رسیدن به آن نخواهند داشت.

کدام‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌یک از این ۱۲ سناریو به نظرتان معقول‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌تر است؟ واقعا خوشم نمی‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌آید که مردم می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌پرسند در آینده چه خواهد شد، انگار که قرار است آینده به ما نازل شود. ترجیح می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌دهم بپرسند برای بهتر کردن آینده چه می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌توانیم بکنیم؟ تا زمانی که در مسابقه میان قدرت فزاینده فناوری و خردی که با آن می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌توانیم فناوری را مدیریت کنیم برنده باشیم، می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌توانیم با فناوری آینده فوق‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌العاده‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ای بسازیم. درحال‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌حاضر هنوز داریم از همان استراتژی قدیمی و تاریخ‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌گذشته «درس‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌گرفتن از اشتباه‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ها» استفاده می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌کنیم. آتش را اختراع کردیم، زمان بسیار درازی تلف شد تا کپسول آتش‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌نشانی را اختراع کنیم. اتومبیل را اختراع کردیم، زمان بسیار درازی تلف شد تا کمربند ایمنی را اختراع کنیم. اما در مورد چیزهایی مانند جنگ‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌افزارهای هسته‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ای و هوش مصنوعی ابرهوشمند، هیچ‌کس دلش نمی‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌خواهد از اشتباه‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ها درس بگیرد. از ابتدا باید کار را درست انجام دهیم چون ممکن است تنها فرصت‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌مان باشد.

این یعنی کار جدی در زمینه امنیت هوش مصنوعی که درحال‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌حاضر نسبت به آن بسیار سربه‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌هوا و بی‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ملاحظه‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌ایم. بخش عمده میلیاردها دلاری که صرف پژوهش در زمینه هوش مصنوعی می‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌شود، به قدرتمند‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌تر کردن این فناوری اختصاص دارد. من مدافع کند کردن آهنگ پژوهش و توسعه این فناوری نیستم، حرفم این است که به پژوهش درباره امنیت هوش مصنوعی شتاب بیشتری بدهیم. Spectrum, Sep. ۲۰۱۷