هوش مصنوعی می‌تواند به پایان بشریت منجر شود؟ چهار پیشنهاد برای جلوگیری از فاجعه

۲. توقف موقت توسعه هوش مصنوعی خودبهبوددهنده

پیشنهاد دوم به مدل‌هایی مربوط است که می‌توانند به‌طور مستقل مدل‌های هوش مصنوعی جدیدی طراحی کنند. این فرایند که «خودبهبوددهی بازگشتی» نام دارد، ممکن است به توسعه سامانه‌هایی منجر شود که توانایی‌هایشان با سرعت افزایش می‌یابد و کنترل آن‌ها دشوارتر می‌شود. نویسندگان خواهان توقف توسعه چنین مدل‌هایی، دست‌کم تا زمان تأیید ایمنی آن‌ها از سوی نهادی مستقل شبیه سازمان غذا و داروی آمریکا، هستند.

۳. مسئولیت حقوقی و بیمه اجباری برای شرکت‌ها

به باور این دو پژوهشگر، شرکت‌های فناوری باید در قبال خسارت‌هایی که محصولاتشان ایجاد می‌کنند، مسئولیت حقوقی داشته باشند و برای پوشش این خسارت‌ها بیمه تهیه کنند. چنین سازوکاری می‌تواند شرکت‌ها را به سمت توسعه فناوری‌های کم‌خطرتر سوق دهد؛ زیرا هرچه خطر محصولات بیشتر باشد، هزینه بیمه آن‌ها نیز می‌تواند افزایش یابد.

۴. حمایت از افشاگران خطرهای ایمنی

چهارمین پیشنهاد، حمایت قانونی از کارکنانی است که درباره خطرهای ایمنی هوش مصنوعی به نهادهای نظارتی یا مؤسسات ارزیابی ایمنی گزارش می‌دهند. نویسندگان معتقدند حمایت از افشاگران نباید فقط به کشف جرائم محدود باشد و کسانی را نیز در بر بگیرد که درباره خطرهای احتمالی فناوری‌های پیشرفته هشدار می‌دهند.

آیا مقررات سخت‌گیرانه به سود چین تمام می‌شود؟

یکی از استدلال‌های مخالفان قانون‌گذاری این است که محدودکردن شرکت‌های آمریکایی می‌تواند به چین فرصت دهد در رقابت هوش مصنوعی پیش بیفتد. اما لسیگ و بنجیو این نگرانی را کافی نمی‌دانند و معتقدند آمریکا می‌تواند هم‌زمان با حفظ جایگاه فناوری خود، تدابیر ایمنی را تقویت کند.

آن‌ها همچنین بر همکاری بین‌المللی تأکید دارند. به باور این دو پژوهشگر، آمریکا باید به‌جای انجام جداگانه تمام تحقیقات ایمنی، با نهادهای فعال در بریتانیا، اتحادیه اروپا، کانادا، ژاپن و کره جنوبی همکاری کند و در شکل‌گیری استانداردهای مشترک نقش محوری داشته باشد.

با این حال، نویسندگان می‌پذیرند که اجرای برخی پیشنهادها، به‌ویژه محدودیت بر توسعه مدل‌های خودبهبوددهنده و ایجاد بازار بیمه هوش مصنوعی، دشوارتر خواهد بود.

مقاله در پایان هشدار می‌دهد که توسعه هوش مصنوعی نباید به رقابتی تبدیل شود که در آن شرکت‌ها و دولت‌ها برای پیشی‌گرفتن از رقبا، خطرهای احتمالی را نادیده بگیرند. از نگاه این دو پژوهشگر، همکاری قانون‌گذاران، دانشمندان و نهادهای مستقل برای شناخت و مهار این خطرها ضرورتی فوری دارد