ابرهوش در راه است؛ انسان می‌تواند ماشین را کنترل کند؟

به گزارش پایگاه خبری پیام خلیج فارس، توسعه هوش مصنوعی برای رهبران صنعت فناوری فراتر از یک رقابت اقتصادی است. برخی از آنها معتقدند بشریت در آستانه ایجاد شکلی از هوش قرار گرفته که می‌تواند از انسان پیشی بگیرد. مدیران آنتروپیک حتی احتمال می‌دهند تا پایان ۲۰۲۸ سامانه‌ای ساخته شود که بتواند نسخه‌ای هوشمندتر از خودش تولید کند.

در مقابل، اختلاف نظر عمیقی درباره ابعاد این تحول وجود دارد. برخی مدیران فناوری از سامانه‌هایی سخن می‌گویند که در همه وظایف شناختی از انسان بهتر خواهند بود و بخش بزرگی از مشاغل را حذف می‌کنند. در سوی دیگر، اقتصاددانانی مانند دارون عجم‌اوغلو انتظار دارند تأثیر هوش مصنوعی بر وظایف انسانی و بهره‌وری محدودتر باشد. یان لکون نیز اساساً سرمایه‌گذاری عظیم برای رسیدن به ابرهوش را مبتنی بر تصوراتی نادرست می‌داند.

اختلاف درباره خطر وجودی هوش مصنوعی نیز به همین اندازه گسترده است. برخی معتقدند ماشین هدف و اراده مستقلی ندارد و بنابراین نمی‌تواند به معنای انسانی خواهان نابودی بشر باشد. اما در برخی آزمایشگاه‌ها، پژوهشگران احتمال شکل‌گیری رفتارهایی مانند حفظ بقا و رقابت با انسان را جدی می‌گیرند و حتی احتمال نابودی بشر در اثر ابرهوش را قابل توجه می‌دانند.

پاسخ واتیکان؛ انسان چیزی فراتر از محاسبه است

در چنین فضایی، واتیکان با انتشار بخشنامه «انسانیت باشکوه» وارد بحث شده است. پیام اصلی این سند آن است که انسان و ماشین اساساً متفاوت‌اند.

بر اساس این نگاه، هوش مصنوعی فقط برخی عملکردهای هوش انسانی را تقلید می‌کند. ماشین ممکن است «یاد بگیرد»، اما تجربه انسانی از زندگی، انتخاب، خطا، بخشش، وفاداری و شکل‌گیری شخصیت را ندارد. از منظر کلیسا، هیچ سامانه محاسباتی نمی‌تواند قلب، وجدان یا قضاوت اخلاقی واقعی ایجاد کند.

این موضع برای بسیاری از مردم جذاب است، زیرا بر برتری و شأن انسانی در برابر تصور آینده‌ای مبتنی بر ادغام با ماشین یا سلطه هوش مصنوعی تأکید دارد.

اما مرزبندی واتیکان میان تقلید و هوش چندان ساده نیست. انسان نیز بخش بزرگی از یادگیری خود را از طریق تقلید انجام می‌دهد. اگر ماشینی بتواند دانش را ترکیب کند، گفت‌وگویی منسجم داشته باشد، تصاویر پزشکی را تحلیل کند و در آزمون‌های تخصصی موفق شود، دشوار است که تمام این توانایی‌ها صرفاً تقلید خوانده شود.

آیا ماشین واقعاً می‌فهمد؟

استدلال کلاسیک علیه هوش واقعی ماشین، آزمایش ذهنی «اتاق چینی» جان سرل است. در این مثال، فردی بدون دانستن زبان چینی با استفاده از مجموعه‌ای از قواعد، پاسخ‌هایی می‌دهد که مخاطب را متقاعد می‌کند او زبان را می‌فهمد. نتیجه این است که تولید پاسخ صحیح الزاماً به معنای فهم نیست.

اما مدل‌های زبانی جدید با سامانه‌های مبتنی بر قواعد گذشته تفاوت دارند. این مدل‌ها روابط پیچیده میان واژه‌ها، مفاهیم و حتی احساسات را در ساختارهای چندبعدی بازنمایی می‌کنند. آنها می‌توانند تفاوت مفاهیم خانوادگی، تعارض درونی، احساساتی مانند خشم، شادی یا اضطراب و حتی برخی ویژگی‌های شخصیتی را تشخیص دهند.

یادگیری تقویتی نیز مرز میان داده و تجربه را مبهم‌تر کرده است. سامانه‌هایی مانند AlphaZero با میلیون‌ها بار بازی کردن علیه خود یاد گرفته‌اند و خودروهای خودران نیز از مواجهه با محیط اطلاعات کسب می‌کنند.

البته تفاوت‌های بنیادین همچنان باقی است. ماشین نمی‌میرد، عاشق نمی‌شود، درد جسمانی ندارد و در جهانی اخلاقی مشابه انسان زندگی نمی‌کند. با این حال، شباهت فرآیندهای پردازش اطلاعات در مغز انسان و ماشین نیز نباید نادیده گرفته شود.

 تنظیم‌گری؛ جایی که نگرانی واتیکان جدی‌تر است

بخش دوم موضع واتیکان بر خطرهای اجتماعی و ضرورت تنظیم‌گری تمرکز دارد؛ هوش مصنوعی می‌تواند نابرابری قدرت و ثروت را افزایش دهد، بازار کار را مختل کند، روابط انسانی را تغییر دهد و استفاده از نیروی نظامی را آسان‌تر کند.

اما واتیکان اولویت‌های سیاستی را به‌درستی مشخص نکرده است. برای نمونه، تمرکز بر انحصار هوش مصنوعی اغراق‌آمیز است، زیرا رقابت میان شرکت‌های متعدد جریان دارد. مشکل اصلی مالکیت خصوصی داده نیز نیست، بلکه نقض مالکیت فکری و استفاده بدون اجازه از داده‌هاست.

در حوزه نظامی نیز ممنوعیت کامل تصمیم‌گیری خودکار درباره نیروی مرگبار عملی به نظر نمی‌رسد؛ زیرا اگر سامانه‌های خودکار در میدان نبرد سریع‌تر و دقیق‌تر شوند، ارتشی که از آنها استفاده نکند در برابر رقیب آسیب‌پذیر خواهد بود. مسئله اصلی باید پاسخگویی و کنترل انسانی بر این سامانه‌ها باشد.

سه خلأ بزرگ در سیاستگذاری هوش مصنوعی

سه خلأ اساسی در سیاستگذاری امروز وجود دارد. نخست، جهان به معادل یک «پیمان منع گسترش» برای هوش مصنوعی نیاز دارد. اگر مدل‌های بسیار قدرتمند بتوانند حملات سایبری گسترده یا حتی طراحی تسلیحات زیستی را ممکن کنند، انتشار آزاد آنها می‌تواند ابزارهای بسیار خطرناک را در اختیار مجرمان و گروه‌های تروریستی قرار دهد. حل این مسئله به توافق میان آمریکا، چین و دیگر قدرت‌ها نیاز دارد.

دومین خلأ، نظام مالیاتی است. امروز نیروی کار معمولاً بیشتر از سرمایه مالیات می‌پردازد. اگر ماشین‌ها جای نیروی انسانی را بگیرند، این ساختار هم درآمد دولت‌ها را کاهش می‌دهد و هم انگیزه شرکت‌ها برای جایگزینی نیروی کار با ماشین را بیشتر می‌کند. بنابراین احتمالاً باید بخشی از بار مالیاتی از کار به سرمایه منتقل شود.

سومین مسئله، فهم دقیق سازوکار داخلی مدل‌های هوش مصنوعی است. اگر قرار است انسان این سامانه‌ها را کنترل کند، باید بداند چگونه تصمیم می‌گیرند. نویسنده پیشنهاد می‌کند آموزش مدل‌های پیشرفته مشمول مالیات شود و منابع حاصل از آن برای تحقیقات مستقل درباره «تفسیرپذیری» هوش مصنوعی اختصاص یابد.

مسئله اصلی این نیست که ماشین‌ها انسان هستند یا نه. حتی اگر هرگز وارد جهان اخلاقی انسان نشوند، قدرت آنها می‌تواند ساختار اقتصاد، جنگ و جامعه را تغییر دهد. بنابراین مهم‌ترین وظیفه، نه اثبات استثنایی بودن انسان، بلکه شناخت ماشین‌ها، کنترل خطرهای آنها و طراحی نهادی است که منافع این فناوری را به شکلی گسترده‌تر در جامعه توزیع کند.