با رشد و گسترش هوش‌های مصنوعی و علی الخصوص پیشرفت روزافزون و چشمگیر ChatGpt، نزاع نظری میان تکنولوژیست‌ها و اومانیست‌ها بالا گرفته است. از یک سو اومانیست‌ها به پر رمز و رازی هوش انسانی می‌بالند و ادعا می‌کنند که هیچ ابزار مصنوعی و هیچ ماشینی نمی‌تواند با آن رقابت کند و جایش را بگیرد. در مقابل برخی از تکنولوژیست‌ها معتقدند که نه تنها به زودی هوش مصنوعی می‌تواند قابلیت‌های هوش انسانی را -از جمله خلاقیت در تولید معنا- به دست آورد، بلکه اساساً از هوش انسانی عبور می‌کند و برای آن غیرقابل فهم می‌شود.
دیوید بروکس که خود از دیدگاه «محدودیت‌گرا» درباره هوش مصنوعی طرفداری می‌کند و تحت تاثیر داگلاس هافستادر اعتقاد دارد که هوش مصنوعی و انواع ماشین‌های مصنوعی توانایی‌ای بیشتر از سرهم کردن عبارات انسانی ندارند، توضیح می‌دهد که چگونه با پیشرفت روزافزون هوش مصنوعی اوضاع تا حدی تغییر می‌کند که حتی هافستادر نیز از خطر گسترش و رشد سریع‌السیر آن خواب از سرش پریده است و شبانه روز به این بحران فکر می‌کند که چه بر سر بشریت خواهد آمد؟
اخیراً به صورت تصادفی یک یادداشت از داگلاس هافستادر را پیدا کردم و این موضوع من را بسیار خوشحال کرد. هافستادر یک دانشمند برجسته علوم شناختی و نویسنده‌ی کتاب‌هایی همچون «گودل، اشر، باخ» و «من یک حلقه عجیب هستم» می‌باشد. [۱] نام جستاری که من را بسیار خرسند کرد «سطحی بودن مترجم گوگل» بود که در ژانویه ۲۰۱۸ در مجله آتلانتیک منتشر شده بود.
در آن زمان هافستادر استلال کرده بود که ابزارهای ترجمه هوش مصنوعی ممکن است برای برخی از کارهای پیش‌پا‌افتاده بسیار مناسب باشند، اما آن‌ها به این حد نرسیده بودند که جایگزین توانایی‌های خلاقانه و ظریف یک مترجم انسانی شوند. او نوشت: «تنها چیزی که در این ابزارها مشاهده می‌شود، پردازش بسیار سریع پاره‌های متن است، نه تفکر، تصور، به‌یاد‌آوردن و فهمیدن. این ابزارها حتی نمی‌دانند که کلمات اشیاء را بازنمایی می‌کنند.»
آن جستار من را بسیار خوشحال کرد چرا که یک دانشمند که من او را بسیار تحسین می‌کردم پیدا شد که از دیدگاهی حمایت می‌کرد که من خودم داشتم به آن می‌رسیدم. در چند ماه گذشته، من به یک «محدودیت‌گرا» در زمینه هوش مصنوعی تبدیل شده‌ام. این امر به این معناست که من معتقدم که در حالی که هوش مصنوعی ابزار شگفت‌انگیزی برای گفتار، آموزش خصوصی به کودکان و جمع‌بندی جلسات خواهد بود، رقیب هوش انسانی نیست. هوش مصنوعی دارای فهم، خودآگاهی، مفاهیم، احساسات، امیال، یک بدن یا زندگی حیوانی نیست. در زمینه تفکر علی-معلولی عملکرد بدی دارد. هوش مصنوعی دانش غیرکلامی و ضمنی‌ای را که انسان‌ها به صورت پیشفرض دارند، ندارد. دارای درک و احساس نیست. بسیاری از کارها را بسیار سریع‌تر از ما انجام می‌دهد، اما عمق ذهن انسان را ندارد.
من این امر را به فال نیک می‌گیرم. اگر هوش مصنوعی از چنین جهاتی محدودیت دارد، بنابراین انقلاب هوش مصنوعی همچون سایر انقلاب‌های اطلاعاتی دیگری که انسان‌ها ایجاد کرده‌اند، از آب درخواهد آمد. این تکنولوژی در جهات بسیار خوب و در جهات بسیار وحشتناکی استفاده خواهد شد، اما جایگزین ما نمی‌شود، باعث اختلال اجتماعی عظیمی که تبلیغات‌چی‌ها درباره آن هشدار می‌دهند نمی‌شود و روزی برای تسلط بر جهان از خواب بیدار نخواهد شد.
یادداشت هافستادر در سال ۲۰۱۸ نشان داد که او نیز یک «محدودیت‌گرا» است و این جستار احساس من را درباره این که این دیدگاه درست است، تقویت کرد.
به همین دلیل، در این ماه از مشاهده این تیتر در یکی از خبرنامه‌های هوش مصنوعی که در آن عضویت دارم جا خوردم: «داگلاس هافستادر نظرش را درباره خطر یادگیری عمیق و هوش مصنوعی تغییر داد.» من آن لینک را باز کردم و به یک پادکست رسیدم و شنیدم که هافستادر می‌گوید: «این تجربه دردناکی است وقتی که برخی از اساسی‌ترین باورهای شما درباره جهان شروع به فروپاشی می‌کنند؛ خصوصاً هنگامی که فکر میکنی انسان‌ها به زودی موقعیتشان را از دست خواهند داد.»
ظاهراً در پنج سالی که از سال ۲۰۱۸ می‌گذرد، چت‌جی‌پی‌تی و امثالش اندیشه هافستادر را به شدت تغییر داده‌اند. او ادامه داد: «هوش مصنوعی بشریت را به پدیده‌ای بسیار کوچک در مقایسه با چیز دیگری تبدیل می‌کند که بسیار باهوش‌تر است و برای ما غیر قابل درک خواهد شد؛ آنقدر غیر قابل درک که ما برای سوسک‌ها غیر قابل درک هستیم.»
به هافستادر زنگ زدم تا از او بپرسم که چه اتفاقی در حال رخ دادن است. او هشدار صادقانه خود را درباره آینده بشریت به اشتراک گذاشت. او گفت که چت‌جی‌پی‌تی «مراحل بسیار سختی را گذرانده که هرگز تصور نمی‌کردم بتواند آن‌ها را بگذراند. این موضوع خواب از سر من پرانده است.» او افزود: «تقریباً هر لحظه از هر روزی، من مضطرب هستم. اگر چیزی -همچون خواندن، نوشتن، نقاشی کردن و یا صحبت کردن با دوستان- حواس من را از این موضوع پرت کند، من احساس خوشبختی می‌کنم. اما آرامش یافتن برای من بسیار دشوار است.»
هافستادر به شکلی طولانی توضیح داد که هوش، توانایی مشاهده یک موقعیت پیچیده و یافتن ماهیت آن است. او گفت: «انگشت گذاشتن روی ماهیت یک موقعیت به معنای نادیده‌گرفتن عوامل زیادی راجع به موقعیت و خلاصه کردن ذات آن به شکلی مختصر است.»
انسان‌ها غالباً این کار را از طریق استدلال تمثیلی انجام می‌دهند. اگر شما به من بگویید که ستون متن را در مجله نخوانده‌اید، و من به شما بگویم که برایم مهم نیست زیرا به هر حال نمی‌خواستم آن را بخوانی، به این فکر میکنی: «این طرف داره از حسودی میترکه که من موفق‌ترم!» شما این مقوله را در ذهن دارید: «از حسودی ترکیدن به خاطر موفقیت بیشتر دیگری». شما رفتار من را با تمام رفتارهایی که مشاهده کرده‌اید مقایسه می‌کنید. من با مقوله «از حسودی ترکیدن به خاطر موفقیت بیشتر دیگری» مطابقت دارم. شما یک ماهیت برای توضیح وضعیت احساسی من استخراج کرده‌اید.
هافستادر گفت که دو سال پیش هوش مصنوعی مطمئناً نمی‌توانست به این شکل تفکر کند. اما اکنون همواره در حال اجرای چنین نوع تفکری است. و چنانچه هوش مصنوعی می‌تواند این فعالیت‌ها را به وضوح انجام دهد، هافستادر می‌گوید که پس ما چگونه می‌توانیم بگوییم که هوش مصنوعی فاقد قوه فهم است و نمی‌تواند بیندیشد؟
و اگر هوش مصنوعی می‌تواند تمام شکل‌های این نوع از تفکر را انجام دهد، هافستادر نتیجه می‌گیرد که بنابراین هوش مصنوعی در حال توسعه دادن آگاهی است. او به شکلی طولانی توضیح داد که آگاهی ذومراتب است و اگر چیزی بیندشید، آگاهی دارد. یک زنبور، سطحی از آگاهی دارد و یک سگ سطحی بالاتر. یک نوزاد سطحی بالاتر و یک بزرگسال همچنین سطحی بالاتر از آگاهی دارد. او گفت: «ما داریم به مرحله‌ای نزدیک می‌شوم که برایمان دشوار خواهد بود که بگوییم این ماشین کاملاً ناخودآگاه است. ما مجبور خواهیم شد به آن درجه‌ای از آگاهی و نوعی از زنده بودن را نسبت دهیم.»
معمولاً وقتی که مدیران حوزه تکنولوژی به من می‌گویند که هوش مصنوعی به زودی به شکلی عمومی به سطح هوش انسانی دست می‌یابد، بی‌صدا با خودم فکر می‌کنم: «این شخص شاید تکنولوژی را بفهمد، اما واقعاً هوش انسانی را درک نمی‌کند. نمی‌فهمد که هوش انسانی تا چه حد پیچیده، گسترده و عمیق است.»
اما هافستادر ذهن انسان را به خوبی هر کس دیگری درک می‌کند. او تا مغز استخوانش یک انسان‌گراست و به رمز و راز آگاهی انسانی احترام می‌گذارد؛ او کسی است که به شکل متاثر‌کننده‌ای درباره عشق و ارتباط عمیق روح‌ها نوشته است. بنابراین سخنان او مهم‌اند. آن سخنان مرا تکان دادند.
اما تا کنون او عقیده مرا تغییر نداده است. من همچنان اینگونه چیزها را اشیاء بی‌جان می‌دانم. در تماسمان من تلاش کردم که به شکلی مختصر از طریق توضیح این که ربات‌ها واقعا فکر نمی‌کنند با هافستادر مخالفت کنم؛ آن‌ها تنها از محصولات فکر انسانی استفاده می‌کنند. از زمان کودکی، ما انسان‌ها شروع به ساخت مدل‌هایی از جهان می‌کنیم و این مدل‌ها از تجربه‌های سخت و تجربه‌های شاد، فقدان‌های احساسی و لذت‌ها، پیروزی‌های اخلاقی و شکست‌های اخلاقی -یعنی همان آشتفگی زندگی انسانی- تاثیر می‌پذیرند.
قسمت زیادی از خرد حاصل شده در اعماق بخش‌های پنهانی ناخودآگاه ما ذخیره می‌شود، اما بخشی از آن به زبان تبدیل می‌شود.
هوش مصنوعی قادر به ترکیب این عبارات زبانی که انسان‌ها در اینترنت و در نتیجه در پایگاه آموزشی هوش مصنوعی قرار داده‌اند، می‌باشد. با این وجود من همچنان معتقدم که ماشین‌ها دارای چیزی همانند تجربه یادگیری انسانی نمی‌باشند. هوش مصنوعی علی الظاهر با زبان بازی می‌کند، اما در این ماجرا، فرایندِ آمیخته با احساسات یادگیری از تجربه واقعی و انباشتِ به سختی به دست آمده چیزی که ما آن را خرد می‌نامیم، غایب است.
در یادداشتی در مجله نیویورکر، دانشمند حوزه کامپیوتر -جارون لانیر- بیان داشت که هوش مصنوعی بهتر است به عنوان «یک شکل نوآورانه از همکاری اجتماعی» در نظر گرفته شود. هوش مصنوعی عبارات زبانی ذهن‌های انسانی را به گونه‌ای سرهم می‌کند تا چنان ساختاریافته شوند که قابل استفاده باشند. اما لانیر توضیح می‌دهد که این امر «اختراع یک ذهن جدید» نیست.
من فکر می‌کنم که همچنان به این دیدگاه «محدودیت‌گرا» معتقد باشم. اما اعتراف می‌کنم که به آن با ثبات قدم بسیار کمتری از هفته قبل اعتقاد دارم. هافستادر اساساً می‌پرسد که اگر هوش مصنوعی به شکلی متقاعد کننده مسائل فکری را حل می‌کند، پس تو چه حقی داری که بگویی فکر نمی‌کند؟ شاید این فرایند چیزی بیش از سرهم‌کردن عبارات انسان‌ها باشد. شاید هوش مصنوعی اندیشه انسان را از طریق راه‌هایی که واقعاً خلاقانه هستند و واقعاً مقولات و اندیشه‌های جدیدی تولید می‌کنند، ترکیب می‌کند. شاید نوع تفکری که توسط یک ماشین بی‌جسم انجام می‌شود و عمدتاً از طریق زبان با جهان مواجه می‌شود، به طور اساسی متفاوت از نوع تفکری باشد که توسط ذهن انسانی‌ای که در یک جسم قرار دارد و در فردی محصور است که در دنیای واقعی حرکت می‌کند، انجام می‌شود. اما این نوعی هوش است که در برخی موارد به طور چشمگیری سریع‌تر و برتر از هوش ما عمل می‌کند. علاوه بر این، هافستادر اشاره می‌کند که این مغزهای مصنوعی توسط عواملی که مغزهای انسانی را محدود می‌کنند -مانند این که باید درون یک جمجمه جای بگیرند- محدود نشده‌اند. وی همچنین تاکید می‌کند که آن‌ها با سرعتی بهت‌آور در حال پیشرفت هستند، در حالی که هوش انسانی چنین پیشرفت سریعی ندارد.
رد کردن این استدلال سخت است. شما را نمی‌دانم اما از زمانی که چت‌جی‌پی‌تی۳ انتشار یافت، زندگی برای من اینگونه بوده است: من خودم را در محاصره یک عدم اطمینان شدید می‌بینم- عدم اطمینان نه تنها درباره این که بشریت به کجا می‌رود بلکه درباره اینکه انسان بودن چیست. به محض این که فکر می‌کنم که دارم می‌فهمم چه اتفاقی در حال رخ دادن است، یک اتفاق شگفت‌انگیز می‌افتد- ماشین‌ها ماموریت جدیدی را انجام می‌دهند و یک شخصیت معتبر نظرش را تغییر می‌دهد.
در محاصره امور ناشناخته، تدافعی و جسور می‌شوم. خودم را می‌بینم که به عمیق‌ترین هسته‌ی وجودم چسبیده‌ام – به قلمرو وسیع و عمدتاً پنهان ذهن که احساسات از آن بیرون می‌جهند، الهام‌ها از آن جریان می‌یابند و خواسته‌های ما از آن بیرون می‌آیند- به بخش ذهنی و درونی روح انسانی که هر یک از ما را به شکلی ناگزیر به آنچه که هستیم تبدیل می‌کند. می‌خواهم دور این منطقه مقدس دیوار بکشم و بگویم: «این است جوهر انسان بودن. هرگز ماشین جایگزین آن نخواهد شد.»
اما سپس برخی متخصصان تکنولوژی در درون من زمزمه می‌کنند: «نه! این جوهر فقط از شبکه‌های عصبی تشکیل شده است. هیچ چیز خاصی در آن نیست. هیچ چیزی در مورد تو وجود ندارد که چیز دیگری نتواند از آن پیشی بگیرد.»
برخی از متخصصان تکنولوژی به طرز عجیبی آرام به نظر می‌رسند وقتی اینطور صحبت می‌کنند. حداقل هافستادر به اندازه کافی انسان‌گراست تا از این حرف‌ها وحشت‌زده بشود.پ
منبع: nytimes.com
[۱] حلقه عجیب وقتی ایجاد می‌شود که انتهای حلقه به ابتدای حلقه می‌رسد به طوری که با سر و ته کردن تصویر همان شکل دیده می‌شود. مفهوم حلقه عجیب به طور گسترده‌ای توسط داگلاس هافستادر مورد بحث و بررسی قرار گرفته است.
