پایانِ یک اتوپیا: هوش مصنوعی و بازگشتِ آرمانِ کنترلِ وینری

واقع‌نمایی وینر در مقابل خوش‌خیالی گیبسون

وقتی نوربرت وینر در سال ۱۹۴۸ کتاب سایبرنتیک را منتشر کرد، واژه‌ای از یونان باستان را احیا کرد: kybernetes، به معنای «سُکان‌دار». برای وینر، سایبرنتیک علمِ کنترل و بازخورد بود؛ علمِ اینکه چگونه یک سامانه می‌خواهد چه ماشین باشد، چه بدن، چه جامعه، می‌تواند از طریق اطلاعاتِ بازگشتی، خود را تنظیم و هدایت کند. در واقع کنترل، از همان ابتدا، در قلبِ واژه‌ی «سایبر» نشسته بود.

اما وقتی ویلیام گیبسون در سال ۱۹۸۴ در رمانِ نیورومنسر اصطلاحِ «فضای سایبر» را ابداع کرد، اتفاقی معکوس افتاد. او این ریشه‌ی کنترلی را وارونه کرد و به یک فضای رهایی‌بخش تبدیل کرد: فضایی بی‌وزن که در آن هویت از بدن جدا می‌شود و کاربر می‌تواند از قید جغرافیا، دولت و حتی جسمانیت خود بگریزد. این تصویر در دهه‌های ۸۰ و ۹۰ به یک آرمانِ فرهنگی تبدیل شد. نمونه‌ی روشنش «اعلامیه‌ی استقلال فضای سایبر» جان پری بارلو در سال ۱۹۹۶ است؛ متنی که دولت‌های ملی را مخاطب قرار می‌داد و می‌گفت شما در این قلمروِ جدید هیچ حاکمیتی ندارید. فضای سایبر، در این روایت، سرزمینِ بی‌مرزِ آزادی بود، دقیقاً نقطه‌ی مقابلِ ریشه‌ی کنترل‌محورِ خودش.

هوش مصنوعی مشخص کرد حق با وینر بود

این وارونگی معنایی البته شکننده بود. زیرا آنچه فضای سایبر را ممکن می‌ساخت، همان زیرساختِ سایبرنتیکیِ وینر بود: شبکه‌هایی از بازخورد، داده و پردازش. آرمانِ رهایی روی بستری بنا شده بود که ذاتاً برای کنترل طراحی شده بود. این تناقض تا مدت‌ها پنهان ماند، چون مقیاسِ فناوری هنوز اجازه نمی‌داد آن ظرفیتِ کنترلی به‌طور کامل فعال بشود و نیروی کنترل‌گر بالقوه خودش را نمایان کند هنوز باید منتظر می‌ماندیم.

اکنون اما، در دهه‌ی ۲۰۲۰، به نظر می‌رسد این چرخه به نقطه‌ی آغازش بازگشته است ولی این‌بار با ابزاری به‌مراتب قدرتمندتر: هوش مصنوعی. اگر بپذیریم که هوش مصنوعی وارثِ راستینِ آرمانِ سایبر است، به این معنا که تحققِ کاملِ پروژه‌ی وینر است نه به این معنا که شبیهِ رؤیای گیبسونی است، آنگاه باید بپذیریم که آنچه امروز شاهدش هستیم، نه انحراف از مسیر سایبر، بلکه بازگشتِ آن به خاستگاهِ اصلی‌اش است.

سامانه‌های هوش مصنوعی امروز، در بنیادی‌ترین سطح، همان منطقِ بازخورد و کنترلِ وینری را اجرا می‌کنند: مدل‌هایی که با هر داده‌ی جدید تنظیم می‌شوند، سامانه‌های توصیه‌گر که رفتار کاربر را پیش‌بینی و هدایت می‌کنند، الگوریتم‌هایی که نه‌فقط اطلاعات را پردازش، بلکه تصمیم و انتخاب را شکل می‌دهند. اینجا دیگر صحبت از «فضایی برای گریز از کنترل» نیست، بلکه از زیرساختی صحبت می‌کنیم که خودِ کنترل را به شکلی نامرئی و مویرگی در جریانِ زندگی روزمره تزریق می‌کند. نظارت دیگر نیازی به یک ناظرِ متمرکز ندارد؛ خودِ سامانه، از طریق پیش‌بینی و شخصی‌سازی، سوژه را در مسیرهای از پیش تعیین‌شده نگه می‌دارد.

طنز ماجرا کجاست؟

نکته‌ی طنزآمیزِ تاریخی این‌جاست: گفتمانِ عمومی درباره‌ی هوش مصنوعی هنوز از واژگانِ آرمان‌گرایانه‌ی دوره‌ی فضای سایبر وام می‌گیرد واژه‌هایی مانند «دموکراتیزه‌کردنِ دانش»، «توانمندسازی فردی»، «افقِ جدیدِ آزادی». اما ساختارِ واقعیِ این فناوری، برخلافِ فضای سایبرِ گیبسونی که تمرکز و مالکیت در آن پراکنده تصور می‌شد، در دستِ شمارِ اندکی از شرکت‌ها و دولت‌ها متمرکز است. آرمانِ غیرمتمرکز و بی‌مرزِ دهه‌ی ۹۰ اکنون در قالبِ زیرساخت‌هایی متمرکز، مالکیتی و کنترل‌گر بازتولید می‌شود.

سرانجام

شاید بتوان گفت مفهومِ «سایبر» در طولِ هفت دهه یک قوس کامل را طی کرده: از کنترلِ مهندسی‌شده‌ی وینر، به رهاییِ استعاری گیبسون و بارلو، و اکنون به کنترلِ الگوریتمیِ هوش مصنوعی. اما این بازگشت، تکرارِ صرف نیست. کنترلِ امروز پیچیده‌تر، نرم‌تر و کارآمدتر از کنترلِ کلاسیکِ سایبرنتیکی است، چرا که دیگر از بیرون بر انسان اعمال نمی‌شود، بلکه از طریق میل، انتخاب و راحتیِ خودِ کاربر عمل می‌کند. شاید پرسشِ فلسفیِ اصلیِ عصرِ ما همین باشد: وقتی کنترل دیگر به شکلِ سرکوب یا محدودیت ظاهر نمی‌شود، بلکه در لباسِ شخصی‌سازی و پیش‌بینیِ خواسته‌های ما درمی‌آید، چگونه می‌توان آن را اساساً تشخیص داد؟ فضای سایبر قرار بود قلمروِ فرار از کنترل باشد. هوش مصنوعی که وارث آن است به کامل‌ترین ابزارِ کنترل تبدیل شده و شوربختانه این نه یک انحراف، که بازگشتِ واژه به معنای اصلی‌اش است اما کسانی دوست دارند هنوز فریب توهمات سابق را بخورند.