معرفی کتاب «ظهور و سقوط دولت مصنوعی»

به‌قلم:سید محمد یحیی هاشمی 

برای خیلی از ما، هوش مصنوعی با تجربه‌هایی شناخته می‌شود که هر روز با آن‌ها سروکار داریم مثل نوشتن یک متن، جست‌وجوی اطلاعات عیب‌یابی یک وسیله برقی. در سطحی کلان تر هم معمولاً بحث بر سر این است که ماشین‌ها چه کارهایی را از انسان می‌گیرند و کدام شغل‌ها را تغییر می‌دهند. اما اگر مسئله فقط این نباشد که ماشین‌ها چه کارهایی انجام می‌دهند، بلکه به این مربوط باشد که چه کسی، با چه سازوکاری و بر اساس چه منطقی بر زندگی جمعی ما حکومت می‌کند، آن‌وقت ماجرا شکل دیگری پیدا می‌کند.

جیل لپور، تاریخ‌نگار آمریکایی و استاد دانشگاه هاروارد، در کتاب تازه‌اش The Rise and Fall of the Artificial State می‌خواهد نشان دهد که گسترش رایانه‌ها، الگوریتم‌ها و هوش مصنوعی صرفاً داستان پیشرفت ابزارهای فنی نیست؛ بلکه این تحولات به‌تدریج رابطه میان شهروندان، دولت‌ها و شرکت‌های خصوصی را هم تغییر داده‌اند. لپور از چهره‌های شناخته‌شده تاریخ‌نگاری عمومی در آمریکاست و سال‌هاست که در نوشته‌هایش به رابطه تاریخ، سیاست و فرهنگ می‌پردازد. او بحث را از ظهور ناگهانی هوش مصنوعی مولد آغاز نمی‌کند و نمی‌خواهد همه‌چیز را به چند شرکت یا محصول تازه تقلیل دهد. در عوض، به سراغ تاریخی طولانی‌تر می‌رود؛ تاریخی که در آن، میل به اندازه‌گیری، محاسبه و پیش‌بینی رفتار انسان، به‌تدریج از یک امکان فنی به شیوه‌ای برای اداره جامعه تبدیل شده است.

دولت مصنوعی دقیقاً چیست؟

عنوان کتاب ممکن است این تصور را ایجاد کند که با اثری درباره یک دولت کامپیوتری، ربات‌های حاکم یا آینده‌ای علمی‌تخیلی روبه‌رو هستیم. اما نویسنده اصطلاح «دولت مصنوعی» را برای توصیف وضعیتی به کار می‌برد که در آن، اداره و جهت‌دهی به زندگی عمومی هرچه بیشتر به محاسبات ماشینی، پیش‌بینی الگوریتمی و زیرساخت‌های دیجیتالی (که آنها هم تحت مالکیت شرکت‌های خصوصی هستند) وابسته می‌شود. در این وضعیت، ماشین‌ها فقط به تصمیم‌گیرندگان انسانی کمک نمی‌کنند؛ خودِ فرایند تصمیم‌گیری، شکل‌گیری افکار عمومی و حتی امکان اثرگذاری شهروندان بر سیاست نیز می‌تواند تابع منطق این زیرساخت‌ها قرار بگیرد. لپور دولت مصنوعی را محصول یک توطئه پنهانی یا نتیجه اجتناب‌ناپذیر ظهور هوش مصنوعی نمی‌داند. روایت او پیچیده‌تر است. بسیاری از فرایندهایی که در ابتدا با هدف افزایش سرعت، دقت و کارایی شکل گرفتند، به‌تدریج به حوزه‌هایی راه پیدا کردند که با قدرت سیاسی و زندگی عمومی سروکار دارند. شمارش جمعیت، ثبت اطلاعات شهروندان، پردازش داده‌ها و پیش‌بینی رفتار، هرکدام در مقطعی پاسخی به یک نیاز عملی بودند. مسئله زمانی پدیدار می‌شود که همین منطق محاسباتی از یک ابزار کمکی فراتر برود و به معیاری برای تصمیم‌گیری درباره انسان‌ها و اداره جامعه تبدیل شود.

از سرشماری تا هوش مصنوعی؛ تاریخ یک رؤیا

یکی از مسیرهای اصلی کتاب، دنبال کردن ریشه‌های تاریخی این تصور است که می‌توان جامعه انسانی را با روش‌های محاسباتی شناخت و اداره کرد. لپور برای توضیح این مسیر، از تاریخ معاصر فناوری شروع نمی‌کند؛ او به عقب برمی‌گردد و نشان می‌دهد که تصور دولت به‌مثابه یک سازوکار مصنوعی، سابقه‌ای بسیار قدیمی‌تر از رایانه‌های امروزی دارد. در قرن هفدهم، توماس هابز در کتاب لویاتان دولت را به انسانی مصنوعی تشبیه می‌کرد که اجزای آن، مانند اجزای یک ماشین، در ارتباط با یکدیگر عمل می‌کنند. در روایت لپور، پیوند میان انسان، ماشین و حکومت در قرن‌های بعد شکل تازه‌ای پیدا می‌کند. با توسعه ابزارهای محاسباتی، این پرسش که آیا می‌توان جامعه را مانند یک دستگاه شناخت و اداره کرد، دیگر صرفاً یک بحث فلسفی نیست؛ به مسئله‌ای عملی در حوزه آمار، مدیریت، سیاست و فناوری تبدیل می‌شود. در چنین نگاهی، انسان دیگر فقط شهروندی نیست که در یک نظام سیاسی زندگی می‌کند. او هم‌زمان به مجموعه‌ای از داده‌ها تبدیل می‌شود که می‌توان آن‌ها را ثبت کرد، دسته‌بندی کرد، تحلیل کرد و درباره رفتار آینده‌اش پیش‌بینی‌هایی انجام داد.

البته لپور نمی‌گوید که همه این تحولات از ابتدا با هدف جایگزین کردن انسان یا تضعیف دموکراسی طراحی شده بودند. یکی از نکات مهم روایت او دقیقاً همین است که نشان می‌دهد چگونه ابزارهایی که برای حل مسائل مشخص ساخته شده بودند، در کنار تغییرات اقتصادی و سیاسی، به‌تدریج وارد عرصه‌هایی شدند که پیامدهایشان بسیار فراتر از هدف اولیه بود.

از رؤیای رهایی تا هزینه‌های مادی توسعه فناوری

لپور در کنار تاریخ محاسبات و حکومت، به تصوری می‌پردازد که در بخش‌هایی از فرهنگ فناوری ریشه دوانده است: اینکه پیشرفت تکنولوژیک می‌تواند انسان را از محدودیت‌های طبیعت، بدن و حتی مناسبات اجتماعی رها کند. در روایت لپور، این آرزوها صرفاً خیال‌پردازی‌های شخصی نیستند؛ آن‌ها بر نحوه تصور آینده و جهت‌گیری برخی پروژه‌های فناوری نیز اثر می‌گذارند. او به‌ویژه به این تناقض توجه می‌کند که در حالی که بخشی از گفتمان فناوری از رهایی انسان از محدودیت‌های طبیعت سخن می‌گوید، زیرساخت‌های مادی همین فناوری به زمین، آب، انرژی و مواد معدنی وابسته‌اند.

به این ترتیب، کتاب دو پرسش را به یکدیگر پیوند می‌دهد: چه کسی بر زیرساخت‌های محاسباتی و قدرت سیاسی ناشی از آن‌ها تسلط دارد، و هزینه مادی گسترش این زیرساخت‌ها را چه کسانی و چه بخش‌هایی از جهان طبیعی می‌پردازند؟

چرا لپور به سراغ داستان‌های علمی‌تخیلی می‌رود؟

لپور در نیمه دوم کتاب مسیر متفاوتی را در فضای ادبیات دنبال می‌کند. در این بخش، ادبیات فقط مجموعه‌ای از پیش‌بینی‌های قدیمی درباره فناوری نیست. لپور می‌خواهد نشان دهد داستان‌هایی که درباره آینده نوشته شده‌اند، چگونه می‌توانند بر تصور ما از آن آینده اثر بگذارند. به‌خصوص که برخی از چهره‌های بانفوذ صنعت فناوری، خود از علاقه‌مندان ادبیات علمی‌تخیلی بوده‌اند. مسئله از نظر نویسنده این است که آیا این آثار را به‌عنوان هشدارهایی درباره پیامدهای احتمالی فناوری می‌خوانیم یا آن‌ها را نقشه راهی برای ساختن آینده در نظر می‌گیریم.

کتابی درباره هوش مصنوعی، یا مسئله‌ای قدیمی‌تر؟

یکی از نکات قابل‌توجه درباره ظهور و سقوط دولت مصنوعی این است که با وجود حضور پررنگ هوش مصنوعی در آن، پرسش‌های کتاب به این فناوری محدود نمی‌شوند. موضوع اصلی، رابطه میان محاسبه و قدرت است؛ اینکه وقتی توانایی اندازه‌گیری، پیش‌بینی و مدیریت رفتار انسان افزایش پیدا می‌کند، چه تغییری در نهادهای اجتماعی و سیاسی رخ می‌دهد. اهمیت این بحث برای مخاطب حوزه سایبر هم دقیقاً در همین جابه‌جایی زاویه دید است. در بسیاری از بحث‌های مربوط به فناوری، توجه اصلی به قابلیت‌های ابزارها، سرعت پیشرفت آن‌ها و فرصت‌ها یا تهدیدهای هر محصول تازه معطوف می‌شود. لپور پیشنهاد می‌کند که در کنار این پرسش‌ها، باید به ساختارهایی هم نگاه کنیم که فناوری درون آن‌ها توسعه پیدا می‌کند: مالکیت زیرساخت‌ها، رابطه شرکت‌های خصوصی با نهادهای عمومی، امکان نظارت و پاسخ‌گویی، و جایگاه انسان در فرایند تصمیم‌گیری.

البته کتاب را نباید گزارشی بی‌طرفانه از همه دیدگاه‌های موجود درباره هوش مصنوعی دانست. لپور آشکارا از منتقدان تمرکز قدرت در صنعت فناوری است و استدلال خود را با نگرانی درباره آینده دموکراسی، استقلال انسان و محیط‌زیست پیش می‌برد. بنابراین، «دولت مصنوعی» بیش از آنکه اصطلاحی پذیرفته‌شده برای توصیف یک نظام سیاسی موجود باشد، مفهومی است که نویسنده برای صورت‌بندی انتقادی خود ساخته است. در نتیجه، این کتاب را می‌توان تلاشی برای بازگرداندن بحث فناوری به حوزه‌ای وسیع‌تر دانست؛ جایی که هوش مصنوعی دیگر صرفاً یک ابزار یا محصول تازه نیست، بلکه بخشی از پرسش قدیمی‌تر درباره قدرت، آزادی و چگونگی زندگی انسان‌ها در کنار یکدیگر است.