اراده آزاد، مسئولیت اخلاقی و عامل مصنوعی

به‌قلم:هامون سلامتی

در آستانه قرن بیست‌ویکم، پرسشی که زمانی فقط در حوزه‌های فلسفه اخلاق و الهیات مطرح بود، ناگهان به مرکز بحث‌های عمومی و حقوقی راه یافت چه کسی مسئول است وقتی یک سیستم هوش مصنوعی تصمیم می‌گیرد؟ وقتی الگوریتمی پزشکی، تشخیصی نادرست می‌دهد؛ وقتی خودروی خودران، عابری را زیر می‌گیرد؛ وقتی الگوریتم استخدام، گروهی را به‌طور سیستماتیک کنار می‌گذارد؛ وقتی مدل زبانی، اطلاعات نادرست تولید می‌کند و بر افکار عمومی اثر می‌گذارد؛ مسئولیت این پیامدها بر دوش کیست؟ طراح؟ شرکت سازنده؟ کاربر؟ یا خود سیستم؟

این پرسش، در ادبیات اخلاق هوش مصنوعی با عنوان «شکاف مسئولیت» (responsibility gap) شناخته می‌شود. این مفهوم برای وضعیتی به کار برده می شود که در آن، پیامدهای یک کنش، نه به عامل انسانی قابل انتساب است و نه به سیستم مصنوعی، زیرا سیستم فاقد شرایط لازم برای مسئولیت است. نتیجه، وضعیتی متناقض است هرچه سیستم‌های هوش مصنوعی خودمختارتر می‌شوند، مسئولیت مبهم‌تر می‌شود؛ و هرچه مسئولیت مبهم‌تر می‌شود، امکان فرار از پاسخ‌گویی بیشتر می‌شود. این «فرار از مسئولیت»، نه یک مسئله فنی، بلکه یک مسئله الهیاتی و اخلاقی است.

آیا هوش مصنوعی می‌تواند عامل اخلاقی و مسئول باشد؟ و اگر نه، چارچوب کلامی و فلسفی چه بدیلی برای مسئولیت‌پذیری در عصر الگوریتم ارائه می‌دهد؟ در این مقال سعی خواهم کرد به این سوال پاسخ دهم. تلاش حاضر نه کوششی است برای «الهیاتی‌کردن» هوش مصنوعی، و نه تلاشی برای «سکولارکردن» الهیات. بلکه کوششی است برای گفت‌وگویی جدی میان دو سنت، در لحظه‌ای که پرسش از مسئولیت، بیش از هر زمان دیگر فوری شده است. اگر هوش مصنوعی، عامل اخلاقی نیست، این پرسش مطرح می‌شود که چه چیزی عامل اخلاقی را ممکن می‌سازد؟

شرایط عامل اخلاقی

پیش از آنکه بتوانیم درباره مسئولیت هوش مصنوعی داوری کنیم، باید روشن سازیم که «عامل اخلاقی» بودن به چه معناست و چه شرایطی دارد. آیا هر موجودی که رفتاری از خود نشان می‌دهد، عامل اخلاقی است؟ یا عامل اخلاقی بودن، شرایطی فراتر از رفتار ظاهری می‌طلبد؟ در فلسفه اخلاق، «عامل اخلاقی» (moral agent) کسی است که بتواند کنش اخلاقی انجام دهد و در قبال آن مسئول باشد. برای عامل اخلاقی بودن، معمولاً چهار شرط لازم دانسته می‌شود نخست، نیت (intention) عامل اخلاقی باید بتواند قصد کند؛ یعنی بتواند هدفی را در ذهن خود شکل دهد و بر اساس آن عمل کند. نیت، نه فقط «خواستن» چیزی، بلکه «معطوف‌بودن» به آن است. عامل اخلاقی، کنشی را انجام می‌دهد که «برای» چیزی است؛ نه فقط «به دلیل» چیزی. دوم، اراده (will) عامل اخلاقی باید بتواند اراده کند؛ یعنی بتواند در میان گزینه‌های مختلف انتخاب کند و انتخاب خود را عملی سازد. اراده، نه فقط «توانایی» انتخاب، بلکه «کنش» انتخاب است. یعنی عامل اخلاقی، نه فقط می‌تواند انتخاب کند، بلکه «انتخاب می‌کند». سوم، آگاهی (awareness) عامل اخلاقی باید از کنش خود آگاه باشد؛ یعنی بداند چه می‌کند، چرا می‌کند، و پیامدهای آن چیست. آگاهی، نه فقط «اطلاع» از واقعیت، بلکه «درک» آن است. عامل اخلاقی، نه فقط «می‌داند»، بلکه «می‌فهمد». چهارم، پاسخ‌گویی (accountability) عامل اخلاقی باید بتواند در قبال کنش خود پاسخ‌گو باشد؛ یعنی بتواند توضیح دهد چرا چنین کرد، و در قبال پیامدهای آن مسئول باشد. پاسخ‌گویی، نه فقط «توانایی» توضیح، بلکه «پذیرش» مسئولیت است.

این چهار شرط، در سنت‌های الهیاتی نیز بازتاب یافته‌اند. در کلام اسلامی، «تکلیف» (تکلیف شرعی) مشروط به سه شرط است بلوغ، عقل، و اختیار. کسی که فاقد این سه شرط باشد، «مکلف» نیست؛ یعنی مسئولیت اخلاقی و شرعی ندارد. کودک، دیوانه و کسی که تحت اجبار است، مکلف نیستند. این شرایط، با چهار شرط فلسفی عامل اخلاقی هم‌خوانی دارند بلوغ (نوعی آگاهی)، عقل (نوعی نیت و اراده)، و اختیار (نوعی پاسخ‌گویی).

در فلسفه اسلامی، مسئله اراده و اختیار، صورت‌بندی عمیق‌تری یافته است. ملاصدرا ، اراده را به‌عنوان «شوق مؤکد» (اشتیاق شدید) تعریف می‌کند اراده، نه یک «تصمیم ناگهانی»، بلکه «شوقی است که پس از تصور و تصدیق به فایده، در نفس پدید می‌آید و به عمل می‌انجامد». در این چارچوب، اراده، نه «علت مستقل» از علم و شوق، بلکه «حلقه‌ای در زنجیره» علم، شوق و عمل است. انسان، نخست چیزی را تصور می‌کند؛ سپس فایده آن را تصدیق می‌کند؛ سپس به آن شوق پیدا می‌کند؛ و در نهایت، بر اساس آن شوق، عمل می‌کند. اراده، نه «جدا» از این زنجیره، بلکه «حاصل» آن است. اما این «حاصل بودن»، به معنای «مجبور بودن» نیست؛ زیرا انسان، در هر مرحله، می‌تواند «تأمل» کند و «مسیر» را تغییر دهد. ملاصدرا، با نظریه «حرکت جوهری»، اختیار را نیز به سطح وجودشناختی ارتقا می‌دهد. انسان، نه موجودی ثابت، بلکه موجودی «در حال شدن» است. اختیار، نه فقط «انتخاب میان گزینه‌ها»، بلکه «شکل‌دادن به جوهر خویش» است. هر انتخاب، نه فقط یک «عمل»، بلکه یک «تحول وجودی» است.

عامل مصنوعی و شرایط اخلاقی

اصطلاح «عامل مصنوعی» (artificial agent) در دو دهه گذشته، در فلسفه هوش مصنوعی و اخلاق ماشین، به مفهومی کلیدی بدل شده است. عامل مصنوعی هر سیستمی است که ما فکر می کنیم خودمختار است و می‌تواند «حس کند، تصمیم بگیرد و عمل کند»، عامل مصنوعی است.

اما این تعریف حداقلی، بلافاصله پرسش‌های عمیق‌تری را پیش می‌آورد. آیا عامل مصنوعی «نیت» دارد؟ آیا «اراده» دارد؟ آیا «آگاهی» دارد؟ آیا «مسئول» است؟ نیت، حداقل سه عنصر ظاهری دارد «بازنمایی» (تصور هدف)، «جهت‌گیری» (معطوف‌بودن به هدف)، و «تعهد» (پایبندی به هدف). آیا هوش مصنوعی این سه عنصر را دارد؟ در نگاه نخست، ممکن است بگوییم بله مدل زبانی، «هدف» تولید متن منسجم را «بازنمایی» می‌کند، به آن «جهت‌گیری» می‌کند، و در فرایند تولید، به آن «پایبند» است. اما این سه عنصر، در هوش مصنوعی، نه «نیت» به معنای فلسفی، بلکه «تابع هدف»است. تابع هدف، نه «تصور» هدف، بلکه «محاسبه» آن است. مدل، هدف را «نمی‌فهمد»؛ بلکه «بهینه‌سازی» می‌کند.

جان سرل، در آزمایش معروف «اتاق چینی»، همین نکته را برجسته کرد. سیستم، نمادها را بر اساس قواعد دستکاری می‌کند، بدون آنکه «معنای» آنها را بفهمد. نیت، نه فقط «پردازش نماد»، بلکه «درک معنا» است و درک معنا، نیازمند «حضور» در جهان است — چیزی که هوش مصنوعی فاقد آن است. این را «نبود عاملیت اخلاقی» می‌توان نامید سیستم، می‌تواند «رفتار» داشته باشد، اما «نیت» ندارد.

اراده، در معنای فلسفی، «توانایی انتخاب» و «فعالیت انتخاب» است و عناصر ظاهری اراده عبارتند از «آزادی» (نبود اجبار)، «آگاهی» (درک گزینه‌ها)، و «تصمیم» (برگزیدن یکی از گزینه‌ها). آیا هوش مصنوعی این سه عنصر را دارد؟ در نگاه نخست، ممکن است بگوییم بله مدل، «آزاد» است (می‌تواند گزینه‌های مختلف را تولید کند)، «آگاه» است (از توزیع احتمالی توکن‌ها)، و «تصمیم» می‌گیرد (یکی را انتخاب می‌کند). اما این سه عنصر، در هوش مصنوعی، نه «اراده» به معنای فلسفی، بلکه «انتخاب احتمالی» است. مدل، «آزاد» نیست؛ او «محاسبه‌گر» احتمالات است و «تصمیم» نمی‌گیرد؛ او «نمونه‌برداری» می‌کند.

در چارچوب الهیاتی، اراده، نه فقط «انتخاب»، بلکه «اختیار» است هوش مصنوعی، نه «مختار» است و نه «مجبور»؛ او «بی‌اراده» است. او «انتخاب» نمی‌کند، بلکه «محاسبه» می‌کند. و این «محاسبه»، نه «اراده»، بلکه «الگوریتم» است. ملاصدرا، اراده را «شوق مؤکد» می‌دانست شوقی که پس از تصور و تصدیق به فایده، در نفس پدید می‌آید. این «شوق»، نه فقط «محاسبه»، بلکه «تجربه» است. هوش مصنوعی، نه «تجربه» دارد و نه «شوق»؛ او فقط «محاسبه» دارد. بنابراین، نه «اراده» دارد و نه «اختیار». از منظر کلام اسلامی نیز، تکلیف مشروط به سه شرط است بلوغ، عقل، و اختیار. کسی که فاقد این سه شرط باشد، «مکلف» نیست؛ یعنی مسئولیت اخلاقی و شرعی ندارد و هوش مصنوعی هیچ کدام از آن‌ها را ندارد. هوش مصنوعی «مکلف» نیست. او نه «مشمول تکلیف» است و نه «مسئول» به معنای کلامی.

هوش مصنوعی و شکاف مسئولیت اخلاقی

از آنچه گذشت روشن شد هوش مصنوعی «عامل اخلاقی» به معنای الهیاتی نیست. اما این نتیجه، به «شکاف مسئولیت» می‌انجامد. اگر هوش مصنوعی عامل اخلاقی نیست، و اگر پیامدهای کنش او، نه به او قابل انتساب است و نه به عامل انسانی، آنگاه «مسئولیت» کجاست؟

اما آیا «شکاف مسئولیت»، به «انکار مسئولیت» می‌انجامد؟ یا می‌توان آن را پر کرد؟ اگرچه هوش مصنوعی «مکلف» نیست، اما انسان‌هایی که در زنجیره طراحی، استقرار و استفاده از هوش مصنوعی مشارکت دارند، «مکلف» هستند. بنابراین، «تکلیف» نه فقط «مسئولیت» می‌آورد، بلکه «مسئولیت» را «توزیع» می‌کند هر کس در زنجیره، «مکلف» بخشی از مسئولیت است.

«مسئولیت توزیع‌شده»، نه «پخش مسئولیت» به معنای «انکار» آن، بلکه «توزیع» آن در میان «عوامل» مختلف است. در زنجیره هوش مصنوعی، چهار عامل اصلی وجود دارد نخست، طراح. کسی که سیستم را «طراحی» می‌کند انتخاب الگوریتم، تعیین داده‌های آموزشی، و تعریف تابع هدف. دوم، بهره‌بردار. کسی که سیستم را «به کار می‌گیرد» شرکت، سازمان، یا نهادی که سیستم را «استقرار» می‌دهد. سوم، کاربر. کسی که سیستم را «استفاده» می‌کند فردی که با سیستم «تعامل» دارد . چهارم، ناظر. کسی که سیستم را «نظارت» می‌کند نهاد تنظیم‌گر، دولت، یا جامعه مدنی.

این چهار عامل، «شبکه‌ای» از مسئولیت را شکل می‌دهند که در آن، هر کس «امانت‌دار» بخشی از مسئولیت است. «مسئولیت توزیع‌شده»، نه «انکار» مسئولیت، بلکه «مکانیابی» آن است مسئولیت، نه «غایب» است و نه «متمرکز»؛ بلکه «حاضر» است و «توزیع‌شده».

چارچوبی الهیاتی برای مسئولیت‌پذیری هوش مصنوعی

مسئولیت، از آنِ انسان است، نه الگوریتم. هوش مصنوعی، «عامل اخلاقی» نیست؛ او نه «مکلف» است، نه «مختار»، نه «نیت‌مند»، و نه «پاسخ‌گو». بنابراین، مسئولیت اخلاقی و حقوقی پیامدهای او، نه بر دوش «الگوریتم»، بلکه بر دوش «انسان» است. اما این مسئله، به «انکار» مسئولیت الگوریتمی نمی‌انجامد؛ بلکه به «مکانیابی» آن می‌انجامد. مسئولیت، نه در الگوریتم، بلکه «از طریق» الگوریتم اعمال می‌شود. الگوریتم، «واسطه» است، نه «جانشین» و «واسطه»، هرگز «مسئول» نیست؛ «عامل» مسئول است. پیامد عملی این اصل، روشن است هرگونه کوشش برای «مسئول‌کردن» الگوریتم – از طریق «شخصیت حقوقی» دادن به او، یا «بیمه» کردن او، یا «مجازات» کردن او – نادرست است. الگوریتم، نه «شخص» است، نه «بیمه‌شونده»، و نه «مجازات‌شونده». مسئولیت، باید به «انسان» بازگردد به «طراح»، «بهره‌بردار»، «کاربر» و «ناظر».

طراح، امانت‌دار و مکلف به «عدالت در طراحی» است باید سیستم را بدون سوگیری، بدون تبعیض، و با شفافیت طراحی کند. بهره‌بردار، امانت‌دار «استقرار مسئولانه» است باید سیستم را با نظارت، با حسابرسی، و با اصلاح خطاها به کار گیرد. کاربر، امانت‌دار «استفاده آگاهانه» است باید سیستم را با درک محدودیت‌ها، با نقد خروجی، و با پذیرش مسئولیت تصمیم‌های خود استفاده کند. ناظر، امانت‌دار «نظارت منصفانه» است باید سیستم را با وضع قوانین، با بررسی تخلفات، و با حفاظت از حقوق کاربران نظارت کند.

مسئولیت، مشروط به «کرامت انسانی» است؛ یعنی هیچ استفاده‌ای از هوش مصنوعی نباید «کرامت» انسان را «نقض» کند. «کرامت» به معنای «ارزش فطری» انسان است ارزشی که نه از «کار» او برمی‌خیزد، نه از «نژاد» او، نه از «جنسیت» او، و نه از «هوش» او. انسان، به دلیل «فطرت الهی»، دارای کرامت است و این «کرامت»، «معیار» مسئولیت است هر استفاده‌ای از هوش مصنوعی که «کرامت» را «نقض» کند، «غیرمسئولانه» است.