تا پیش از این، چهره و صدا از مهمترین نشانههای هویت انسان بودند؛ چیزی که ما را به دیگری پیوند میداد و امکان اعتماد را فراهم میکرد. اما امروزه الگوریتمها میتوانند در چند ثانیه صدا و چهرهای بسازند که هیچ صاحب واقعی ندارد، اما آنقدر باورپذیر است که میتواند احساس، تصمیم و حتی سرنوشت انسانها را تغییر دهد. در جهانی که دیگر چشم ما قادر به تشخیص واقعیت از وانموده نیست، چگونه باید به دیگری اعتماد کنیم؟ بحرانِ هویت در عصر دیپفیک مسئلهساز است؛ وقتی چشم انسان دیگر نمیتواند امر واقعی را از جعلی تشخیص دهد، بحرانی در بنیادِ مسئولیتِ اخلاقیِ ما به وجود میآید.
بهقلم:علی طالقانی
بدونِ دخالت دست!
فرض کنید تلفن زنگ میخورد. صدای مادرتان است، گریان، میگوید ربوده شده، پول میخواهد. لحن صدا، مکثها، حتی سرفهی آشنایش، همه سر جایشان است. تنها سه ثانیه ضبط صدا کافی است تا الگوریتمهای امروزی صدایی بسازند که با هشتاد و پنج درصد دقت، شبیه صاحب اصلیاش باشد؛ صدایی برگرفته از یک پست اینستاگرام، یک وبینار، یک ویدیوی یوتیوب که هیچکس فکرش را هم نمیکرد روزی تبدیل به سلاحی خطرناک شود. این فناوری چنان ارزان و در دسترس شده که آستانهی ورود به این نوع فریب تقریباً از میان رفته است. این صحنه دیگر تخیل علمی نیست؛ روایتی است که هزاران خانواده در سراسر جهان هرروز با نسخهای از آن روبهرو میشوند. اما وقتی صدا و صورت، دو نشانهی بنیادین هویت انسانی در تاریخ، قابل بازتولید بینهایت شدند، چه بر سر مفهومِ «دیگری» میآید؟
چهرهای که مالِ کسی نیست
باید این را صریح گفت: دیپفیک تنها یک مسئلهی فنی یا امنیتی نیست، بلکه یک زلزله در بنیاد فلسفی مفهوم «شخص» است. تا پیش از این، چهره چیزی بود که نمیشد بدون آنکه رد پای جعل باقی بماند جعلش کرد؛ نقاشی، مجسمه، حتی عکس دستکاریشده، همیشه فاصلهای با اصل داشتند که چشم ماهر آن را تشخیص میداد. اما امروز، توانایی انسان در تشخیص یک ویدیوی دیپفیکِ باکیفیت از واقعیت، دشوار شده است؛ یعنی حتی وقتی به افراد صراحتاً گفته شود مراقب محتوای مصنوعی باشند، باز هم در تشخیص ویدیوی جعلی از تصویر جعلی ممکن است خطا کنند!
مسئولیت اخلاقی
به باور امانوئل لویناس، اخلاق نه از قانون، نه از عقل محاسبهگر، بلکه از یک لحظهی بیواسطه آغاز میشود؛ لحظهی مواجهه با چهرهی دیگری. در فلسفهی او، چهره صرفاً مجموعهای از خطوط بیولوژیک نیست؛ چهره «رخنهای» است که از طریق آن، بینهایتیِ دیگری، ضعف و آسیبپذیریاش، خود را بر ما تحمیل میکند و پیش از هر گفتوگویی، ما را در برابر مسئولیتی اخلاقی قرار میدهد. بهقول خودِ او، «نخستین کلمهی چهره، «نکش» است. این یک فرمان است». نگاهکردن به چهرهی دیگری، خودش نوعی فرمانِ اخلاقی است که پیش از زبان و استدلال، ما را مسئول میکند.
وقتی چهرهای که در برابرمان است دیگر متعلق به هیچ سوژهی زیستهای نیست؛ وقتی صورتی مصنوعی، ترکیبی الگوریتمی از هزاران چهرهی واقعی، برای ما «فرمان» صادر میکند؛ این مسئولیت اخلاقی به کجا منتقل میشود؟ دیپفیک، بهشکلی بیسابقه، ساختار مواجههی لویناسی را دستکاری میکند: چهرهای که باید حامل رنج و آسیبپذیریِ یک «دیگریِ واقعی» باشد، اکنون میتواند رنجی جعلی، التماسی ساختگی، یا حتی تهدیدی خیالی را به نمایش بگذارد. مادری که در تماس تلفنی گریه میکند وجود خارجی ندارد، اما فراخوانِ اخلاقیِ صدایش دقیقاً همان اثر را بر شنونده میگذارد. اینجاست که میتوان گفت دیپفیک نوعی «سوءاستفاده از دستگاه اخلاقیِ انسان» است.
مردی با پای چوبی
در سال ۱۵۶۰ در روستایی کوچک در جنوب فرانسه، مردی به نام آرنو دو تیل را برای اعدام به میدان روستا بردند؛ جرمش این بود که هشت سال تمام جای مردی دیگر را گرفته بود. مارتین گر، کشاورزی که سالها پیش خانه و همسرش را ترک کرده بود، هرگز بازنگشت؛ اما مردی که جایش را گرفت آنقدر ماهرانه خاطرات، لهجه، و حتی رفتار او را از بر کرده بود که همسر مارتین، عمویش، و بیشتر اهالی روستا سالها فریب خوردند. آنچه سرانجام پرونده را برهم زد چیزی بهسادگی یک پای چوبی بود: مارتینِ واقعی، با پایی که در جنگ از دست داده بود، درست در میانهی محاکمه از راه رسید. این ماجرا به ما یادآوری میکند که سرقتِ چهره پدیدهای تازه نیست؛ آنچه امروز تغییر کرده، مقیاس و سرعت آن است.
نقشهای که از سرزمین واقعیتر است
ژان بودریار در کتاب معروف «وانمودهها و وانمود»، مفهومی مطرح میکند به نام «فراواقعیت». مرحلهای که در آن نشانه دیگر نمایندهی چیزی واقعی نیست، بلکه خودش به واقعیتی مستقل و خودبسنده بدل میشود. او چهار مرحله برای رابطهی تصویر با واقعیت ترسیم میکند: تصویر بازتاب واقعیت است؛ تصویر واقعیت را میپوشاند و تحریف میکند؛ تصویر غیابِ واقعیت را پنهان میکند؛ و سرانجام، تصویر هیچ ربطی به هیچ واقعیتی ندارد و صرفاً وانمودهی خالص خودش است.
دیپفیک دقیقاً در همین مرحلهی چهارم میایستد. صورتی که یک شبکهی مولد تخاصمی (GAN) میسازد، بازنمایی هیچ فرد واقعیای نیست؛ ترکیبی آماری از میلیونها چهره است که هیچ ارجاعی به بیرون از خودش ندارد، اما آنقدر «واقعی» به نظر میرسد که میتواند در دادگاه، در انتخابات، یا در یک تماس اضطراری خانوادگی، اثری واقعیتر از خودِ واقعیت بگذارد. اینجا دیگر بحث بر سر «تحریف واقعیت» نیست؛ بحث بر سر تولید واقعیتی موازی است که قواعد بازی سیاست، اقتصاد و روابط انسانی را از نو مینویسد.
ترسِ بشر از تصویری که ادعای واقعیت دارد اما واقعی نیست، ریشهای بسیار کهنتر از فناوری دیجیتال دارد. در قرن هشتم میلادی، امپراتوری بیزانس بهمدت بیش از یک قرن درگیرِ نزاعی خونین بر سرِ همین پرسش بود: آیا میتوان چهرهی امر مقدس را نقاشی کرد؟ شمایلشکنان معتقد بودند که هر تصویر، خطر بتسازی و فریب را در خود دارد؛ تصویر، بهجای اشاره به امر مقدس، جای آن را میگیرد. امپراتور لئوی سوم دستور نابودی هزاران شمایل مقدس را صادر کرد، و این نزاع تا سال ۸۴۳ میلادی، با فراز و فرودهای بسیار، ادامه داشت. اما نزاع بیزانسیها بر سرِ تصویرِ کمرنگ و ناقص بود، تصویری که خطر داشت بهجای امر مقدس بنشیند. اما دیپفیک دقیقاً معکوسِ همین ترس را زنده میکند: نه ترس از تصویرِ کم، بلکه ترس از تصویرِ بیش از حد واقعی؛ تصویری که دیگر هیچ نیازی به «امر واقعی» ندارد تا باورپذیر باشد.
بدنی که رنج میکشد اما وجود ندارد
نکتهای که کمتر به آن پرداخته میشود، بُعد جنسیتی و بدنیِ این بحران است. در کرهی جنوبی، مواردی از جرایم جنسی مبتنی بر دیپفیک گزارش شده که بر اساس دادههای سازمانهای حقوقبشری، روندی روبهافزایش داشته است. این آمار به ما یادآوری میکند که «صورتِ بیصاحب» یک استعارهی انتزاعی نیست؛ برای بسیاری از قربانیان، بهویژه زنان، این پدیده به معنای از دست دادن کنترل بر تصویر بدنیِ خود در مقیاسی است که تا پیش از این تصورناپذیر بود. از منظر لویناسی، این دقیقاً نقطهایست که چهره بهجای فراخواندنِ مسئولیت، ابزار نقضِ آن میشود؛ چهرهای که باید حرمت داشته باشد، به مادهی خامِ دستکاری بدل میگردد.
نقابی که ادعایی دروغین دارد
واژهی «شخص» در بسیاری از زبانهای اروپایی، از جمله «Person» انگلیسی، از واژهی لاتینِ «پرسونا» میآید؛ نقابی که بازیگران یونان و روم باستان بر صحنه به چهره میزدند. از این منظر، هویتِ اجتماعیِ انسان از ابتدا هم نوعی نقاب بوده است؛ نقشی که بازی میکنیم، چهرهای که برای دیگران میسازیم. اما نقابِ باستانی، هرقدر هم ماهرانه، همیشه با اشارهای اذعان میکرد که نقاب است: تماشاگر میدانست بازیگری در پسِ آن ایستاده. دیپفیک، برای نخستینبار در تاریخِ بشر، نقابی میسازد که ادعا میکند اصلاً نقاب نیست؛ چهرهای که خودش را نه بهعنوان بازنمایی، بلکه بهعنوان اصلِ واقعیت عرضه میکند.
بحرانی که فقط با قانون حل نمیشود
میتوان گفت واکنش نهادی جهان، کند اما جدی بوده است. تنها در ایالات متحده، از سال ۲۰۲۲ تاکنون بیش از صدوشصتونه قانون مرتبط با دیپفیک تصویب شده و تنها در سال ۲۰۲۵ نزدیک به صدوپنجاه لایحهی جدید در سطح ایالتی مطرح شده است. اما قانونگذاری، بهتنهایی، پاسخگوی بحرانی نیست که ریشه در ساختار ادراک انسانی دارد. وقتی چشم انسان دیگر نمیتواند «چهرهی واقعی» را از «چهرهی وانموده» تشخیص دهد، مسئله دیگر صرفاً حقوقی نیست؛ مسئلهای پدیدارشناختی است. اگر بودریار به ما نشان میدهد که چگونه نشانه از ارجاع به واقعیت رها شده، لویناس به ما هشدار میدهد که این رهایی، هزینهای اخلاقی دارد: از دست رفتنِ همان لحظهی مواجههای که بنیاد مسئولیت انسانی نسبت به دیگریست.
