چشمهایت را باور نکن: چگونه دیپفیکها اعتبار شواهد ویدئویی را در دادگاهها نابود میکنند
زمانی که ویدئو سندیتی غیرقابلانکار بود؛ اکنون این فرض در حال فروپاشی است
در طول تاریخ حقوقی، ویدئو تقریباً بیخطا تلقی میشد. هیئتمنصفه به آن اعتماد داشتند. قضات بر آن تکیه میکردند. شواهد ویدئویی میتوانست «اسلحهٔ داغ»، دلیلی غیرقابلانکار و قطعی باشد.
یک ضبط، برخلاف شاهد انسانی، نه میتوانست اشتباه به خاطر بیاورد و نه تحت تأثیر قرار گیرد. این فرض اکنون در حال فروپاشی است.
قضیه کالیفرنیا و زنگ خطر برای نظام حقوقی
حدود شش ماه پیش، یک پرونده در کالیفرنیا موجی از شوک را در دنیای حقوقی ایجاد کرد، زیرا شاکیان متهم شدند یک ویدئوی دیپفیک تولید شده با هوش مصنوعی را به عنوان شهادت ارائه دادهاند. قاضی این مسئله را تشخیص داد – اما به سختی. کارشناسان خاطرنشان کردند که قاضی متوجه نقصهایی مانند پلک زدنهای تکراری و حلقهزدن ویدئو شد، و هشدار دادند که این ممکن است یک شانس بوده باشد، زیرا فناوری در حال حاضر از آن ایرادات آشکار فراتر رفته است.
سیستم حقوقی با عجله در تلاش است تا به پیشرفتهای فناوری دیپفیک پاسخ دهد. در اوت ۲۰۲۵، کمیته مشورتی قوانین شواهد، قانون پیشنهادی فدرال ۷۰۷ را برای نظرخواهی عمومی منتشر کرد که استاندارد قابلیت اعتماد قانون ۷۰۲ را به شواهد تولید شده توسط ماشین گسترش میدهد.
پنجره نظرخواهی در فوریه ۲۰۲۶ بسته شد. منتقدان هشدار میدهند که این قانون فقط در مورد شواهدی اعمال میشود که ارائهدهنده تأیید کند توسط هوش مصنوعی تولید شده است، و نه در مورد شواهدی که صحت آنها مورد اختلاف است – به این معنی که کمکی به دادگاهها برای شناسایی دیپفیکهای افشا نشده نمیکند.
چرا مغز ما در تشخیص دیپفیک ناتوان است؟
اما آنچه قانون به طور کامل با آن دست و پنجه نرم نکرده است، بعد روانشناختی این مشکل است. زیرا تهدید فقط وجود شواهد جعلی نیست. بلکه این است که ذهن ما در تشخیص آنها فوقالعاده ضعیف است.
جملهٔ معروف «تو کی رو باور میکنی، منو یا چشمهای خودت؟» یک نقلقول کلاسیک کمدی است که توسط چیکو مارکس در فیلم «سوپ اردک» برادران مارکس در سال ۱۹۳۳ رایج شد.
طنز در این فرض نهفته است که انسانها همیشه باید چشمهای خود را باور کنند. در واقع، انسانها موجوداتی بصری هستند. علوم شناختی مدتهاست ثابت کرده که ما اطلاعات بصری را سریعتر و با وزن عاطفی بیشتری نسبت به متن یا استدلال انتزاعی پردازش میکنیم.
وقتی کسی را روی صفحه میبینیم که چیزی میگوید، حس قدرتمندی از حضور و صحت را تجربه میکنیم – چیزی که محققان آن را «ابتکار صحتنمایی» مینامند، همان فرض شهودی که ادراک برابر با حقیقت است.
دقیقاً به همین دلیل است که شواهد ویدئویی همیشه در دادگاهها اینقدر قانعکننده بوده است. هیئتمنصفه اغلب تحت تأثیر اعتمادبهنفس و جزئیاتی قرار میگیرند که یک شاهد با آن یک رویداد را بازگو میکند و روایت واضح و شخصی را با قابلیت اعتماد و حقیقت برابر میدانند. حالا همان جاذبهٔ روانشناختی را برای یک ویدئوی جعلی تصور کنید – ویدئویی که شخص هرگز نساخته است، اما او را در حال اعتراف، تهدید یا انجام عملی نشان میدهد که هرگز انجام نداده است.
تحقیقات نشان داده است که انسانها قضاوتکنندههای ضعیفی در واقعی یا جعلی بودن یک مصنوع دیجیتال هستند و فناوریهایی که برای تشخیص محتوای تولید شده با هوش مصنوعی طراحی شدهاند نیز غیرقابلاعتماد و مغرضانه از آب درآمدهاند. همانطور که در مقالهای اخیر در مجله حقوقی دانشگاه شیکاگو به تفصیل بحث شده است، امروزه هیچ راه بیخطایی برای طبقهبندی متن، صدا، ویدئو یا تصاویر به عنوان معتبر یا تولید شده با هوش مصنوعی وجود ندارد.
دفاع دیپفیک: شمشیری دو لبه
وکلای مدافع شروع به استفاده از چیزی کردهاند که «دفاع دیپفیک» نامیده میشود، اصطلاحی که توصیف میکند چگونه سهولت تولید دیپفیک افراد بدذات را قادر میسازد ضبطهای واقعی را جعلی قلمداد کنند. این یک بنبست روانشناختی عمیقاً نگرانکننده در دادگاه ایجاد میکند: هیئتمنصفه ممکن است نسبت به شواهد واقعی بدبین شوند، در حالی که نسبت به جعلیات پیچیده آسیبپذیر باقی میمانند.
اگر هیئتمنصفه شروع به فرض کنند که «هر چیزی میتواند با هوش مصنوعی ساخته شود»، ضبطهای قانونی ممکن است ارزش قانعکنندگی خود را از دست بدهند. محققان حقوقی خاطرنشان کردهاند که بدبینی گسترده نسبت به رسانههای دیجیتال میتواند اعتماد به شواهدی را که در غیر این صورت قابل قبول هستند، تضعیف کند. پیامد روانشناختی نوعی فلج معرفتشناختی است – دادگاهی که هیچکس نمیداند واقعاً به چه چیزی اعتماد کند.
عواقب آن ملموس است. همانطور که مرکز ملی دادگاههای ایالتی در فوریه ۲۰۲۶ گزارش داد، زنی دو روز را در زندان گذراند پس از آن که دوستپسر سابقش ظاهراً پیامکهای تولید شده با هوش مصنوعی را جعل کرد که منجر به دستگیری او به دلیل نقض دستور محافظتی شد. دادستانها در نهایت اتهامات را رد کردند، اما تنها پس از هشت ماه دادرسی حقوقی.
موازیسازی با حافظه شاهدان عینی
دههها تحقیق درباره حافظه یک موازی مفید ارائه میدهد. جان ویکستد، روانشناس دانشگاه کالیفرنیا سن دیگو، که کارش بر نحوه انجام شناسایی توسط پلیس تأثیر گذاشته است، استدلال کرده که حافظه شاهدان عینی از یک جنبه حیاتی با دیانای یا اثر انگشت تفاوتی ندارد: میتواند آلوده شود. همین منطق اکنون در مورد شواهد دیجیتال نیز صدق میکند. همانطور که حافظه با قرار گرفتن مکرر در معرض پیشنهادات و اطلاعات پس از رویداد، قابلیت اعتماد خود را از دست میدهد، یک مدرک دیجیتال نیز هرچه از منبع اصلی خود دورتر شود و زنجیرهٔ نگهداری تأیید شده نداشته باشد، سختتر میتوان به آن اعتماد کرد.
پیچیدگی روزافزون دیپفیکها چالشهای قابل توجهی برای قضات و وکلا در شناسایی و تأیید اعتبار شواهد ایجاد میکند، زیرا هوش مصنوعی مولد با استفاده از دو الگوریتم محتوا تولید میکند – یکی که محتوا تولید میکند و دیگری که واقعگرایی آن را ارزیابی میکند – و یک حلقه بازخورد مداوم ایجاد میکند که به طور پیوسته توانایی هوش مصنوعی را برای تولید جعلیات قانعکننده بهبود میبخشد. از نظر شناختی، نتیجه یک مسابقه تسلیحاتی است که ادراک انسانی برای برنده شدن در آن مجهز نیست.
راهکارهای پیشنهادی: آموزش روانشناختی و اصلاح قوانین
کارشناسان میگویند اقدامات متقابل باید شامل شرکتهای ویدئویی دارای گواهی، قوانین زنجیره نگهداری و شاید اتکای بیشتر به شهادت حضوری باشد. در سطح قضایی، برخی از محققان حقوقی خواستار یک چارچوب جامع برای ارزیابی و توسعه مداوم ابزارهای حقوقی مبتنی بر هوش مصنوعی هستند، در حالی که سایر کارشناسان به قضات توصیه میکنند اعتبار شاهدان را در نظر بگیرند و در صورت لزوم حضور فیزیکی را دستور دهند.
اما آموزش روانشناختی برای هیئتمنصفه ممکن است به همان اندازه فوری باشد. تحقیقات نشان داده است که هیئتمنصفهای که دانش دقیقی از نحوه کار حافظه و ادراک ندارند، بسیار بیشتر در معرض قضاوتهای ناقص در مورد شواهد هستند. همین امر در مورد سواد هوش مصنوعی نیز صادق خواهد بود. یک عضو هیئتمنصفه که از نظر مفهومی میفهمد یک ویدئو میتواند ساخته شود، ممکن است با همان بدبینی سالمی که برای هر شهادت دیگری به کار میبرد به شواهد دیجیتال نزدیک شود – آن را بسنجد، نه اینکه صرفاً باور کند.
ما دههها زمان صرف ساختن تضمینهای حقوقی حول خطاپذیری حافظه انسانی کردهایم. اکنون در آغاز یک پروژه طولانیتر و دشوارتر هستیم: ایجاد تضمینهایی حول خطاپذیری خود ادراک.
جمعبندی
دیپفیکها نه تنها اعتبار شواهد ویدئویی را به چالش کشیدهاند، بلکه بنیانهای روانشناختی اعتماد در دادگاه را نیز متزلزل کردهاند. از یک سو، جعلیات به طرز فزایندهای واقعگرایانه میشوند و از سوی دیگر، شواهد واقعی تحت تأثیر بدبینی عمومی قرار میگیرند. راهحل تنها در اصلاح قوانین نیست، بلکه در آموزش هیئتمنصفه و قضات برای درک ماهیت ادراک و فناوری است. تا زمانی که انسانها یاد نگیرند که «چشمهای خود» را با دیده تردید بنگرند، عدالت در خطر خواهد بود.
منابع
- Almazan, A. (2026, February 27). AI in the courtroom: Deepfakes, Florida Bar Ethics Opinion 24-1 & Miami-Dade AI Disclosure Order. Almazan Law. https://www.almazanlaw.com/blog/2026/february/ai-in-the-courtroom-what-…
- Fletcher, L., & Aaron, N. (2025, December 18; updated 2026, January 26). Courts face growing threat from AI-generated deepfakes as experts warn safeguards lag. WJLA 7News. https://wjla.com/features/i-team/courts-face-growing-threat-from-ai-gen…
- Grossman, M. R., & Linna, D. W., Jr. (2025). Deepfakes in court: How judges can proactively manage alleged AI-generated material in national security cases. The University of Chicago Legal Forum. https://legal-forum.uchicago.edu/print-archive/deepfakes-court-how-judg…
- Harwood, S. (2026, January 7). Memory on trial: Re-thinking the power of eyewitness testimony. The Advocate’s Advantage. https://haubadvocacy.blogs.pace.edu/2026/01/07/memory-on-trial-re-think…
- National Center for State Courts & CivAI. (2026, February 24). AI-generated evidence is a threat to public trust in the courts. National Center for State Courts. https://www.ncsc.org/resources-courts/ai-generated-evidence-threat-publ…
- Quinn Emanuel Urquhart & Sullivan, LLP. (2025, November 6). Adapting the rules of evidence for the age of AI. Quinn Emanuel. https://www.quinnemanuel.com/the-firm/publications/adapting-the-rules-o…
- Runyon, N. (2025, May 8). Deepfakes on trial: How judges are navigating AI evidence authentication. Thomson Reuters Institute. https://www.thomsonreuters.com/en-us/posts/ai-in-courts/deepfakes-evide…
- Wixted, J. (2025, July 1). How eyewitness memory can serve justice [Interview]. UC San Diego Today. https://today.ucsd.edu/story/how-eyewitness-memory-can-serve-justice
