جرم جدید در عصر دیجیتال؛ تولید محتوای جعلی با هوش مصنوعی
اگر شخصی با استفاده از هوش مصنوعی تصویری جعلی و مستهجن از شما بسازد و در فضای مجازی منتشر کند، چه اتفاقی میافتد؟ آیا قربانی میتواند غرامت دریافت کند و مجازات متخلفان چیست؟ پاسخ این پرسشها را در گفتوگو با محمدحسین ساکت، وکیل پایه یک دادگستری بخوانید.
به گزارش پایگاه خبری تحلیلی خبرنگاران و رسانه و به نقل از ایرنا؛ چند ماه پیش، کاربران شبکههای اجتماعی با ویدیویی روبهرو شدند که در نگاه اول، صحنهای از فیلم مشهور و پربیننده «یوسف پیامبر» بهنظر میرسید؛ اما اینبار هوش مصنوعی چهره پیامبر پاکی و تقوا را در محتوایی مستهجن بازسازی کرده بود! این ویدئو محصولی از چند خط کد و الگوریتمی بود که از ترکیب و تدوین بخشهایی از یک فیلم، جعلیِ قابلقبولی ساخت؛ جعلیای که بهسرعت در میان کاربران دست به دست شد و نشان داد هیچ کس — از هنرمند تا استاد دانشگاه و نوجوانی که یک عکس ساده در فضای مجازی گذاشته — در امان نیست.
هوش مصنوعی مرزهای واقعیت را جابهجا کرده و مفهوم «دروغ دیداری» را به اوج رسانده است. اکنون هر تصویر یا ویدیویی میتواند دروغی بسیار باورپذیر باشد؛ دروغی که میتواند آبرو، شغل یا حتی زندگی کسی را نابود کند.
با گسترش این پدیده، پرسشهای بزرگی در برابر نظام قضایی پدید آمده است: اگر کسی چهره فردی را به تصویر مستهجن بدل کند، چه مجازاتی در انتظار اوست؟ آیا قوانین فعلی پاسخگوی این نوع جعل دیجیتال هستند؟ و در نهایت، چگونه میتوان در دادگاه ثابت کرد که تصویری «واقعی» است یا «ساخته شده توسط هوش مصنوعی»؟
برای یافتن پاسخ این پرسشها، با محمدحسین ساکت، قاضی بازنشسته و مستشار پیشین دیوان عالی کشور، استاد دانشگاه و وکیل پایه یک دادگستری گفتوگو کردهایم. او با نگاهی حقوقی و تجربی، از چالشها و ضرورتهای تازه قانون در عصر هوش مصنوعی میگوید.
تولید محتوای مستهجن از تصاویر افراد، در هر شرایطی جرم است
ساکت با تأکید بر صراحت قانون در حفظ عفت عمومی میگوید:«با هر ابزاری، اگر تصاویر مستهجن تهیه و پخش شود، جرم است. حتی اگر بزهکار با رضایت صاحب تصویر چنین محتوایی را تولید کرده و منتشر کند، از نظر جنبه عمومیِ جرم، خلاف عفت و اخلاق بوده و قابل تعقیب است.»
او یادآور میشود که در این زمینه تفاوتی میان استفاده از ابزارهای سنتی و هوش مصنوعی وجود ندارد؛ چرا که در هر دو صورت، حرمت انسانی و حیثیت فرد مورد تجاوز قرار گرفته است.
ضرورت بهروزرسانی قوانین در برابر موج فناوری
قاضی پیشین دیوان عالی کشور در ادامه میگوید:«با توجه به گسترش شیوههای جدیدِ تهیه و بهرهوری از هوش مصنوعی، باید قوانین بهروز شوند. طبیعتاً قوانین کنونی را میتوان با استنباط از منطق و مفهوم برخی مواد موجود تفسیر کرد، اما این کافی نیست. گویا در مجلس نیز لایحهای در این خصوص در دست تصویب است؛ باید دید در آن، چه پیشبینیهایی برای این فناوری شده است.»
در زمینه جعل محتوای دیجیتال و تولید تصاویر یا ویدیوهای دستکاریشده با هوش مصنوعی، خلأهای قانونی مشهود است.
او یادآور میشود که قانون جرایم رایانهای ایران (مصوب ۱۳۸۸) اگرچه بخشی از این مسائل را پوشش میدهد، اما از نظر مصادیق و شیوههای اثبات، پاسخگوی شرایط امروز نیست و نیاز به بازنگری و تطبیق با واقعیتهای نوپدید دارد. بهویژه در زمینه جعل محتوای دیجیتال و تولید تصاویر یا ویدیوهای دستکاریشده با هوش مصنوعی، خلأهای قانونی مشهود است و باید بهصورت صریح و شفاف مورد توجه قانونگذار قرار گیرد.
مجازات تبدیل عکس افراد به محتوای مستهجن
ساکت در پاسخ به پرسشی درباره مجازات چنین اقداماتی توضیح میدهد:«قانون مجازات اسلامی برای اعمال منافی عفت و جرایم ضد اخلاق عمومی در فصل هجدهم (مواد ۶۳۷ تا ۶۴۰) و همچنین در بخش جرایم سایبری (مواد ۷۵۳ به بعد) کیفرهای مشخصی تعیین کرده است. بنابراین اگر کسی عکس فردی را با هوش مصنوعی به محتوای مستهجن تبدیل کند، مطابق با نوع عمل، مشمول مجازات همان فصل از قانون خواهد بود.»
او توضیح میدهد: «مطابق ماده ۶۴۰ قانون مجازات اسلامی، تولید و انتشار تصاویر یا ویدیوهای مستهجن میتواند از سه ماه تا یک سال حبس و جزای نقدی به همراه داشته باشد. در مواردی که این اقدام از طریق فضای مجازی و ابزارهای هوش مصنوعی انجام شود، طبق مواد ۷۵۳ تا ۷۵۶ قانون جرایم رایانهای، مرتکب به حبس از ۹۱ روز تا دو سال یا جزای نقدی سنگین محکوم میشود. اگر این محتوا درباره افراد زیر ۱۸ سال باشد یا برای اشاعه فحشا منتشر شود، مجازات تا پنج سال حبس نیز قابل اعمال است.»
قربانی میتواند غرامت مادی و معنوی مطالبه کند
او درباره حق مطالبه غرامت از سوی قربانی چنین جرایمی میگوید:«بزهدیده، چه شخص حقیقی باشد چه حقوقی، میتواند دادخواست ضرر و زیان بدهد. این ضرر و زیان شامل دو بخش مادی و معنوی است. کارشناسان رسانه و متخصصان مربوطه میزان خسارت را برآورد میکنند و دادگاه بر اساس نظر کارشناسی رأی میدهد.»
ساکت اضافه میکند:«فرآیند اثبات خسارت بستگی دارد به شخصیت فرد و میزان آسیبی که دیده است. مثلاً اگر این اتفاق برای استاد دانشگاه یا روحانیای بیفتد که به حیثیت علمی یا اجتماعی او لطمه زده شده، میزان خسارت معنوی بالاتر خواهد بود. در حالیکه برای فردی در موقعیت اجتماعی متفاوت، ارزیابی دیگری صورت میگیرد. بنابراین، هم جنبه شخصیتی و هم گستره آسیب در تصمیم دادگاه مؤثر است.»
نقش کارشناسان فنی در تشخیص محتوای جعلی
یکی از دغدغههای اصلی در پروندههای مبتنی بر هوش مصنوعی، تشخیص اصالت عکس یا ویدیوست. ساکت در اینباره میگوید:«کارشناس حوزه مربوطه میتواند تعیین کند که محتوای مورد نظر جعلی است یا واقعی. با توجه به پیشرفت فناوری، کارشناسان فنیِ آموزشدیده قادر خواهند بود با ابزارهای نوین، این جعلیات را شناسایی کنند. احتمالاً همزمان با رشد این فناوری، ابزارهای کشف و تحلیل نیز توسعه خواهند یافت.»
با توجه به پیشرفت فناوری، کارشناسان فنیِ آموزشدیده قادر خواهند بود با ابزارهای نوین،جعلیات را شناسایی کنند
او تأکید میکند که حضور کارشناسان دیجیتالفورنسیک(جرمشناسی دیجیتال) در دستگاه قضایی باید تقویت شود تا دادگاهها بتوانند با استناد به شواهد فنیِ معتبر، تصمیمگیری کنند.
هشدار درباره اتکای بیش از حد به هوش مصنوعی در داوری و قضاوت
محمدحسین ساکت در بخش پایانی گفتوگو، با نگاهی اخلاقی و فلسفیتر به موضوع میپردازد:«هوش مصنوعی، هرچه داده به آن بدهید، همان را پردازش میکند و پاسخ میدهد اما در مسائل احساسی، اخلاقی و قضایی، او نمیتواند احساس و وجدان انسانی را جایگزین کند. طبیعی است که در چنین موقعیتهایی کم میآورد.»
او با ذکر مثالی میگوید:«چندی پیش یکی از دوستان از هوش مصنوعی خواسته بود درباره کتابی شعر بگوید؛ شعری گفت که نه وزن داشت و نه قافیه! حال تصور کنید همین ابزار بخواهد درباره سرنوشت انسانی قضاوت کند. نتیجه میتواند بسیار خطرناک باشد.»
ساکت ادامه میدهد:«در یکی از کشورهای اسکاندیناوی، تصمیم گرفته بودند پروندههای مالی زیر هفتهزار یورو را به هوش مصنوعی بسپارند. اما دیوان عالی همان کشور تمام احکام صادره را باطل کرد و اعلام نمود که هوش مصنوعی نمیتواند قضاوت انسانی را جایگزین کند. حالا ما تازه در ابتدای این مسیر هستیم و باید از تجربه آنان درس بگیریم.»
لینک کوتاه: https://khabarnegaranvaresane.ir/?p=22159
About Author
