جعل تصویر کودکان با هوش مصنوعی؛ قانون کجا ایستاده است؟

دکتر محمدمهدی سیدناصری

حقوقدان،پژوهشگر حقوق کودک و آینده کودکی در عصر دیجیتال

جعل تصویر کودکان با هوش مصنوعی؛ قانون کجا ایستاده است؟

تا چند سال پیش، دست کاری تصویر به مهارت های تخصصی و ابزارهای نسبتا پیچیده نیاز داشت؛ امروز برخی سامانه های هوش مصنوعی می توانند با چند ورودی ساده، تصویر یا ویدئویی بسازند که در نگاه نخست واقعی به نظر برسد. این تحول، در کنار فرصت های خلاقانه، خطر تازه ای برای کودکان ایجاد کرده است: ممکن است تصویر آنان بدون اجازه در موقعیتی ساختگی قرار گیرد، چهره شان به محتوایی تحقیرآمیز پیوند بخورد یا از تصویرشان برای تولید محتوای جنسی جعلی استفاده شود. حتی اگر تصویر تولیدشده واقعی نباشد، آسیب ناشی از انتشار آن می تواند کاملا واقعی باشد.

اشتباه است اگر تصور کنیم چون یک تصویر ساختگی است، پس هیچ قربانی ای وجود ندارد. هویت کودک، احساس امنیت او، روابطش با همسالان و اعتبار اجتماعی اش ممکن است تحت تاثیر قرار گیرد. انتشار چنین محتوایی می تواند زمینه تهدید، اخاذی، تحقیر یا آزار مستمر را فراهم کند. در مورد تصاویر جنسی ساختگی از کودکان، مسئله به ویژه جدی است؛ زیرا تولید و انتشار این محتوا می تواند کرامت کودک را نقض کند و در بسیاری از نظام های حقوقی، بسته به تعریف قانونی و شرایط پرونده، مشمول مقررات کیفری مرتبط با سوءاستفاده یا بهره کشی جنسی از کودکان شود. بااین حال، حدود دقیق جرم انگاری در همه کشورها یکسان نیست و باید بر اساس قانون قابل اعمال بررسی شود.

ماده ۱۶کنوانسیون حقوق کودک، حریم خصوصی و اعتبار کودک را مورد حمایت قرار می دهد و ماده ۱۹ بر ضرورت حفاظت از کودک در برابر اشکال خشونت تاکید می کند. ماده ۳۴نیز دولت ها را به حمایت از کودکان در برابر بهره کشی و سوءاستفاده جنسی متعهد می سازد. این تعهدات در محیط دیجیتال نیز اهمیت دارند؛ جایی که محتوای جعلی می تواند به سرعت تکثیر شود و حذف یک نسخه، لزوما به معنای پایان انتشار آن نیست.

مقابله با این پدیده فقط با مجازات فردی که تصویر را ساخته است ممکن نیست. باید میان مسئولیت تولیدکننده محتوا، منتشرکننده، پلتفرم میزبان و سازنده ابزارهای مورد استفاده تمایز گذاشت و نقش هر کدام را بر اساس قانون و شرایط واقعی بررسی کرد. خدمات دیجیتال باید راه های روشن گزارش دهی، رسیدگی سریع به محتوای زیان بار و حفاظت از هویت قربانیان داشته باشند. دولت ها نیز باید قوانین خود را با واقعیت محتوای تولیدشده به کمک هوش مصنوعی هماهنگ کنند و امکان دسترسی به حمایت حقوقی و روانی را برای کودکان فراهم آورند.

در چنین پرونده هایی، رفتار خانواده و مدرسه نیز اهمیت دارد. کودکی که قربانی جعل تصویر شده است، نباید به دلیل انتشار محتوا سرزنش شود یا مجبور باشد بار اثبات بی گناهی خود را بر دوش بکشد. حفظ شواهد، گزارش محتوا از مسیرهای مناسب و دریافت کمک تخصصی می تواند ضروری باشد، اما نباید کودک را بارها در معرض بازگویی تجربه آزاردهنده قرار داد.

هوش مصنوعی مرز میان واقعیت و تصویر را پیچیده تر کرده است، اما این پیچیدگی نباید به خلا مسئولیت تبدیل شود. اگر فناوری می تواند تصویری ساختگی بسازد که زندگی واقعی یک کودک را تحت تاثیر قرار دهد، نظام حقوقی نیز باید راهی روشن برای حمایت از او فراهم کند. کودک نباید برای اثبات اینکه تصویری از او واقعی نیست، تنها بماند؛ همان طور که نباید برای اثبات واقعی بودن رنجش، به مبارزه ای فرساینده با پلتفرم ها و نهادها وادار شود.