آیا الگوریتم ها می توانند ناقض حقوق کودک باشند؟

---

 

برای سال ها، حقوق کودک بر این فرض استوار بود که ناقضان حقوق کودکان، اشخاص حقیقی یا نهادهای عمومی هستند؛ والدینی که از کودک غفلت می کنند، افرادی که مرتکب خشونت یا استثمار می شوند یا دولت هایی که در انجام تعهدات خود کوتاهی می کنند. اما با گسترش هوش مصنوعی، بازیگر جدیدی وارد زندگی کودکان شده است؛ الگوریتم ها. سامانه هایی که هرچند شخصیت حقوقی ندارند، اما هر روز تصمیم های بیشتری درباره کودکان می گیرند و بر زندگی آنان اثر می گذارند. این تحول، پرسشی بنیادین را مطرح می کند: آیا الگوریتم ها می توانند ناقض حقوق کودک باشند؟

در نگاه نخست، پاسخ منفی به نظر می رسد؛ زیرا الگوریتم ها فاقد اراده و مسئولیت حقوقی اند و نمی توان آن ها را همانند یک انسان یا دولت، مسئول نقض حق دانست. با این حال، واقعیت این است که بسیاری از حقوق کودکان امروز نه به واسطه تصمیم مستقیم انسان، بلکه از طریق تصمیم های الگوریتمی تحت تاثیر قرار می گیرد. بنابراین، هرچند الگوریتم را نمی توان «مسئول» دانست، اما خروجی الگوریتم ها می تواند به نقض حقوق کودک بینجامد.

امروزه الگوریتم ها تعیین می کنند که کودک چه محتوایی ببیند، چه تبلیغاتی دریافت کند، چه ویدئوهایی به او پیشنهاد شود، چه اطلاعاتی از او جمع آوری گردد و حتی در برخی کشورها، چگونه عملکرد آموزشی یا نیازهای حمایتی او ارزیابی شود. این تصمیم ها اغلب بدون شفافیت و بدون آنکه کودک یا والدین او از منطق حاکم بر آن آگاه باشند، اتخاذ می شوند.

یکی از مهم ترین مخاطرات، تبعیض الگوریتمی است. اگر داده هایی که یک سامانه هوش مصنوعی بر اساس آن آموزش دیده، ناقص یا جانبدارانه باشد، تصمیم های آن نیز ممکن است میان کودکان تفاوت های ناعادلانه ایجاد کند. برای مثال، الگوریتمی که در ارزیابی توانایی های آموزشی یا دسترسی به خدمات عمومی به کار گرفته می شود، ممکن است به دلیل سوگیری داده ها، برخی کودکان را ناعادلانه در موقعیت پایین تری قرار دهد. در چنین شرایطی، اصل عدم تبعیض که یکی از اصول بنیادین حقوق کودک است، با چالشی جدی روبه رو خواهد شد.

چالش دیگر، تاثیر الگوریتم ها بر حق رشد و تکامل کودک است. بسیاری از سامانه های پیشنهاددهنده محتوا با هدف افزایش مدت حضور کاربر طراحی شده اند، نه با هدف حمایت از رشد سالم کودک. اگر الگوریتم به طور مستمر محتوای نامناسب، خشونت آمیز یا اعتیادآور را به کودک پیشنهاد کند، هرچند تصمیم نهایی توسط ماشین گرفته شده است، اما نتیجه آن می تواند به آسیب های جدی در رشد شناختی، روانی و اجتماعی کودک منجر شود.

حقوق مربوط به حریم خصوصی نیز در معرض چالش قرار گرفته است. الگوریتم ها برای تصمیم گیری به حجم گسترده ای از داده های شخصی کودکان نیاز دارند. این داده ها، از موقعیت مکانی و رفتار آنلاین گرفته تا علایق، الگوهای یادگیری و ویژگی های شخصیتی، به طور مستمر جمع آوری و تحلیل می شوند. اگر این فرآیند بدون شفافیت، رضایت معتبر یا محدودیت های قانونی انجام شود، حق کودک بر حریم خصوصی و هویت دیجیتال به طور مستقیم تحت تاثیر قرار خواهد گرفت.

از سوی دیگر، الگوریتم ها می توانند بر حق مشارکت کودک نیز اثر بگذارند. هنگامی که سامانه های هوشمند بر اساس تحلیل رفتار گذشته، علایق و انتخاب های آینده کودک را پیش بینی و هدایت می کنند، این خطر وجود دارد که به تدریج دامنه انتخاب آزاد او محدود شود. در چنین وضعیتی، الگوریتم صرفا یک ابزار فنی نیست، بلکه به عاملی تبدیل می شود که بر شکل گیری شخصیت، ترجیحات و فرصت های آینده کودک اثر می گذارد.

البته نباید از ظرفیت های مثبت الگوریتم ها نیز غافل شد. هوش مصنوعی می تواند در تشخیص زودهنگام اختلالات رشدی، شخصی سازی آموزش، حمایت از کودکان دارای معلولیت یا شناسایی کودکان در معرض خطر نقش موثری ایفا کند. بنابراین، مسئله اصلی، استفاده یا عدم استفاده از الگوریتم ها نیست، بلکه طراحی و به کارگیری مسئولانه آن ها بر اساس اصول حقوق کودک است.

این واقعیت، مسئولیت را متوجه طراحان، شرکت های فناوری و دولت ها می کند. اگر الگوریتمی به نقض حقوق کودک منجر شود، مسئولیت متوجه کسانی است که آن را طراحی، آموزش، عرضه یا بدون نظارت مناسب به کار گرفته اند. به همین دلیل، بسیاری از اسناد جدید بین المللی بر ضرورت ارزیابی اثر سامانه های هوش مصنوعی بر حقوق کودک، شفافیت الگوریتمی و پاسخ گویی توسعه دهندگان تاکید می کنند.

در نهایت، پرسش اصلی شاید این نباشد که آیا الگوریتم ها خود ناقض حقوق کودک هستند یا خیر، بلکه این باشد که آیا نظام حقوقی ما برای پیشگیری از نقض حقوق کودک توسط تصمیم های الگوریتمی آماده است؟ اگر حقوق کودک نتواند خود را با واقعیت های عصر هوش مصنوعی تطبیق دهد، بخش مهمی از تصمیم های موثر بر زندگی کودکان، خارج از قلمرو نظارت حقوقی باقی خواهد ماند.

در قرن بیست ویکم، حمایت از حقوق کودک دیگر تنها به نظارت بر رفتار انسان ها محدود نمی شود؛ بلکه مستلزم نظارت بر سامانه های هوشمندی نیز هست که هر روز نقش بیشتری در شکل دادن به زندگی کودکان ایفا می کنند. شاید آینده حقوق کودک، بیش از هر زمان دیگری، به توانایی ما در حکمرانی بر الگوریتم ها وابسته باشد، نه صرفا حکمرانی بر انسان ها.

---

 

محمدمهدی سیدناصری

پژوهشگر حقوق کودک و آینده کودکی در عصر دیجیتال