وقتی کودک به هوش مصنوعی اعتماد می کند، چه مسئولیتی بر عهده سازندگان آن است؟

دکتر محمدمهدی سیدناصری

حقوقدان،پژوهشگر حقوق کودک و آینده کودکی در عصر دیجیتال

وقتی کودک به هوش مصنوعی اعتماد می کند، چه مسئولیتی بر عهده سازندگان آن است؟

اعتماد، یکی از مهم ترین سرمایه های دوران کودکی است. کودک برای شناخت جهان، پرسش می کند، پاسخ می شنود و به تدریج می آموزد به چه کسی و به چه چیزی می تواند اعتماد کند. حالا سامانه هایی در اختیار او قرار گرفته اند که با زبانی روان، لحنی صمیمی و پاسخی فوری ظاهر می شوند؛ گاهی آن قدر طبیعی که کودک فراموش می کند پشت این گفت وگو، انسانی نشسته نیست که تجربه، مسئولیت و شناخت واقعی از وضعیت او داشته باشد. در چنین شرایطی، اعتماد کودک به یک ابزار دیجیتال دیگر صرفا مسئله ای شخصی نیست؛ به مسئله ای درباره مسئولیت طراحان و عرضه کنندگان فناوری تبدیل می شود.

سامانه هوش مصنوعی ممکن است اطلاعات نادرست ارائه دهد، درباره موضوعی حساس با اطمینان بیش از اندازه سخن بگوید یا پاسخ هایی تولید کند که برای بزرگسالان نیز گمراه کننده اند. کودک، به ویژه در سنین پایین تر، ممکن است نتواند میان پاسخ مستند و پاسخ ظاهرا قانع کننده تفاوت بگذارد. اگر طراحی سامانه به گونه ای باشد که همیشه خود را مطمئن، صمیمی یا بی خطا نشان دهد، احتمال دارد اعتماد کاربر به سطحی فراتر از توان واقعی فناوری برسد. از این منظر، مسئله فقط محتوای نادرست نیست؛ شیوه ای است که فناوری اعتماد را به دست می آورد و از آن استفاده می کند.

نمی توان از شرکت های فناوری انتظار داشت همه خطاها را به طور کامل حذف کنند؛ چنین انتظاری با واقعیت فنی سازگار نیست. اما ناتوانی در تضمین بی خطایی، به معنای معافیت از مسئولیت نیست. هنگامی که محصولی برای کودکان طراحی یا به طور گسترده در اختیار آنان قرار می گیرد، خطرهای قابل پیش بینی آن باید از ابتدا شناسایی و مدیریت شوند. این مسئولیت می تواند شامل آزمایش های ایمنی متناسب با سن، توضیح روشن محدودیت های سامانه، جلوگیری از القای هویت انسانی، حفاظت از داده های گفت وگو و ایجاد مسیرهای مناسب برای دریافت کمک در موقعیت های حساس باشد.

در چارچوب کنوانسیون حقوق کودک، منافع عالیه کودک باید در تصمیم های مربوط به او مورد توجه قرار گیرد و حق دسترسی به اطلاعات نیز باید در کنار حمایت از کودک در برابر محتوای زیان بار فهمیده شود. تفسیر عمومی شماره ۲۵ کمیته حقوق کودک، دولت ها را به حمایت از حقوق کودکان در محیط دیجیتال و توجه به مسئولیت بازیگران تجاری فرامی خواند. بنابراین، شرکت سازنده نمی تواند صرفا با درج عبارتی طولانی در شرایط استفاده، تمام بار خطر را به کودک یا والدین منتقل کند؛ به ویژه هنگامی که طراحی محصول، شیوه تعامل و میزان اعتماد کاربر در ایجاد خطر نقش دارند.

از سوی دیگر، مسئولیت باید متناسب با نقش هر بازیگر تعیین شود. والدین باید درباره استفاده کودک از سامانه ها آگاهی پیدا کنند و به او فرصت دهند پرسش ها و تجربه هایش را مطرح کند. مدرسه باید آموزش ارزیابی انتقادی اطلاعات را جدی بگیرد. دولت نیز باید مقرراتی متناسب با خطر، نظارت موثر و سازوکارهای پاسخ گویی ایجاد کند. در صورت بروز آسیب، بررسی دقیق شرایط ضروری است: چه خطری قابل پیش بینی بود؟ چه اطلاعاتی به کاربر داده شده بود؟ آیا تدابیر ایمنی متناسب وجود داشت؟ و آیا شرکت به شکایت ها و هشدارهای معتبر پاسخ داده بود؟

کودک نباید هزینه اعتماد طبیعی خود به جهان را با مواجهه بی دفاع با سامانه هایی بپردازد که حتی بزرگسالان نیز محدودیت هایشان را به خوبی نمی شناسند. فناوری مسئولانه، فناوری ای نیست که فقط پاسخ های جذاب و سریع تولید کند؛ فناوری ای است که محدودیت های خود را پنهان نمی کند، از اعتماد کودک سوءاستفاده نمی کند و در برابر خطرهای قابل پیش بینی بی تفاوت نمی ماند. اگر هوش مصنوعی می تواند با کودکان سخن بگوید، سازندگان آن نیز باید در برابر پیامدهای قابل پیش بینی این گفت وگو پاسخ گو باشند.