آیا هوش مصنوعی جای والدین را می گیرد؟

دکتر محمدمهدی سیدناصری

حقوقدان،پژوهشگر حقوق کودک و آینده کودکی در عصر دیجیتال

آیا هوش مصنوعی جای والدین را می گیرد؟

کودکی که پس از یک روز دشوار به خانه برمی گردد، ممکن است پیش از آنکه با پدر یا مادرش حرف بزند، تلفن همراهش را بردارد و با یک سامانه هوش مصنوعی درباره نگرانی ها، ترس ها یا حتی رازهایش صحبت کند. شاید این سامانه همیشه در دسترس باشد، با حوصله پاسخ بدهد و هیچ وقت به او نگوید که برای شنیدن حرف هایش وقت ندارد. در نگاه نخست، چنین امکانی می تواند امیدوارکننده به نظر برسد؛ اما پشت این تصویر آرام، پرسشی جدی پنهان است: اگر کودک به تدریج برای دریافت آرامش، تایید و راهنمایی عاطفی به هوش مصنوعی وابسته شود، چه اتفاقی برای رابطه او با انسان های واقعی خواهد افتاد؟

مسئله این نیست که هر گفت وگویی با هوش مصنوعی زیان بار است یا کودکان باید از این فناوری دور نگه داشته شوند. فناوری می تواند در یادگیری، خلاقیت و دسترسی به اطلاعات مفید باشد. نگرانی اصلی از جایی آغاز می شود که یک ابزار محاسباتی، به دلیل طراحی انسان گونه و پاسخ های همدلانه، در ذهن کودک به موجودی تبدیل شود که گویی او را می شناسد، درکش می کند و همیشه خیرش را می خواهد. کودک هنوز در حال شکل دادن به درک خود از اعتماد، دوستی، وابستگی و مرزهای رابطه است. بنابراین ممکن است میان پاسخ زبانی شبیه به همدلی و رابطه انسانی مبتنی بر مسئولیت واقعی تفاوت روشنی نبیند.

هوش مصنوعی می تواند جمله ای آرامش بخش تولید کند، اما به معنای انسانی کلمه نگران کودک نیست؛ نمی تواند جای مسئولیت اخلاقی والدین، مراقبت تخصصی روان شناس یا حمایت نهادی را بگیرد. افزون بر این، پاسخ های آن همیشه درست و متناسب با وضعیت کودک نیستند. اگر کودک درباره آزار، ترس، خشونت خانوادگی یا افکار آسیب زا صحبت کند، پاسخ نامناسب یک سامانه ممکن است او را از کمک گرفتن از انسان های قابل اعتماد دور کند. خطر، صرفا خطای فناوری نیست؛ خطر بزرگ تر آن است که خانواده و جامعه، به اشتباه تصور کنند وجود یک سامانه همیشه در دسترس، نیاز کودک به رابطه انسانی را برطرف کرده است.

از منظر حقوق کودک، ماده ۳ کنوانسیون حقوق کودک، ملاحظات مربوط به منافع عالیه کودک را در تصمیم های مرتبط با او ضروری می داند و ماده ۱۲ بر حق کودک برای بیان آزادانه دیدگاه هایش تاکید می کند. این حقوق را نمی توان به انتخاب میان «استفاده کردن» یا «استفاده نکردن» از یک برنامه تقلیل داد. باید پرسید آیا طراحی و استفاده از آن، رشد عاطفی کودک را تقویت می کند؟ آیا حریم خصوصی او رعایت می شود؟ آیا در موقعیت های حساس، مسیر دسترسی به حمایت انسانی روشن است؟ و آیا کودک می داند با یک سامانه هوش مصنوعی گفت وگو می کند، نه با انسانی که توان درک و پذیرش مسئولیت های انسانی را دارد؟

در این میان، مسئولیت فقط بر دوش والدین نیست. شرکت های فناوری باید خطرهای قابل پیش بینی محصولات خود را جدی بگیرند، درباره محدودیت های سامانه ها شفاف باشند و برای موقعیت های حساس، تدابیر ایمنی متناسب با سن طراحی کنند. دولت ها نیز باید از طریق قواعد روشن، نظارت موثر و سازوکارهای رسیدگی به شکایت، مانع شوند که منافع تجاری بر سلامت و رشد کودکان مقدم شود. والدین هم به جای آنکه صرفا تلفن همراه را از کودک بگیرند یا او را به استفاده از فناوری تشویق کنند، باید فضایی بسازند که در آن کودک بتواند بدون ترس از سرزنش درباره تجربه های دیجیتال خود حرف بزند.

آینده کودکی قرار نیست به رقابتی میان والدین و هوش مصنوعی تبدیل شود. پرسش اساسی این است که آیا فناوری در خدمت تقویت روابط انسانی قرار می گیرد یا به تدریج جای خالی روابطی را پر می کند که خانواده ها، مدارس و نهادهای اجتماعی از ساختن آن ها بازمانده اند. هیچ الگوریتمی نباید بهانه ای برای کاهش مسئولیت بزرگسالان باشد. کودک به پاسخ نیاز دارد، اما بیش از آن، به کسی نیاز دارد که پاسخ گویی در برابر او را بپذیرد.