از «شهر هوشمند» تا «شهر قابل اعتماد»: بازتعریف حکمرانی هوش مصنوعی در مدیریت شهری

از «شهر هوشمند» تا «شهر قابل اعتماد»: بازتعریف حکمرانی هوش مصنوعی در مدیریت شهری

_چکیده

هوش مصنوعی به سرعت در حال تبدیل شدن به یکی از زیرساخت های اصلی مدیریت شهری است و از حوزه هایی مانند حمل ونقل، مدیریت انرژی و خدمات عمومی تا برنامه ریزی فضایی، تخصیص منابع و تصمیم گیری شهری در حال گسترش است. بااین حال، گسترش AI در شهرها یک تناقض بنیادین ایجاد کرده است: هرچه تصمیمات شهری بیشتر به سیستم های هوشمند وابسته می شوند، پرسش درباره امنیت، شفافیت، پاسخگویی و مسئولیت پذیری این سیستم ها اهمیت بیشتری پیدا می کند. پژوهش جدید Xu، Seto و Weng (2026) نشان می دهد که برخلاف بسیاری از سامانه های تجاری AI که تحت چارچوب های نظارتی و ارزیابی ریسک قرار دارند، بسیاری از سیستم های هوش مصنوعی شهری هنوز با شکاف های جدی در زمینه پاسخگویی الگوریتمی و امنیت زیرساختی مواجه اند. از سوی دیگر، پژوهش Mashhadi Moghaddam و Cao (2026) نشان می دهد که تمرکز بیش از حد بر دقت فنی می تواند به «دام شاخص ها» منجر شود؛ وضعیتی که در آن عملکرد الگوریتمی ظاهرا مطلوب، لزوما به نتایج مطلوب اجتماعی و سیاستی منجر نمی شود. این مقاله با رویکرد تحلیلی–اسنادی، مفهوم «شهر قابل اعتماد» (Trustworthy City) را پیشنهاد می کند؛ شهری که در آن هوش مصنوعی نه صرفا بر اساس سرعت، دقت و کارایی، بلکه بر مبنای اعتماد عمومی، قابلیت ممیزی، عدالت، امنیت، شفافیت و پاسخگویی ارزیابی می شود. استدلال اصلی مقاله آن است که مرحله بعدی تحول شهر هوشمند، عبور از «هوشمندسازی» به سمت قابل اعتمادسازی زیرساخت های هوشمند شهری است.

کلیدواژه ها: هوش مصنوعی شهری، حکمرانی دیجیتال، شهر هوشمند، شهر قابل اعتماد، پاسخگویی الگوریتمی، امنیت شهری، عدالت دیجیتال، حکمرانی هوش مصنوعی.

_{۱. مقدمه: وقتی هوش مصنوعی وارد شهر می شود}

شهر هوشمند در ابتدا عمدتا با مفاهیمی مانند حسگرها، اینترنت اشیا، داده های بزرگ و اتصال زیرساخت ها شناخته می شد. هدف اصلی این رویکرد، افزایش کارایی و ارتقای کیفیت خدمات شهری بود.

اما امروز وضعیت متفاوت است.

هوش مصنوعی دیگر صرفا یکی از فناوری های مورد استفاده در شهر نیست؛ بلکه به تدریج در حال تبدیل شدن به لایه تصمیم ساز شهر است.

AI می تواند پیش بینی کند که کدام مسیرها دچار ازدحام خواهند شد، کدام مناطق به خدمات عمومی بیشتری نیاز دارند، کدام زیرساخت ها در معرض خرابی قرار دارند و چگونه منابع شهری میان مناطق مختلف توزیع شوند.

این تحول فرصت بزرگی برای مدیریت شهری ایجاد می کند؛ اما هم زمان یک پرسش بنیادی مطرح می شود:

اگر یک الگوریتم درباره شهر تصمیم بگیرد، چه کسی مسئول پیامد آن تصمیم است؟

این پرسش زمانی جدی تر می شود که بدانیم AI در حال ورود به زیرساخت هایی مانند حمل ونقل، انرژی، خدمات عمومی و مدیریت شهری است؛ یعنی حوزه هایی که خطا در آنها می تواند پیامدهای اجتماعی و اقتصادی گسترده ای داشته باشد.

مطالعه جدید Xu و همکاران (2026) دقیقا به همین مسئله اشاره می کند و هشدار می دهد که امنیت AI شهری باید به عنوان یک مسئله اجتماعی–فنی دیده شود، نه صرفا یک مسئله فناوری اطلاعات.

_{۲. مسئله پنهان شهرهای هوشمند: «شکاف اعتماد»}

بسیاری از پروژه های شهر هوشمند بر این فرض بنا شده اند که هرچه داده بیشتر و الگوریتم دقیق تر باشد، تصمیم شهری نیز بهتر خواهد بود.

اما این رابطه همیشه برقرار نیست.

ممکن است یک سیستم AI از نظر فنی عملکرد بسیار خوبی داشته باشد، اما داده های آن ناقص، سوگیرانه یا نماینده تمام گروه های اجتماعی نباشد.

در چنین شرایطی، الگوریتم می تواند تصمیمی بسیار «دقیق» اما از نظر اجتماعی «اشتباه» تولید کند.

پژوهش Mashhadi Moghaddam و Cao (2026) با بررسی ۲۸ کاربرد AI شهری از میان ۱۵۷ مورد، این مسئله را با مفهوم Metrics Trap یا «دام شاخص ها» توضیح می دهد؛ یعنی شرایطی که در آن تمرکز بر شاخص های فنی می تواند ناکارآمدی سیاستی یا آسیب اجتماعی را پنهان کند.

بنابراین:

دقت الگوریتمی ≠ موفقیت شهری

و شاید بتوان این رابطه را به شکل دقیق تری چنین بیان کرد:

موفقیت شهری = دقت فنی + عدالت + پاسخگویی + اعتماد

_{۳. از «هوش مصنوعی شهری» به «هوش مصنوعی قابل اعتماد»}

مرحله نخست تحول AI شهری را می توان Urban AI نامید؛ یعنی استفاده از هوش مصنوعی برای حل مسائل شهری.

اما نسل بعدی باید به سمت:

Trustworthy Urban AI

حرکت کند.

در این رویکرد، یک سیستم AI تنها زمانی برای استفاده شهری مناسب تلقی می شود که علاوه بر عملکرد فنی، ویژگی های دیگری نیز داشته باشد:

شفافیت: مشخص باشد سیستم چگونه به نتیجه رسیده است.

قابلیت توضیح: تصمیم های مهم بتوانند برای مدیران و شهروندان توضیح داده شوند.

قابلیت ممیزی: عملکرد سیستم توسط نهادهای مستقل قابل بررسی باشد.

پاسخگویی: مشخص باشد در صورت خطا چه فرد یا نهادی مسئول است.

امنیت: سیستم در برابر حملات، دستکاری داده و اختلال مقاوم باشد.

عدالت: الگوریتم گروه خاصی را به شکل سیستماتیک متضرر نکند.

این تغییر نگاه، AI را از یک ابزار فنی به یک نهاد حکمرانی تبدیل می کند.

_{۴. دو ستون اصلی امنیت AI شهری}

بر اساس بحث Xu و همکاران (2026)، امنیت AI شهری را می توان در دو حوزه اصلی بررسی کرد: پاسخگویی الگوریتمی و امنیت زیرساختی.

ستون نخست: پاسخگویی الگوریتمی

پرسش اصلی این است:

چه کسی درباره تصمیم الگوریتم پاسخگو است؟

برای مثال، اگر یک الگوریتم در تخصیص خدمات عمومی تصمیمی ناعادلانه اتخاذ کند، مسئولیت آن بر عهده برنامه نویس است؟ شهرداری است؟ پیمانکار فناوری است؟ یا مدیر استفاده کننده از سیستم؟

بدون تعیین این زنجیره مسئولیت، هوش مصنوعی می تواند به یک جعبه سیاه نهادی تبدیل شود.

ستون دوم: امنیت زیرساختی

AI شهری به زیرساخت های واقعی متصل است.

اگر الگوریتم مدیریت ترافیک، انرژی، آب، حمل ونقل یا خدمات اضطراری دچار اختلال شود، پیامد آن صرفا یک خطای نرم افزاری نیست.

ممکن است عملکرد واقعی شهر مختل شود.

بنابراین امنیت AI شهری باید از امنیت سایبری سنتی فراتر رود و رابطه میان:

داده → الگوریتم → زیرساخت → خدمت → شهروند

را پوشش دهد.

_{۵. پیشنهاد مفهوم «شهر قابل اعتماد»}

بر اساس ادبیات جدید، این مقاله مفهوم Trustworthy City یا «شهر قابل اعتماد» را پیشنهاد می کند.

شهر قابل اعتماد، شهری نیست که صرفا بیشترین تعداد فناوری هوشمند را در اختیار داشته باشد؛ بلکه شهری است که شهروندان بتوانند نسبت به نحوه استفاده از فناوری، داده و الگوریتم در تصمیم گیری شهری اعتماد داشته باشند.

برای عملیاتی کردن این مفهوم، می توان پنج بعد اصلی را پیشنهاد کرد:

۱. اعتماد الگوریتمی

شهروند بداند تصمیمات هوشمند بر چه مبنایی اتخاذ می شوند.

۲. عدالت دیجیتال

گروه های مختلف اجتماعی از فناوری به شکل عادلانه بهره مند شوند.

۳. امنیت زیرساختی

سامانه های هوشمند در برابر اختلال و حمله مقاوم باشند.

۴. پاسخگویی نهادی

مسئولیت تصمیمات الگوریتمی مشخص باشد.

۵. مشارکت شهروندی

شهروندان صرفا «مصرف کننده فناوری» نباشند؛ بلکه در شکل دهی قواعد استفاده از آن نیز مشارکت داشته باشند.

بنابراین:

شهر هوشمند + اعتماد + عدالت + امنیت + پاسخگویی = شهر قابل اعتماد

_{۶. از «حکمرانی داده» به «حکمرانی الگوریتم»}

در بسیاری از شهرهای هوشمند، مسئله حکمرانی داده تا حدی مورد توجه قرار گرفته است؛ اما با گسترش AI، یک مرحله جدید ضروری شده است:

Algorithmic Governance

در حکمرانی داده، پرسش هایی مانند این مطرح می شود:

چه داده ای جمع آوری می شود؟

چه کسی به آن دسترسی دارد؟

داده کجا ذخیره می شود؟

اما در حکمرانی الگوریتم باید پرسش های جدیدی مطرح شود:

چه الگوریتمی انتخاب شده است؟

چه داده ای برای آموزش آن استفاده شده؟

چه گروه هایی ممکن است از تصمیم آن متضرر شوند؟

آیا نتایج آن قابل توضیح است؟

چه زمانی باید انسان بتواند تصمیم الگوریتم را متوقف کند؟

و اگر الگوریتم اشتباه کند، چه کسی پاسخگو خواهد بود؟

در واقع، شهرهای آینده فقط به Data Governance نیاز ندارند؛ آنها به Algorithmic Governance نیز نیاز خواهند داشت.

_{۷. پیشنهاد «ممیزی شهری هوش مصنوعی»}

یکی از نوآوری های پیشنهادی این مقاله، ایجاد نهادی با عنوان:

Urban AI Audit

یا «ممیزی هوش مصنوعی شهری» است.

پیش از آنکه یک سیستم AI در مقیاس شهری به کار گرفته شود، باید از یک فرآیند ارزیابی چندبعدی عبور کند.

این ممیزی می تواند شامل شش مرحله باشد:

مرحله اول: ممیزی داده
بررسی کیفیت، کامل بودن و نمایندگی داده ها.

مرحله دوم: ممیزی الگوریتم
بررسی سوگیری، دقت و پایداری مدل.

مرحله سوم: ممیزی عدالت
ارزیابی پیامدهای سیستم برای گروه های مختلف اجتماعی.

مرحله چهارم: ممیزی امنیت
ارزیابی آسیب پذیری سیستم در برابر حملات و اختلال.

مرحله پنجم: ممیزی تصمیم
بررسی قابلیت توضیح و امکان مداخله انسانی.

مرحله ششم: ممیزی اجتماعی
دریافت بازخورد از شهروندان و ذی نفعان.

به این ترتیب، استفاده از AI در شهر دیگر صرفا یک قرارداد فناوری نخواهد بود؛ بلکه تبدیل به یک فرآیند رسمی ارزیابی حکمرانی خواهد شد.

_{۸. از شهر هوشمند به «شهر قابل اعتماد»: پیامدهای سیاستی}

این تغییر پارادایم پیامدهای مهمی برای شهرداری ها دارد.

شهرداری آینده نباید صرفا سازمانی باشد که فناوری خریداری می کند.

بلکه باید به نهادی تبدیل شود که:

فناوری را ارزیابی می کند،

ریسک را مدیریت می کند،

الگوریتم را ممیزی می کند،

از حقوق شهروندان حفاظت می کند،

و در نهایت:

اعتماد عمومی به فناوری را می سازد.

از این منظر، سرمایه اصلی شهر هوشمند آینده فقط داده یا زیرساخت دیجیتال نیست.

بلکه:

اعتماد عمومی به سیستم دیجیتال شهر است.

اگر شهروندان باور کنند که سیستم های AI علیه آنها عمل می کنند، حتی پیشرفته ترین فناوری ها نیز با بحران مشروعیت مواجه خواهند شد.

بنابراین، موفقیت شهر هوشمند را نباید تنها با تعداد حسگرها، سرعت پردازش یا میزان اتوماسیون اندازه گیری کرد.

شاخص های جدیدی مانند اعتماد، عدالت الگوریتمی، پاسخگویی و امنیت نیز باید وارد ارزیابی عملکرد شهری شوند.

_{۹. نتیجه گیری}

هوش مصنوعی در حال تغییر ماهیت مدیریت شهری است. شهرها به تدریج از سامانه هایی که صرفا داده جمع آوری می کنند به سیستم هایی حرکت می کنند که پیش بینی، توصیه و حتی در برخی موارد تصمیم سازی می کنند.

اما این تحول بدون حکمرانی مناسب می تواند آسیب پذیری های جدیدی ایجاد کند.

پژوهش های جدید نشان می دهند که دو مسئله در این مسیر اهمیت ویژه ای دارند: پاسخگویی الگوریتمی و امنیت زیرساخت های شهری مبتنی بر AI. همچنین شواهد موجود درباره «دام شاخص ها» نشان می دهد که دقت فنی به تنهایی نمی تواند معیار موفقیت سیستم های هوشمند شهری باشد.

بر این اساس، این مقاله مفهوم «شهر قابل اعتماد» را پیشنهاد کرد؛ شهری که در آن هوش مصنوعی نه فقط برای افزایش کارایی، بلکه در چارچوبی مبتنی بر:

اعتماد + عدالت + امنیت + شفافیت + پاسخگویی

به کار گرفته می شود.

در چنین مدلی، مرحله بعدی شهر هوشمند دیگر صرفا:

Smart City

نیست؛ بلکه:

Trustworthy City

است.

و شاید مهم ترین اصل حکمرانی شهری در عصر AI را بتوان این گونه خلاصه کرد:

«هرچه تصمیمات بیشتری را به الگوریتم ها می سپاریم، باید پاسخگویی بیشتری را برای انسان ها حفظ کنیم.»

منابع

Mashhadi Moghaddam, S. N., & Cao, H. (2026). The metrics trap: How technical sophistication masks social harm in urban AI systems. npj Urban Sustainability, 6, 94. https://doi.org/10.1038/s42949-026-00394-1

Xu, Y., Seto, K. C., & Weng, Q. (2026). The invisible gap: Urban AI security. npj Urban Sustainability, 6, 101. https://doi.org/10.1038/s42949-026-00446-6

UN-Habitat. (2022). AI and cities: Risks, applications and governance. United Nations Human Settlements Programme.

Avin, S., Brundage, M., Clark, J., et al. (2021). Filling gaps in trustworthy development of AI. Science, 374(6573), 1327–1329.

Weng, Q., et al. (2024). How will AI transform urban observing, sensing, imaging, and mapping? npj Urban Sustainability, 4, 50.