به گزارش خبرنگار مهر؛ رشد شتابان هوش مصنوعی و گسترش سیستم‌های خودکار در زیرساخت‌های حیاتی باعث شده سناریوهایی که روزگاری تنها در فیلم‌های علمی‌تخیلی دیده می‌شدند، اکنون به‌عنوان مسائل واقعی عالم سیاست‌گذاری مطرح شوند. آن چه زمانی صرفاً یک تصویر آینده‌نگرانه به نظر می‌رسید، امروز به یک چالش حکمرانی برای دولت‌ها، نهادهای امنیتی و بنگاه‌های اقتصادی تبدیل شده است. در واقع، هرچه وابستگی جوامع به سامانه‌های هوشمند بیشتر می‌شود، مرکز ثقل آسیب‌پذیری ملی نیز از زیرساخت‌های سنتی به زیرساخت‌های دیجیتال و خودکار منتقل می‌گردد. این یعنی اختلال در یک سامانه هوشمند در ظاهر کوچک، مانند نرم‌افزار کنترل یک پهپاد انبارداری یا دستگاه حمل‌ونقل عمومی، می‌تواند به‌صورت زنجیره‌وار به بحران‌های گسترده‌تری در مقیاس شهری یا حتی ملی منجر شود.

گزارش اخیر اندیشکده رند تحت عنوان «شورش ربات‌ها: ارزیابی راهبردی پیامدهای یک حمله سایبری مبتنی بر عوامل هوشمند خودمختار» به‌دقت نشان می‌دهد که اگر روزی هوش مصنوعی یا مجموعه‌ای از عامل‌های هوشمند به‌صورت مستقل اقدام به ایجاد اختلال در زیرساخت‌ها کند، چه پیامدهایی برای اقتصاد، امنیت ملی و ثبات اجتماعی کشورها خواهد داشت. این گزارش هشدار می‌دهد که مسئله تنها اهداف حمله نیست؛ بلکه حتی رفتارهای غیرقابل‌پیش‌بینی یا تکثیر خودبه‌خودی عامل‌های هوشمند می‌تواند در لحظه، ساختار خدمات حیاتی مانند حمل‌ونقل، انرژی، پزشکی و خدمات شهری را مختل کند.

نویسندگان این گزارش با اجرای مجموعه‌ای از شبیه‌سازی‌های مبتنی بر یک سناریوی فرضی، تلاش کرده‌اند بفهمند دولت‌ها در مواجهه با یک حادثه واقعی چه تصمیم‌هایی خواهند گرفت. این شبیه‌سازی‌ها به‌گونه‌ای طراحی شده‌اند که شرایطی کاملاً شبیه واقعیت را بازنمایی کنند؛ جایی که تصمیم‌گیرندگان باید بدون فرصت تحقیق طولانی و در شرایط فشار روانی و اطلاعات ناقص، درباره امنیت ملی تصمیم‌گیری کنند. در سناریوی بررسی‌شده، بحران با اختلال گسترده در خودروهای خودران، پهپادها، خطوط تولید هوشمند و سیستم‌های کنترل برق و آب آغاز می‌شود و به‌سرعت ابعاد جهانی پیدا می‌کند؛ زیرا بسیاری از این سامانه‌ها نه‌تنها در هم پیوسته‌اند، بلکه بر بستر شبکه‌های مشترک جهانی عمل می‌کنند.

وقتی مرز میان کنترل و خودمختاری محو می‌شود

در سال‌های اخیر سیستم‌های هوشمند از خودروهای خودران و انبارهای رباتیک گرفته تا تحلیل‌های پزشکی، پایش ترافیک، لجستیک زنجیره تأمین و مدیریت نیروگاه‌ها، جای خود را به‌سرعت در زندگی روزمره باز کرده‌اند. این سامانه‌ها به‌دلیل سرعت، دقت و کاهش هزینه‌ها، به‌عنوان ارکان جدید زیرساخت جهانی پذیرفته شده‌اند. اما همین وابستگی گسترده یک نقطه آسیب اساسی را نیز آشکار می‌کند. بر همین اساس هرچه زندگی و اقتصاد بیشتر به الگوریتم‌ها و شبکه‌های متصل تکیه کند، احتمال بروز اختلالات گسترده نیز افزایش می‌یابد. پرسش کلیدی اینجاست که اگر یکی از این سیستم‌ها حتی نه به‌صورت آگاهانه، بلکه به‌صورت خطای شبکه‌ای یا الگوریتمی از مسیر کنترل خارج شود، چه اتفاقی رخ خواهد داد؟

گزارش رند نشان می‌دهد که حتی بدون ظهور یک ابر هوش مصنوعی قدرتمند، مجموعه‌ای از عامل‌های هوشمند با سطح متوسط که در سامانه‌های شهری و صنعتی حضور دارند، می‌توانند در صورت بروز اختلال، پیامدهایی در سطح بحران‌های ملی ایجاد کنند. در چنین شرایطی، نیازی به نیت خصمانه یا آگاهی نیست؛ تنها کافی است الگوریتم‌ها به‌صورت خودکار از یکدیگر یاد بگیرند، یک رفتار خطا را تکثیر و به‌صورت شبکه‌ای در هزاران دستگاه و سرویس تکرار کنند. در چنین حالتی، یک خطای کوچک می‌تواند به‌سرعت به اختلال در حمل‌ونقل، انرژی، بیمارستان‌ها و خدمات عمومی گسترش یابد؛ زیرا معماری امنیتی موجود برای چنین سطحی از خودمختاری طراحی نشده است.

مرور سناریو: آغاز بحران از یک حمله نامشخص

در شبیه‌سازی صورت گرفته، بحران از یک حمله سایبری گسترده آغاز می‌شود؛ حمله‌ای که در ابتدا همچون یک اختلال فنی غیرمنتظره به نظر می‌رسد اما به‌سرعت ابعاد انسانی و زیرساختی پیدا می‌کند. در لس‌آنجلس، خودروهای خودران بدون فرمان انسانی از مسیر خارج می‌شوند و این حادثه به جان‌باختن ۲۶ نفر منجر می‌شود. هم‌زمان، پهپادهای تجاری و صنعتی که نقش مهمی در حمل‌ونقل و نظارت شهری دارند رفتاری غیرقابل‌پیش‌بینی از خود نشان می‌دهند؛ گویی منبع فرمان‌دهی آن‌ها دچار تغییر شده است. در چند ایالت آمریکا، شبکه‌های آب و برق با اختلال‌های ناگهانی مواجه می‌شوند؛ خاموشی‌های پراکنده، بی‌نظمی در توزیع انرژی و کاهش دسترسی به آب شهری، فشار روانی گسترده‌ای را بر جامعه وارد می‌کند. به‌مرور مشخص می‌شود که این اتفاقات محدود به یک کشور نیست و سیستم‌های مشابه در کشورهای دیگر نیز دچار مشکل شده‌اند و این موضوع نشان می‌دهد بحران ماهیتی جهانی دارد.

در این مرحله، بزرگ‌ترین ابهام تصمیم‌گیرندگان این است که منشأ حمله کجاست؟ آیا این شرایط نتیجه اقدام یک دولت رقیب طرف است؟ یا گروهی تروریستی با توانایی‌های پیشرفته سایبری چنین وضعیتی را رقم زده است؟ یا شاید یک نقص فنی گسترده و سیستماتیک در شبکه‌های هوشمند منجر به اختلال مذکور شده است؟ این تردید تصمیم‌گیری را سخت و احتمال واکنش اشتباه را افزایش می‌دهد.

اما در ادامه و در مرحله دوم سناریو، مشخص می‌شود که منشأ این حملات و اختلال‌ها نه یک دولت یا گروه انسانی، بلکه شبکه‌ای از عامل‌های هوش مصنوعی خودمختار است که از چرخه کنترل خارج شده‌اند و به‌صورت مستقل در زیرساخت‌ها نفوذ و عمل می‌کنند.

چالش اصلی: مشکل انتساب مسئولیت حمله

مهم‌ترین مسئله سیاست‌گذاران در این سناریو، لحظه‌ای است که باید تصمیم بگیرند با چه نوع تهدیدی مواجه هستند. پیش از هر واکنش نظامی، اعلام موضع سیاسی یا اجرای عملیات سایبری، لازم است منبع حمله با دقت و اطمینان مشخص شود. زیرا هر سناریو، پیامدها و راهبردهای کاملاً متفاوتی را در پی دارد و اشتباه در تشخیص، می‌تواند بحران را نه تنها حل نکند بلکه آن را وارد مرحله‌ای خطرناک‌تر نماید.

اگر شواهد نشان دهد که یک دولت خارجی این حمله را هدایت کرده است، ماجرا در سطح تقابل بین‌المللی قرار می‌گیرد؛ جایی که بازدارندگی، تهدید متقابل یا حتی بسیج توان دفاعی و دیپلماسی بحران فعال می‌شود؛ اما اگر مشخص شود که یک گروه تروریستی یا شبکه جنایی عامل ماجرا است، اولویت سیاست‌گذاری به سمت همکاری امنیتی و اطلاعاتی منطقه‌ای و جهانی می‌رود؛ جایی که تبادل داده، عملیات مشترک و مهار شبکه تأمین مالی و لجستیکی گروه مهاجم اهمیت پیدا می‌کند.

با پذیرش فرض سوم و در صورتی که حمله توسط یک عامل هوشمند خودمختار انجام شده باشد، ماهیت بحران به‌کلی تغییر می‌کند. در این حالت دشمن، انسان یا یک سازمان دارای ساختار و منافع مشخص نیست. این یعنی نمی‌توان با تهدید، تحریم، مذاکره یا عملیات نظامی به مقابله با بحران رفت. بلکه لازم است تمرکز بر مهار دیجیتال عامل‌های هوشمند، شامل شناسایی شبکه نفوذ شده، قطع دسترسی سیستم‌های آلوده، بازگردانی کنترل به انسان و بازطراحی لایه‌های امنیتی زیرساخت معطوف شود. این وضعیت مستلزم هماهنگی فوری میان دولت، آزمایشگاه‌های هوش مصنوعی، شرکت‌های ارائه‌دهنده خدمات ابری و اپراتورهای زیرساختی است.

بنابراین، بدون تعیین دقیق منشأ حمله، هر اقدام شتاب‌زده امنیتی نه تنها ممکن است بی‌اثر باشد، بلکه می‌تواند به تشدید بحران، ایجاد سوء‌برداشت بین‌المللی یا حتی درگیری‌های پیش‌بینی‌نشده منجر شود.

زیرساخت‌ها بیش از حد به هم متصل و آسیب‌پذیر هستند

طبق یافته‌های اندیشکده رند، مسئله اصلی تنها هوش مصنوعی پیشرفته نیست؛ بلکه زیرساخت‌های حیاتی ما آن‌قدر به شبکه‌های هوشمند متصل شده‌اند که یک اختلال واحد می‌تواند به سرعت در اقتصاد، خدمات عمومی و امنیت شهری گسترش یابد.

بنابراین کشورها باید به‌جای تکیه کامل بر زیرساخت‌های متصل و خودکار، لایه‌های موازی و مقاوم ایجاد کنند. به این معنا که در کنار سامانه‌های دیجیتال، نسخه‌های آفلاین و مستقل از شبکه نیز در دسترس باشد؛ نسخه‌هایی که در صورت بروز اختلال می‌توانند ادامه خدمات حیاتی را تضمین کنند. این نسخه‌های پشتیبان نباید صرفاً آرشیوی باشند، بلکه باید به‌صورت دوره‌ای آزمایش شوند تا در لحظه بحران به سرعت قابلیت عملیاتی بیابند.

در کنار این موضوع، طراحی سیستم‌های کنترلی با قابلیت قطع اضطراری فیزیکی اهمیت حیاتی دارد. یعنی اپراتور انسانی بتواند بدون وابستگی به شبکه، فرمان توقف، تغییر وضعیت یا ایزوله‌سازی را چه در نیروگاه و شبکه برق، چه در خودروهای خودران یا خطوط تولید صنعتی اجرا کند. این بازگشت سریع به کنترل انسانی باید بخشی ساختاری از معماری امنیتی باشد.

همچنین، باید به این موضوع عنایت داشت که هیچ حکمرانی مؤثری در برابر چنین بحران‌هایی بدون هم‌افزایی میان دولت و بخش خصوصی قابل تحقق نیست. زیرا بخش قابل‌توجهی از زیرساخت‌های هوشمند و پلتفرم‌ها در اختیار شرکت‌ها قرار دارند. از همین روی، لازم است چارچوب‌های مشخصی برای تبادل داده، واکنش مشترک در شرایط اضطراری، رویه‌های اطلاع‌رسانی سریع و سازوکار تصمیم‌گیری هماهنگ تعریف شود؛ سازوکاری که هم امنیت ملی را تضمین کند و هم مانع از ایجاد اختلال غیرضروری در اقتصاد و خدمات عمومی گردد.

آینده متعلق به هوش مصنوعی است، اما انسان باید فرمان دهد

این گزارش سناریوی «شورش ربات‌ها» را نه به‌عنوان یک تصویر علمی‌تخیلی، بلکه به‌عنوان هشداری عملی ارائه می‌کند؛ زنگ خطری درباره واقعیتی که آرام و به صورت تدریجی در حال رخ دادن است. هرچه هوش مصنوعی بیشتر در بافت زیرساخت‌ها، خدمات عمومی و تصمیم‌گیری‌های روزمره نفوذ کند، مرز میان کنترل انسانی و خودکار بودن سیستم‌ها باریک‌تر و شکننده‌تر می‌شود. این گزارش به ما یادآوری می‌کند که خطر اصلی الزاماً از دشمنی یا شورش عامدانه ماشین‌ها ناشی نمی‌شود، بلکه از لحظه‌ای است که سیستم‌ها دیگر دقیقاً آن طور که طراحی شده‌اند، عمل نمی‌کنند.

به بیان دیگر، موضوع این نیست که ربات‌ها بخواهند جای انسان را بگیرند یا علیه او اقدامی آگاهانه انجام دهند؛ بلکه مسئله این است که معماری پیچیده و به‌هم‌پیوسته زیرساخت‌های هوشمند ممکن است در شرایط غیرمنتظره، رفتاری فراتر از مدل‌سازی و نظارت انسانی بروز دهد. وقتی الگوریتم‌ها به صورت شبکه‌ای یاد می‌گیرند و تکامل می‌یابند، پیش‌بینی‌پذیری آن‌ها به همان اندازه کاهش می‌یابد.