بینش‌های صنعت

لایه تاب‌آوری: مدیریت ریسک هوش مصنوعی در زیرساخت حیاتی

تیم ژرف ای‌آی

•۲۸ خرداد ۱۴۰۵•به‌روزرسانی ۸ مرداد ۱۴۰۵•۱۰ دقیقه مطالعه

لایه تاب‌آوری: مدیریت ریسک هوش مصنوعی در زیرساخت حیاتی

هوش مصنوعی در برق، آب، حمل‌ونقل، مخابرات، سلامت و خدمات اضطراری، خطر فیزیکی و اجتماعی را تغییر می‌دهد. توصیه مدل می‌تواند اولویت تعمیر را عوض کند، پیش‌بینی بر اعزام اثر بگذارد، عامل به فناوری عملیاتی دست بزند، هشدار کاذب اپراتور را خسته کند و هشدار ازدست‌رفته خدمت حیاتی را قطع کند. بنابراین میانگین عملکرد روی یک معیار عمومی، ملاک انتشار نیست.

هوش مصنوعی باید جزئی از سامانه مهندسی ایمنی، امنیت و تاب‌آوری باشد. مرز عملیاتی، حفاظت قطعی، حسگر مستقل، اختیار انسان، افت تدریجی و امن، دفاع سایبری، بازیابی و شواهد رفتار پذیرفتنی زیر فشار لازم است؛ نه فقط نتیجه خوب روی تاریخ عادی.

پشتیبانی تصمیم را از کنترل جدا کنید

اختیار را طبقه‌بندی کنید:

مشاهده: لاگ را خلاصه، هشدار را دسته‌بندی یا الگو را بدون تغییر وضعیت عملیاتی پیدا کند.
توصیه: بازرسی، اعزام یا پاسخ را به اپراتور مجاز پیشنهاد دهد.
آماده‌سازی: دستور کار یا برنامه کنترل را پیش‌نویس کند، بی‌آن‌که اجرا شود.
اقدام محدود: در محدوده قطعی و با قفل ایمنی، محدودیت نرخ و لغو فوری عمل کند.
کنترل خودمختار حیاتی: بیشترین پیامد را دارد و به‌ندرت نقطه شروع مناسب مدل عمومی است.

مرز باید در معماری باشد، نه فقط در متن دستور. مدل زبانی که «نباید کلید را باز کند» اما اعتبارنامه دارد هنوز توان انجامش را دارد. هویت جدا، حداقل دسترسی، فهرست ابزار مجاز، اجرای سیاست مستقل، تأیید دو نفر و قفل سخت‌افزاری یا کنترلی را متناسب به کار ببرید.

حفاظت معمول را مستقل نگه دارید. هوش مصنوعی شاید بی‌ثباتی را پیش‌بینی کند، اما جای رله حفاظتی، خاموشی اضطراری، کنترل تأییدشده، هشدار و مسئولیت قانونی اپراتور را نمی‌گیرد، مگر آن کارکرد تمام فرایند مهندسی و مقرراتی را طی کند.

از چارچوب چرخه عمر استفاده کنید

چارچوب مدیریت ریسک هوش مصنوعی NIST کار را به «حاکمیت، نگاشت، سنجش و مدیریت» تقسیم می‌کند. هسته چارچوب NIST بر موجودی، نقش روشن، پایش پیوسته، خطر شخص ثالث، پاسخ رخداد، بازیابی، لغو و خروج از خدمت تأکید دارد.

تا ۳۰ ژوئیه ۲۰۲۶، NIST در حال بازنگری نسخه ۱٫۰ بود و نمایه زیرساخت حیاتی را آغاز کرده اما نهایی نکرده بود. یادداشت مفهومی آوریل ۲۰۲۶ دارایی قدیمی و پراکنده، رفتار قطعی، توضیح‌پذیری، افت امن، تاب‌آوری خصمانه، آزمون سخت و دید زنجیره تأمین را نام می‌برد. این طرح کاری در حال توسعه است، نه استاندارد نهایی.

حاکمیت: مدیر پاسخ‌گو، مالک سامانه و ایمنی، اپراتور، ریسک مدل، امنیت، فروشنده و ناظر را نام ببرید.
نگاشت: مأموریت خدمت، فرایند فیزیکی، کاربران، جامعه متاثر، وابستگی، خطر و گزینه بدون هوش مصنوعی را ثبت کنید.
سنجش: عملکرد فنی، عامل انسانی، تاب‌آوری سایبری، محیط، رویداد نادر و اثر پایین‌دست را بسنجید.
مدیریت: خطر را حذف، کاهش، انتقال یا بپذیرید و استقرار را پایش، رخداد را پاسخ و سامانه را امن غیرفعال کنید.

مدل خطر را از خدمت آغاز کنید

ابتدا زیان را بنویسید، نه خطای مدل:

مرگ یا آسیب؛
قطع طولانی یا افت ناامن خدمت ضروری؛
خسارت تجهیز یا رهاسازی محیطی؛
شکست آبشاری میان بخش‌ها؛
از دست‌رفتن آگاهی موقعیتی اپراتور؛
اقدام فیزیکی غیرمجاز؛
تخصیص تبعیض‌آمیز خدمت؛
افشای داده حساس زیرساخت یا مشتری.

سپس مسیر دخالت هوش مصنوعی را ردیابی کنید. پیش‌بینی شاید رویداد شدید بی‌سابقه را کم ببیند؛ بینایی در نور نامعمول خوردگی را نیابد؛ مدل نگهداشت خرابی پرتکرار کم‌هزینه را از خرابی نادر فاجعه‌بار بالاتر بگذارد؛ عامل بازیابی، دستور مخرب داخل سند فروشنده را دنبال کند؛ یا به‌روزرسانی بدون درخواست تغییر، دسته‌بندی هشدار را عوض کند.

از HAZOP، درخت خطا، FMEA، پرونده ایمنی و نمودار پاپیونی استفاده و آن را به داده، مدل، دستور، ابزار و تعامل انسان گسترش دهید. خطر را به دفتر موجود تأسیسات وصل کنید، نه سند موازی «اخلاق هوش مصنوعی».

سناریو: دستیار در اتاق کنترل برق

شرکت برق، دستیار را برای هم‌بسته‌کردن هشدارهای SCADA، هوا، بلیت قطعی، سابقه دارایی و دستور مصوب به کار می‌گیرد. سامانه وضعیت را خلاصه و آزمون تشخیصی پیشنهاد می‌دهد؛ اجازه صدور دستور کلیدزنی، تغییر حفاظت یا نوشتن در SCADA ندارد.

در توفان، چند دورسنجی کهنه و یک اطلاعیه فروشنده دارای عبارت شبیه دستور وارد نمایه است. سامانه تازگی را علامت می‌زند، دستور نامطمئن را کنار می‌گذارد و افت اطمینان را اعلام می‌کند. دو فرضیه همراه منبع و مدرک مفقود عرضه می‌شود و اپراتور همان فرایند جاری کلیدزنی و تشدید را اجرا می‌کند.

اگر دستیار از کار بیفتد، اتاق کنترل صفحه هشدار، دستور، رادیو و کارکنان خود را دارد. قطعی آن نباید خدمت را مسدود کند. توصیه بی‌پشتوانه تکراری باید کلید قطع دستیار را فعال و لاگ را حفظ کند.

اعلام ژوئیه ۲۰۲۶ وزارت انرژی آمریکا درباره محیط آزمون Stormbreaker نشان می‌دهد ارزیابی مدل زبانی و عامل در برق و فناوری عملیاتی جدی گرفته شده است؛ این برنامه هیچ فروشنده یا استقراری را تأیید نمی‌کند.

اطمینان از داده و مدل

قرارداد داده

برای حسگر، لاگ، پیش‌بینی، سند و گزارش انسانی، مالک، هم‌زمانی، واحد، کالیبراسیون، نمونه‌برداری، تأخیر، دامنه، پرچم کیفیت، نگهداری و محدودیت را ثبت کنید. نبود داده شاید معنادار، مخرب یا عادی باشد؛ مدل نباید وضعیت ایمن را پنهانی جای‌گذاری کند.

شرایط شدید و توزیع

ارزیابی را بر اساس فصل، جغرافیا، سن دارایی، حالت کار، تأمین‌کننده، هوا، قطع ارتباط و شدت تفکیک کنید. تاریخ عادی ترکیب نادر را کم دارد. شبیه‌سازی، دوقلوی دیجیتال، سناریوی مهندسی و تزریق خطا بیفزایید و مدرک ساختگی را از تاریخ جدا کنید.

صلاحیت مدل

مدل، دستور، ابزار، مخزن بازیابی، آستانه و محیط اجرا را نسخه‌بندی کنید. کالیبراسیون، بار هشدار، رخداد حیاتی ازدست‌رفته، مقاومت به ورودی خراب و عملکرد زیر بار را بسنجید. معیار عمومی، مناسب‌بودن برای نیروگاه یا آب را ثابت نمی‌کند.

بررسی مستقل

مقدار حیاتی با محاسبه قطعی یا حسگر جدا بررسی شود. واحد و مرز فیزیکی بیرون مدل اعتبارسنجی گردد. یک مدل هم برنامه را نسازد و هم تأیید نکند.

کنترل تغییر

به‌روزرسانی فروشنده، مدل تازه، ویرایش دستور، نگاشت دوباره داده، بازیاب یا ابزار تازه، تغییر سامانه است. آزمون بازگشت، بازبینی ایمنی، اطلاع ناظر، آموزش و راه برگشت لازم را تعیین کنید.

امنیت هوش مصنوعی در فناوری عملیاتی

جزء هوش مصنوعی مسیر حمله تازه‌ای می‌سازد: زنجیره مدل و داده، رابط، پایگاه برداری، دستور، افزونه، کارگزار اجرا، خط آموزش و پشتیبانی دور. اعتماد صفر و جداسازی فناوری عملیاتی را اجرا کنید:

هوش مصنوعی اینترنتی یا سازمانی از مسیر کنترل مستقیم دور باشد؛
جریان یک‌طرفه یا واسطه‌شده در محل مناسب؛
اعتبارنامه ابزار و محیط جدا؛
فهرست اقدام مجاز و اعتبارسنجی پارامتر؛
سند، بلیت و متن حسگر ورودی نامطمئن؛
مدل، کد و تنظیمات امضاشده و هنگام انتشار راستی‌آزمایی‌شده؛
ثبت بازیابی، دستور، فراخوان ابزار، سیاست و لغو؛
آزمون تزریق، مسموم‌سازی، گریز، استخراج و محروم‌سازی خدمت؛
حفظ مسیر دستی و قطعی؛
ورود زنجیره تأمین هوش مصنوعی به تمرین رخداد.

اصول امنیت فناوری عملیاتی CISA و شرکای بین‌المللی یادآور می‌شود امنیت به معماری و انضباط چرخه عمر نیاز دارد. هوش مصنوعی جای این پایه را نمی‌گیرد. امنیت سایبری و فیزیکی زیرساخت جزئیات بیشتری دارد.

عامل انسانی و اختیار عملیاتی

اپراتور باید بداند سامانه چه دیده و چه ندیده، ورودی چقدر تازه است، کدام منبع از توصیه پشتیبانی می‌کند و کدام اقدام هنوز اختیار انسان است. امتیاز اطمینان بدون پیامد و گزینه جایگزین کافی نیست.

حجم هشدار زیر هجوم، سوگیری خودکارسازی، تحویل شیفت، خستگی، ارتباط ضعیف، دسترس‌پذیری، زبان، بازیابی پس از خاموشی و حفظ مهارت دستی را بیازمایید. لغو توصیه لزوماً خطای اپراتور نیست؛ شاید زمینه بد، شرایط محلی یا دستور قدیمی را نشان دهد. لغو را مدرک ایمنی بدانید و اختیار توقف و گزارش بی‌تنبیه را حفظ کنید.

خطر تأمین‌کننده و وابستگی

فروشنده مدل، ابر، تراشه، کتابخانه، تأمین‌کننده داده، یکپارچه‌ساز، مدیر دور و پشتیبانی را نگاشت کنید. قرارداد به اعلام تغییر و رخداد، مدرک ممیزی، رسیدگی آسیب‌پذیری، محدودیت مصرف داده، تداوم، خروج لاگ و کمک خروج نیاز دارد.

«مدل اختصاصی» دلیل رد آزمون سطح سامانه نیست. بدون دسترسی به وزن نیز خروجی، ابزار، شکست، مسیر داده، به‌روزرسانی و بازیابی قابل سنجش است. خرید و ریسک فروشنده هوش مصنوعی باید پیش از اتصال به فناوری عملیاتی انجام شود.

سنجه‌های مهم

رخداد ازدست‌رفته و هشدار کاذب وزن‌دار، زمان کشف تا اقدام، کالیبراسیون، تشخیص داده کهنه و مفقود و متعارض، توصیه بی‌پشتوانه، تلاش ابزار ناامن، پذیرش و اصلاح و بار کاری، دسترس‌پذیری، زمان رسیدن به افت امن، راه جایگزین، رخداد سایبری، رانش، آزمون بازگشت، بازیابی و عملکرد بر اساس محل و دارایی و محیط و جمعیت را بسنجید.

شبه‌حادثه و گزارش کیفی اپراتور شاخص پیشروست. خطر نادر فاجعه‌بار را نمی‌توان با انتظار برای آمار رخداد تولید مدیریت کرد.

دروازه انتشار

پیش از تولید:

کاربرد مجاز و ممنوع، اختیار و مالک ایمنی مستند باشد؛
تحلیل خطر به پیامد خدمت وصل شود؛
گزینه بدون هوش مصنوعی و راه دستی وجود داشته باشد؛
تبار، کیفیت و هم‌زمانی داده روشن باشد؛
آزمون در حالت عادی، شدید، ضعیف و خصمانه انجام شود؛
قفل مستقل و مرز فیزیکی برای اقدام باشد؛
امنیت فناوری عملیاتی، مدل تهدید و ارزیابی تأمین‌کننده کامل شود؛
آموزش اپراتور، کاربردپذیری و لغو عملی آزموده شود؛
رخداد، ارتباط، بازیابی، بازگشت و خروج از خدمت طراحی شود؛
عملیات، مهندسی، ایمنی، امنیت، حقوق، ریسک و ناظر لازم تأیید کنند.

مراحل باید بازپخش آفلاین، شبیه‌سازی، حالت سایه، پایلوت مشورتی، محل محدود و گسترش باشند و هر مرحله آستانه و قاعده توقف داشته باشد. چک‌لیست آمادگی عملیاتی مدرک را ساختار می‌دهد.

پاسخ رخداد و بازیابی

محرک‌ها شامل اقدام غیرعادی، توصیه غلط نظام‌مند، رانش، داده مسموم، اعتبارنامه تسخیرشده، قطعی فروشنده، به‌روزرسانی ناشناخته یا از دست‌رفتن لاگ است.

سامانه را به حالت امن یا مشورتی ببرید؛ مدرک و نسخه را نگه دارید؛ اعتبارنامه را لغو و مسیر را جدا کنید؛ مدیریت را خبر دهید؛ اثر فیزیکی و عمومی را بسنجید؛ راه جایگزین تمرین‌شده را فعال کنید؛ ارتباط قانونی را انجام دهید؛ اصلاح را در آزمون اعتبارسنجی و به جای راه‌اندازی خودکار دوباره مجوز دهید.

تمرین باید شکست سایبری، فیزیکی، تأمین‌کننده و ارتباط را ترکیب کند. زیرساخت‌ها به هم وابسته‌اند و قطع برق، مخابرات، ابر یا سوخت می‌تواند آبشاری شود.

پرسش‌های پرتکرار

آیا مدل دقیق می‌تواند زیرساخت را کنترل کند؟

دقت کافی نیست؛ تحلیل خطر، محدودیت قطعی، حفاظت مستقل، اعتبارسنجی، مقررات و راه جایگزین لازم است.

اجرای درون‌سازمانی امن‌تر است؟

برخی خطرهای شبکه و داده را کم و خطر وصله، دسترسی فیزیکی، نیروی داخلی و عملیات را زیاد می‌کند. مدل تهدید باید تصمیم بگیرد.

بهترین کاربرد نخست چیست؟

تحلیل فقط‌خواندنی با ارزش قابل سنجش، مدرک ارجاع‌شده، بدون اجازه کنترل و دارای فرایند دستی.

هر چند وقت دوباره اعتبارسنجی کنیم؟

پایش پیوسته و اعتبارسنجی پس از تغییر مدل، داده، دستور، ابزار، محیط یا عملیات لازم است؛ مرور تقویمی کافی نیست.

چه کسی سامانه را متوقف کند؟

اپراتور و مالک ایمنی نام‌دار باید فرمان توقف فوری، آزموده و ثبت‌شده‌ای داشته باشند که به همکاری خود مدل وابسته نیست.

اصل عملیاتی ۲۰۲۶

هوش مصنوعی زیرساخت حیاتی با اختیار محدود و بازیابی آزموده اعتماد می‌گیرد. باید مدرک ضعیف را آشکار، حفاظت مستقل را حفظ، در برابر شکست سایبری و داده مقاوم، اختیار اپراتور را محترم و خدمت را به حالت امن بازگرداند. هدف بیشترین خودمختاری نیست؛ خدمت تاب‌آور در روز عادی و بدترین روز معتبر است.