گذرنامه عامل: هویت و اختیار برای سامانه‌های هوش مصنوعی

وقتی عامل ایمیل می‌فرستد، رکوردی را ویرایش می‌کند یا سرویسی می‌خرد، عبارت «هوش مصنوعی انجام داد» مدل هویتی قابل قبولی نیست. اپراتور باید بداند کدام عامل، برای چه کسی، با کدام دستور، با چه دسترسی و در چه محدوده‌ای عمل کرده است.

هویت عامل را از کاربر جدا کنید

دادن حساب گسترده یک فرد به عامل، دسترسی را ساده و پاسخ‌گویی را ضعیف می‌کند. در طراحی بهتر، هر عامل مستقرشده هویت کاری مستقل دارد و فرد یا فرایندی که کار مشخصی را به آن سپرده نیز ثبت می‌شود.

اختیار باید در چهار بُعد محدود باشد:

• اقدام: خواندن، پیش‌نویس، ارسال، تأیید، بازپرداخت یا حذف.
• منبع: صندوق ایمیل، مجموعه داده، مشتری، پروژه یا حساب دقیق.
• دامنه اثر: سقف هزینه، حجم، حساسیت یا پیامد.
• زمان: بازه کوتاهی که با پایان کار بسته می‌شود.

اختیار را هنگام اقدام بررسی کنید

مدل برنامه‌ریز می‌تواند گام‌های زیادی پیشنهاد کند، اما لایه اجرا باید مستقل از مدل مجازبودن هر گام را بررسی کند. در این صورت یک صفحه آلوده، دستور قدیمی یا خطای مدل نمی‌تواند نشست معتبر را به اختیار نامحدود تبدیل کند.

دسترسی باید بدون بازسازی عامل قابل لغو باشد. وقتی رفتار غیرمنتظره دیده می‌شود، اپراتور به توقفی مطمئن نیاز دارد که دسترسی را فوری قطع و رد رویدادها را حفظ کند.

تفویض را قابل مشاهده کنید

پیش از اقدام مهم، رابط باید هویت عامل، عملیات، مقصد، شواهد و محدوده تفویض را به زبان روشن نشان دهد. تأیید باید به معنی «همین اقدام مجاز است» باشد، نه «هر تصمیم بعدی عامل مورد اعتماد است».

استعاره مناسب، گذرنامه‌ای با روادید محدود است؛ نه یک شاه‌کلید.