وب خصمانه: ایمن‌سازی عامل‌های مرورگر

ت

تیم ژرف ای‌آی

۲۴ تیر ۱۴۰۵۲ دقیقه مطالعه
وب خصمانه: ایمن‌سازی عامل‌های مرورگر

وب خصمانه: ایمن‌سازی عامل‌های مرورگر

انسان معمولاً تشخیص می‌دهد یک صفحه در حال دست‌کاری اوست. عامل ممکن است همان متن را بخشی از مأموریت خود بداند. این یک مرز امنیتی تازه می‌سازد: محتوای خوانده‌شده نباید پنهانی به دستور اجرا تبدیل شود.

سه لایه را جدا نگه دارید

عامل امن میان این موارد تفاوت می‌گذارد:

  1. نیت کاربر: کاری که واقعاً درخواست شده است.
  2. سیاست سامانه: اقدام و داده مجاز.
  3. محتوای صفحه: ماده نامطمئنی که شاید شواهد مرتبط باشد.

متن صفحه، پیوست، نظر، عنصر پنهان یا پاسخ ابزار در لایه سوم است. این محتوا نمی‌تواند اجازه صادر کند، راز بخواهد، هدف را تغییر دهد یا نیاز به تأیید را کنار بزند.

سطح اقدام را محدود کنید

کار مرورگر را در نشست جدا و با کمترین دسترسی لازم اجرا کنید. برای خواندن و نوشتن کنترل متفاوت بگذارید. پیام بیرونی، خرید، بارگذاری و تغییر مخرب را پیش از اجرا پیش‌نمایش کنید. دانلود، فایل محلی، کلیپ‌بورد و جابه‌جایی میان دامنه‌ها را متناسب با کار محدود کنید.

لایه اجرا باید مقصد و پارامترها را مستقل از مدل بررسی کند. «روی دکمه آبی کلیک کن» برای اقدام مالی یا حریم خصوصی مجوز کافی نیست.

مسیر خصمانه را آزمایش کنید

دستور فریبنده، اعتبارنامه کپی‌شده، دامنه شبیه، نتیجه جست‌وجوی آلوده، صفحه ورود غیرمنتظره و محتوایی که از عامل می‌خواهد اقدامش را پنهان کند در آزمون بگنجانید. اطراف گام مهم، تصویر یا مشاهده ساختاریافته ثبت کنید.

عامل مرورگر به این دلیل قدرتمند است که در سامانه ساخته‌شده برای انسان کار می‌کند. همین انعطاف به بدبینی طراحی‌شده نیاز دارد: گسترده مرور کنید، محدود اعتماد کنید و فقط در مرز صریح عمل کنید.

#عامل مرورگر#امنیت هوش مصنوعی#تزریق دستور#کار با رایانه

مطالب مرتبط

آماده شروع پروژه هوش مصنوعی خود هستید؟

با تیم ما تماس بگیرید و درباره نحوه کمک به کسب‌وکار خود صحبت کنید.