
میز آزمون: ارزیابی عاملهای کار با رایانه فراتر از دمو
معیار مفید باید کار کامل، رابط نامرتب، بازیابی، شواهد و اثر جانبی را بسنجد؛ نه فقط یک بار کلیک روی دکمه درست.
ادامه مطلبتیم ژرف ایآی

انسان معمولاً تشخیص میدهد یک صفحه در حال دستکاری اوست. عامل ممکن است همان متن را بخشی از مأموریت خود بداند. این یک مرز امنیتی تازه میسازد: محتوای خواندهشده نباید پنهانی به دستور اجرا تبدیل شود.
عامل امن میان این موارد تفاوت میگذارد:
متن صفحه، پیوست، نظر، عنصر پنهان یا پاسخ ابزار در لایه سوم است. این محتوا نمیتواند اجازه صادر کند، راز بخواهد، هدف را تغییر دهد یا نیاز به تأیید را کنار بزند.
کار مرورگر را در نشست جدا و با کمترین دسترسی لازم اجرا کنید. برای خواندن و نوشتن کنترل متفاوت بگذارید. پیام بیرونی، خرید، بارگذاری و تغییر مخرب را پیش از اجرا پیشنمایش کنید. دانلود، فایل محلی، کلیپبورد و جابهجایی میان دامنهها را متناسب با کار محدود کنید.
لایه اجرا باید مقصد و پارامترها را مستقل از مدل بررسی کند. «روی دکمه آبی کلیک کن» برای اقدام مالی یا حریم خصوصی مجوز کافی نیست.
دستور فریبنده، اعتبارنامه کپیشده، دامنه شبیه، نتیجه جستوجوی آلوده، صفحه ورود غیرمنتظره و محتوایی که از عامل میخواهد اقدامش را پنهان کند در آزمون بگنجانید. اطراف گام مهم، تصویر یا مشاهده ساختاریافته ثبت کنید.
عامل مرورگر به این دلیل قدرتمند است که در سامانه ساختهشده برای انسان کار میکند. همین انعطاف به بدبینی طراحیشده نیاز دارد: گسترده مرور کنید، محدود اعتماد کنید و فقط در مرز صریح عمل کنید.

معیار مفید باید کار کامل، رابط نامرتب، بازیابی، شواهد و اثر جانبی را بسنجد؛ نه فقط یک بار کلیک روی دکمه درست.
ادامه مطلب
پیش از عرضه، قابلیت هوش مصنوعی به مالک، دروازه ارزیابی، مرز امنیت، مشاهدهپذیری، سقف هزینه، جایگزین و تغییر کنترلشده نیاز دارد.
ادامه مطلب
خرید هوش مصنوعی باید خدمت پشت رابط را بسنجد: داده، ارزیابی، امنیت، عملیات، هزینه، جابهجایی و خروج.
ادامه مطلببا تیم ما تماس بگیرید و درباره نحوه کمک به کسبوکار خود صحبت کنید.