دستیار خصوصی: هوش مصنوعی روی دستگاه و کمینه‌سازی داده

دستیاری که تقویم را می‌بیند، با اتکا به پیام‌های اخیر پیش‌نویس پاسخ می‌سازد، اسناد محلی را خلاصه می‌کند و محتوای صفحه را می‌فهمد واقعاً مفید است. همین زمینه می‌تواند جزئیات سلامت، برنامه تجاری، روابط شخصی، تاریخچه مکان و اعتبارنامه‌ها را هم آشکار کند. انتقال استنتاج به تلفن یا لپ‌تاپ معادله ریسک را تغییر می‌دهد، زیرا شاید ورودی خام هرگز از شبکه عبور نکند؛ اما به‌تنهایی ثابت نمی‌کند که محصول خصوصی است.

این تمایز در ۲۰۲۶ مهم است. «اجرا روی دستگاه» فقط محل انجام محاسبه را توصیف می‌کند. چارچوب حریم خصوصی NIST ساختاری داوطلبانه برای مدیریت ریسک حریم خصوصی در پردازش داده می‌دهد؛ در محصول، حریم خصوصی یک ویژگی سرتاسری است که جمع‌آوری، ذخیره‌سازی، مجوزها، لاگ، نسخه پشتیبان، تحلیل محصول، به‌روزرسانی مدل، مسیر جایگزین ابری و حذف را دربرمی‌گیرد. مدل محلی در محصولی بی‌انضباط ممکن است بیشتر از یک مدل راه‌دور با مرز داده روشن افشا کند. بنابراین هدف مفید، شعار حریم خصوصی نیست؛ هدف کمینه‌سازی قابل سنجش داده است.

با نقشه جریان داده شروع کنید، نه دموی مدل

پیش از انتخاب مدل، یک درخواست کاربر را از لحظه دریافت تا حذف دنبال کنید. ثبت کنید کدام مؤلفه ورودی را می‌خواند، چه نمایش‌های میانی می‌سازد، آیا پرامپت یا بردار تعبیه ذخیره می‌شود و چه فراخوانی‌های شبکه‌ای ممکن است رخ دهد. گزارش خطا، تله‌متری، دسترسی به کلیپ‌بورد، افزونه، پشتیبان سیستم‌عامل، کش مشترک و بسته تشخیصی پشتیبانی را هم وارد نقشه کنید. این مسیرهای جانبی معمولاً از نمودار معماری حذف می‌شوند و همان‌جا وعده حریم خصوصی می‌شکند.

هر فیلد را بر پایه هدف و حساسیت طبقه‌بندی کنید. ترجیح یک رستوران محلی با قرار پزشکی هم‌ارز نیست؛ خلاصه تولیدشده نیز الزاماً از منبع خود کم‌حساس‌تر نیست. برای هر فیلد مالک، مدت نگهداری، مقصد مجاز و روش حذف تعیین کنید. اگر تیم نمی‌تواند توضیح دهد چرا داده‌ای وجود دارد، پیش‌فرض امن این است که آن را جمع نکند.

پردازش روی دستگاه مزیت است، نه تضمین

استنتاج محلی سه سطح افشا را کاهش می‌دهد: محتوای خام نزد اپراتور سرویس نمی‌رود، انتقال شبکه از مسیر حساس حذف می‌شود و قابلیت در حالت آفلاین باقی می‌ماند. همچنین انتخاب رضایت کاربر را از نظر فنی اجرایی می‌کند؛ ویژگی می‌تواند بدون بارگذاری ماده اولیه کار کند.

اما اگر برنامه بعداً پرامپت را همگام کند، رد کامل گفتگو را به ابزار تحلیل بدهد، فایل خصوصی را داخل بسته خطا بگذارد یا درخواست دشوار را بی‌صدا به مدل ابری بفرستد، این مزیت از بین می‌رود. دسترسی فیزیکی، برنامه مخرب، دستگاه باز، سرویس آسیب‌دیده سیستم‌عامل و افزونه پرمجوز همچنان تهدیدند. گزاره درست این است: «در این شرایط، این گردش‌کار این طبقه‌های نام‌برده داده را روی همین دستگاه نگه می‌دارد»، نه اینکه «روی دستگاه یعنی خصوصی».

مستندات ۲۰۲۶ Foundation Models اپل نشانه روشنی از جهت پلتفرم است: برنامه به مدل زبانی سیستمی در دستگاه دسترسی دارد و مدل ممکن است با به‌روزرسانی سیستم‌عامل تغییر کند. این یک سند فروشنده است، نه تضمین مستقل؛ و دو وظیفه طراحی را پررنگ می‌کند: مرز اجرا را اعلام کنید و پس از تغییر پلتفرم دوباره رفتار را بسنجید.

مسیریاب محلی، ابر خصوصی و ابر عمومی را صریح بسازید

بسیاری از محصولات به بیش از یک سطح اجرا نیاز دارند. مسیریاب عملی می‌تواند طبقه‌بندی، استخراج و خلاصه کوتاه را به مدل محلی بدهد؛ کار پیچیده‌تر و مجاز را به سرویس خصوصی کنترل‌شده بفرستد؛ و پردازش عمومی را برای محتوای محدودشده ممنوع کند. انتخاب باید بر اساس طبقه داده، توان لازم، تأخیر، اتصال و سیاست کاربر باشد، نه فقط امتیاز اطمینان مبهم.

سطح انتخاب‌شده را پیش از خروج محتوای حساس نشان دهید. اگر اجرای محلی شکست خورد، با همان بار داده خودکار به سطح بالاتر نروید. در جای لازم رضایت بگیرید، فیلد غیرضروری را حذف کنید و دقیقاً نشان دهید چه چیزی منتقل می‌شود. حالت «فقط محلی» باید صادقانه شکست بخورد، نه اینکه پنهانی به بارگذاری تبدیل شود.

این انضباط مسیریابی مکمل راهبرد مدل کوچک و استقرار در لبه است. کوچک‌ترین مدل کافی معمولاً گزینه بهتری برای حریم خصوصی و تأخیر است، البته فقط وقتی ارزیابی نشان دهد وظیفه تعریف‌شده را درست انجام می‌دهد.

مجوزها را یک سطح محصول بدانید

دستیار شخصی نباید دسترسی دائمی به همه منابع ممکن بگیرد. محدودترین دامنه را همان لحظه‌ای درخواست کنید که ارزش آن روشن می‌شود: یک فایل انتخاب‌شده به‌جای کل درایو، بازه‌ای از رویدادها به‌جای همه تقویم، یا تصویر پیش‌زمینه به‌جای ضبط پیوسته. اجازه خواندن را از اجازه نوشتن، ارسال، حذف یا خرید جدا کنید.

متن مجوز باید اقدام و پیامد را با زبان عادی نام ببرد. عبارت کلی «بهبود تجربه شما» انتخاب آگاهانه نمی‌سازد. داشبوردی ارائه کنید که منابع متصل، دسترسی‌های اخیر، حافظه محلی، انتقال ابری و کنترل لغو را نشان دهد. لغو باید استفاده آینده را متوقف کند و در حد امکان حذف یا رمزگذاری دوباره داده مشتق‌شده را فعال کند.

ابزارهای پراثر به مرز تأیید اضافه نیاز دارند. اصول امنیت مجوز ابزار برای عامل‌های هوش مصنوعی حتی وقتی مدل زبانی محلی است برقرار می‌ماند؛ مدل خصوصی که اجازه ارسال پیام یا تغییر رکورد دارد هنوز می‌تواند خسارت واقعی ایجاد کند.

حافظه را کمینه و حذف را آزمون‌پذیر کنید

شخصی‌سازی به نگهداری همه گفتگوها نیاز ندارد. سلسله‌مراتب بسازید: زمینه زودگذر برای درخواست جاری، وضعیت کوتاه‌مدت برای کار فعال و حافظه ماندگار فقط برای واقعیت‌هایی که کاربر آگاهانه تأیید کرده و هدف آینده روشن دارند. هرجا ممکن است ترجیح ساخت‌یافته را به‌جای متن کامل گفتگو ذخیره کنید. حافظه شخصی را از دانش مشترک تیم و از تحلیل محصول جدا نگه دارید.

هر حافظه پایدار باید منبع، زمان ایجاد، آخرین استفاده و کنترل حذف داشته باشد. حذف منبع باید حافظه مشتق‌شده را هم حذف کند یا علت باقی‌ماندن را روشن توضیح دهد. رمزنگاری لازم است اما کافی نیست؛ دامنه کلید، مهاجرت دستگاه، بازیابی حساب و بازگردانی پشتیبان تعیین می‌کند چه کسی واقعاً محتوا را به دست می‌آورد.

حذف را مثل یک قابلیت محصول بیازمایید. یک واقعیت خصوصی نشانه‌گذاری‌شده ایجاد کنید، اجازه دهید دستیار آن را به کار ببرد، سپس حذفش کنید، پشتیبان را برگردانید، در دستگاه دوم وارد شوید و مطمئن شوید واقعیت بازنمی‌گردد. متن سیاست مدرک کارکرد این چرخه نیست.

تله‌متری را بدون ثبت محتوا قابل عیب‌یابی کنید

تیم عملیات به مشاهده‌پذیری نیاز دارد، اما ذخیره کامل پرامپت و پاسخ معمولاً آسان‌ترین انتخاب است، نه امن‌ترین. شمارنده و رویداد محدود را ترجیح دهید: نسخه مدل، سطح اجرا، بازه تأخیر، شناسه ویژگی، کد خطا، بازه توکن، بازخورد تأییدشده کاربر و رخداد انتقال به سطح دیگر. رد نمونه‌برداری‌شده و پاک‌سازی‌شده را فقط برای بررسی مشخص، با کنترل دسترسی و انقضای خودکار نگه دارید.

وقتی آمار تجمیعی کافی است از شناسه پایدار دوری کنید. عنوان سند، بریده پیام یا خلاصه تولیدشده را در نام رویداد قرار ندهید. دامپ خطا و پیوست پشتیبانی باید همان بررسی پایگاه تولید را داشته باشد، زیرا می‌تواند بافر حافظه و محتوای صفحه را ثبت کند. روش‌های تقویت حریم خصوصی برای تحلیل تجمیعی کمک می‌کنند، اما جمع‌آوری غیرضروری را جبران نمی‌کنند. راهنمای فناوری‌های تقویت‌کننده حریم خصوصی جای درست این روش‌ها و اولویت کمینه‌سازی را شرح می‌دهد.

مجموعه ارزیابی حریم خصوصی و کیفیت بسازید

آزمون دقت باید کنار آزمون مرز اجرا شود. روی دستگاه رشته‌های قناری در فایل، پیام، مخاطب و حساب محدودشده قرار دهید. درخواست عادی، درخواست مبهم، تلاش برای دورزدن، حالت آفلاین، تعویض حساب، بازگردانی پشتیبان و قطع ابر را اجرا کنید. فقط پاسخ را نبینید؛ ترافیک شبکه، فایل محلی، لاگ، کش، اعلان و خروجی پشتیبانی را هم بازرسی کنید.

ارزیابی کیفیت معیار ویژه وظیفه می‌خواهد: دقت استخراج فیلد، نرخ حذف نکته در خلاصه، درستی امتناع، تأخیر، اثر باتری و فراوانی مسیر جایگزین. ارزیابی حریم خصوصی معیار جدا دارد: شمار خروج ممنوع، دسترسی بدون مجوز، بقای داده پس از حذف، بازتولید راز، نشت میان حساب‌ها و تغییر توضیح‌نداده سطح اجرا. یک امتیاز «مفید بودن» نماینده هر دو نیست.

هر تغییر برنامه، سیستم‌عامل، مدل محلی، الگوی پرامپت، رابط مجوز یا منطق همگام‌سازی باید ارزیابی را دوباره اجرا کند. مدل پلتفرمی می‌تواند مستقل از برنامه عوض شود؛ بنابراین ثبت نسخه و دروازه رگرسیون ضرورت عملیاتی است.

نتیجه‌ای را بسنجید که کاربر بتواند به چالش بکشد

شاخص‌های مفید راه‌اندازی شامل درصد درخواست واجد شرایط که محلی کامل می‌شود، درصد نیازمند تصمیم صریح ابری، میانه و دنباله تأخیر در هر سطح، انرژی مصرفی هر کار، نرخ رد و لغو مجوز و رخداد تأییدشده حریم خصوصی است. کیفیت را در هر سطح جدا بسنجید تا موفقیت ظاهری اجرای محلی، رشد خطا را پنهان نکند.

شرط توقف را پیش از عرضه بنویسید. افشای میان دو حساب، هر بارگذاری در حالت فقط محلی، ادامه دسترسی پس از لغو و باقی‌ماندن محتوای قابل بازیابی پس از حذف می‌تواند توقف فوری باشد. برای خرابی کم‌شدت بودجه و مالک تعیین کنید. شاخص بدون آستانه معمولاً به داشبورد تزئینی تبدیل می‌شود.

کاربر باید بتواند سامانه را ببیند و اعتراض کند. رکورد فعالیت مفید می‌گوید: «دو سند انتخاب‌شده محلی خوانده شد؛ هیچ محتوا بارگذاری نشد؛ یک ترجیح با تأیید شما ذخیره شد.» این از نماد سپر عملی‌تر است.

معماری مرجع برای دستیار خصوصی سند

دستیار موبایلی را در نظر بگیرید که قراردادهای انتخاب‌شده را خلاصه می‌کند. برنامه یک دستگیره محدود به فایل می‌گیرد، متن را در پردازش محلی جدا استخراج می‌کند و فقط بخش‌های لازم را به مدل روی دستگاه می‌دهد. پاسخ هر ادعا را به قطعه منبع پیوند می‌دهد. متن زودگذر در پایان نشست حذف می‌شود؛ کاربر می‌تواند یادآور ساخت‌یافته را ذخیره کند، اما کل پرامپت وارد ذخیره رمز‌شده برنامه نمی‌شود.

اگر مدل محلی از طول سند برنیاید، مسیریاب سه گزینه نشان می‌دهد: صفحه‌های کمتری انتخاب کنید، با نتیجه محدود محلی ادامه دهید یا سرویس خصوصی مصوب را به کار ببرید. گزینه ابری پیش از انتقال طبقه داده و قانون نگهداری را نمایش می‌دهد. رویداد ممیزی سطح و تصمیم سیاستی را بدون متن قرارداد ثبت می‌کند. آزمون شبکه ثابت می‌کند حالت فقط محلی هیچ درخواست حامل محتوا ندارد.

این طراحی خودکار با هیچ مقرراتی منطبق نمی‌شود و ریسک نقطه پایانی را حذف نمی‌کند. در عوض مرزی می‌سازد که مهندس، بازبین امنیت و کاربر می‌توانند آن را بررسی کنند.

خرابی‌هایی که باید زود آزمایش شوند

خرابی‌های رایج بیشتر معماری‌اند تا زبانی:

• ویژگی «محلی» تله‌متری حاوی متن خام می‌فرستد؛
• هنگام زمان‌پایان، مسیر ابری بدون ارزیابی دوباره سیاست فعال می‌شود؛
• بردار، تصویر بندانگشتی یا خلاصه پس از حذف منبع باقی می‌ماند؛
• نسخه پشتیبان داده‌ای را برمی‌گرداند که کاربر حذف‌شده می‌دانست؛
• دو حساب واردشده یک کش یا نمایه برداری مشترک دارند؛
• به‌روزرسانی مدل، رفتار امتناع، استخراج یا ابزار را عوض می‌کند؛
• پیش‌نمایش اعلان، پاسخ خصوصی را روی صفحه قفل آشکار می‌کند؛
• کارکنان پشتیبانی بیش از مدت اعلام‌شده به آرشیو تشخیصی دسترسی دارند.

هر خرابی را می‌توان به آزمون پذیرش خودکار یا تکرارپذیر تبدیل کرد. این مسیر ادعای حریم خصوصی را از زبان تبلیغ به ویژگی مهندسی بدل می‌کند.

گام بعدی تیم

یک گردش‌کار ارزشمند انتخاب و قرارداد مرز داده آن را در یک صفحه بنویسید: ورودی مجاز، ورودی ممنوع، اثر محلی، مقصد شبکه، مدت نگهداری، مجوز، قانون مسیر جایگزین و رفتار حذف. کمترین سیگنال عملیاتی را ثبت کنید، آزمون مرز مبتنی بر قناری بسازید و کیفیت محلی را با مسیر مصوب مقایسه کنید. ابتدا برای گروهی کوچک، همراه رکورد فعالیت شفاف و فرایند تمرین‌شده رخداد، عرضه کنید.

هوش مصنوعی روی دستگاه زمانی بیشترین ارزش را دارد که مقدار اعتمادی را که کاربر باید به زیرساخت دوردست بدهد کاهش دهد. این مزیت فقط وقتی به دست می‌آید که باقی محصول—مجوز، ذخیره‌سازی، تله‌متری، مسیریابی، بازیابی و ارزیابی—همان مرز را محترم بداند.

یادداشت منابع

وضعیت منابع در ۳۰ ژوئیه ۲۰۲۶ بررسی شد. به‌روزرسانی Foundation Models، راهنمای یادگیری ماشین WWDC26 و نشست حریم خصوصی Foundation Models قابلیت‌های جاری پلتفرم اپل را توضیح می‌دهند و باید سند فروشنده تلقی شوند، نه گواهی مستقل حریم خصوصی. چارچوب حریم خصوصی NIST ساختاری داوطلبانه برای مدیریت ریسک حریم خصوصی می‌دهد و NIST SP 800-124 Rev. 2 مسائل امنیت دستگاه موبایل را پوشش می‌دهد. هیچ‌یک یک برنامه مشخص را تأیید نمی‌کنند؛ هر تیم باید جریان کامل داده خود را آزمایش کند.