اوپنایآی یک قابلیت امنیتی جدید برای ChatGPT معرفی کرد که کاربران و سازمانها را در برابر یکی از خطرناکترین تهدیدات هوش مصنوعی محافظت میکند. این ویژگی با نام Lockdown Mode یا حالت قفل، بهصورت اختیاری در تنظیمات چتبات در دسترس قرار گرفته است.
حملات تزریق دستور چیست و چرا خطرناکاند؟
پیش از هر چیز باید دانست که این قابلیت در پاسخ به چه تهدیدی طراحی شده است. حملات تزریق دستور (Prompt Injection) زمانی رخ میدهند که دستورالعملهای مخرب در دل محتوایی که هوش مصنوعی پردازش میکند پنهان میشوند؛ محتوایی مثل صفحات وب، فایلها یا اسناد. این دستورالعملهای پنهان میتوانند رفتار چتبات را دستکاری کنند و آن را فریب دهند تا اطلاعات حساس کاربر را فاش کند یا به مقصدی ناخواسته ارسال کند.
Lockdown Mode چطور کار میکند؟
اوپنایآی توضیح داده که این حالت بر محدود کردن درخواستهای شبکهای خروجی تمرکز دارد تا از انتقال غیرمجاز دادهها به مهاجم جلوگیری شود. نکته مهم اینجاست که این قابلیت مانع از ظاهر شدن دستورات مخرب در محتوای پردازششده نمیشود، بلکه مرحلهای را که اوپنایآی آن را حیاتیترین بخش حمله میداند هدف میگیرد؛ یعنی لحظهای که دادههای دزدیدهشده قرار است از سیستم خارج شوند.
چه قابلیتهایی محدود میشوند؟
فعالسازی Lockdown Mode با محدودیتهایی همراه است که کاربر باید از آنها آگاه باشد:
- مرور وب: دسترسی به اینترنت به محتوای کششده محدود میشود و نتایج جستجو ممکن است ناقص یا قدیمی باشند
- Deep Research و Agent Mode: بهطور کامل غیرفعال میشوند
- دانلود فایل برای تحلیل داده: امکانپذیر نیست، هرچند آپلود دستی فایل همچنان کار میکند
- اتصالات زنده و اقدامات نوشتاری: مسدود میشوند، هرچند تجربههای همگامسازیشده برای حسابهای شخصی و کسبوکاری کوچک فعال میمانند
- ویژگیهای خرید و یکپارچهسازیهای مالی: در این حالت در دسترس نخواهند بود
در مقابل، قابلیتهایی مانند حافظه، اشتراکگذاری مکالمات، تولید تصویر و دسترسی شبکه در محیط Codex تحت تأثیر این حالت قرار نمیگیرند. همچنین Lockdown Mode و Developer Mode نمیتوانند همزمان فعال باشند و فعالسازی هر کدام بهطور خودکار دیگری را غیرفعال میکند.
چه کسانی میتوانند از آن استفاده کنند؟
این قابلیت برای تمام انواع حسابهای ChatGPT از جمله Free، Go، Plus، Pro و حسابهای ChatGPT Business خودسرویس در حال عرضه است.
چطور آن را فعال کنیم؟
فعالسازی Lockdown Mode ساده است و از مسیر زیر انجام میشود:
۱. وارد ChatGPT شوید و به Settings بروید ۲. گزینه Security و سپس Advanced Security را انتخاب کنید ۳. روی Lockdown Mode کلیک یا ضربه بزنید تا فعال شود