چه اطلاعاتی را نباید به هوش مصنوعی بدهیم؟ چک‌لیست قبل از ارسال
یک اسکرین‌شات از سفارش مشتری، چند خط کد برای رفع خطا یا فایل قرارداد برای خلاصه‌سازی؛ همین کارهای روزمره می‌توانند اطلاعاتی را از محیط کاری خارج کنند که قرار نبوده در اختیار یک سرویس دیگر قرار بگیرد. استفاده از دستیار هوش مصنوعی روی موبایل این کار را ساده‌تر کرده است: فایل را انتخاب می‌کنیم و دکمه ارسال را می‌زنیم، گاهی پیش از آنکه محتوایش را دقیق ببینیم.
برای استفاده کم‌ریسک‌تر، رمزها و کلیدهای دسترسی را ارسال نکنید؛ اطلاعات شخصی، اسناد داخلی و داده‌های مشتریان را هم بدون مجوز و بررسی شرایط سرویس وارد نکنید. راه‌حل عملی، ارسال حداقل داده لازم و استفاده از نمونه ساختگی در هر جایی است که پاسخ به اطلاعات واقعی وابسته نیست.
خطر اصلی فقط آموزش مدل نیست
نباید فرض کنیم هر ورودی فوراً به دانشی عمومی برای تمام کاربران تبدیل می‌شود. نحوه پردازش، نگهداری و استفاده از داده به سرویس، نوع حساب، قرارداد و تنظیمات آن بستگی دارد. بااین‌حال، ارسال فایل به یک ابزار آنلاین یعنی داده را در اختیار آن سرویس گذاشته‌ایم. تاریخچه گفتگو، فایل‌های بارگذاری‌شده، لینک اشتراک‌گذاری و دسترسی برنامه‌های متصل، هرکدام نیازمند بررسی‌اند.
مرکز ملی امنیت سایبری بریتانیا نیز در راهنمای ریسک مدل‌های زبانی توصیه می‌کند اطلاعات حساس را در پرسش‌های ابزارهای عمومی وارد نکنیم. برای تصمیم‌گیری درباره یک ابزار مشخص، باید سیاست فعلی همان سرویس را بخوانیم؛ داشتن اشتراک پولی به‌تنهایی مجوز ارسال هر نوع داده نیست.
پنج گروه داده که پیش از ارسال باید متوقفمان کنند
- اطلاعات ورود: رمز عبور، کد بازیابی، کلید API، توکن و اطلاعات اتصال پایگاه داده. برای توضیح خطا، مقدار واقعی را با عبارتی مانند YOUR_API_KEY جایگزین کنید.
- اطلاعات مشتری و کارکنان: نام، شماره تماس، آدرس، پرونده پرسنلی و مشخصات سفارش. معمولاً می‌توان مسئله را با نمونه ساختگی توضیح داد.
- اسناد غیرعمومی: قرارداد، گزارش مالی، قیمت توافقی و برنامه محصول منتشرنشده. حتی یک پاراگراف کوتاه ممکن است شامل تعهد محرمانگی یا راز تجاری باشد.
- کد و اطلاعات زیرساخت: تنظیمات سرور، نشانی‌های داخلی و کد اختصاصی. تنها بخش لازم را، پس از بررسی مجوز و حذف اطلاعات حساس، به اشتراک بگذارید.
- تصویر و فایل ضمیمه: اسکرین‌شات ممکن است نام حساب، اعلان پیام، شماره سفارش یا برگه باز دیگری را نشان دهد. فایل‌ها هم ممکن است توضیحات، شیت پنهان یا اطلاعات اضافی داشته باشند.
اگر تشخیص حساسیت داده برایتان دشوار است، راهنمای شبدرک درباره اطلاعات محرمانه و هوش مصنوعی انواع داده، روش کاهش اطلاعات ارسالی و اقدامات پس از اشتباه را با جزئیات بیشتری توضیح می‌دهد.
مثال: پاسخ به مشتری بدون فرستادن مشخصات او
فرض کنید می‌خواهید لحن یک پیام پشتیبانی را بهتر کنید. این مثال ساختگی را در نظر بگیرید: «برای مشتری با نام مشخص، شماره تماس و شماره سفارش، درباره تأخیر ارسال پاسخ بنویس.» نام و شماره‌ها برای نوشتن لحن پاسخ ضروری نیستند؛ اما با کپی پیام اصلی، همه آن‌ها هم ارسال می‌شوند.
نسخه کم‌ریسک‌تر چنین است: «برای مشتری یک فروشگاه آنلاین، پاسخ محترمانه‌ای درباره تأخیر دو روزه ارسال بنویس. عذرخواهی کن، زمان جدید را با جای‌خالی مشخص کن و از وعده جبران تأییدنشده خودداری کن.» پس از بررسی پاسخ، مشخصات واقعی را در سامانه داخلی اضافه کنید. برای این کار نیازی به بارگذاری تصویر سفارش یا فهرست مشتریان نیست.
حذف نام هم همیشه کافی نیست. ترکیب شهر، عنوان شغلی، تاریخ، مبلغ و ویژگی یک پروژه ممکن است فرد یا شرکت را قابل شناسایی کند. اطلاعات باقی‌مانده را به‌صورت یک مجموعه بررسی کنید، نه چند فیلد جداگانه.
چک‌لیست کوتاه برای استفاده از AI روی موبایل
- کار را دقیق تعریف کنید: آیا فقط اصلاح لحن لازم است یا واقعاً تحلیل داده نیاز داریم؟
- حداقل ورودی را انتخاب کنید: به‌جای کل گفتگو یا سند، فقط بخش ضروری را آماده کنید.
- نسخه تمیز بسازید: نام‌ها، شناسه‌ها و مقادیر حساس را حذف یا با داده ساختگی جایگزین کنید. اسکرین‌شات و فایل نهایی را دوباره بازبینی کنید.
- مجوز و ابزار را بررسی کنید: برای اطلاعات کاری، از حساب و ابزار مورد تأیید سازمان استفاده کنید. اتصال به ایمیل یا فضای ابری را تنها در حد نیاز فعال کنید.
- پاسخ را پیش از استفاده بخوانید: خروجی ممکن است نادرست باشد یا وعده‌ای بسازد که شرکت شما تأیید نکرده است.
اگر کار بدون داده حساس انجام نمی‌شود و ابزار برای آن نوع داده تأیید نشده، ارسال را متوقف کنید و از مسئول مربوطه روش مناسب را بپرسید. این توقف به معنی کنار گذاشتن هوش مصنوعی نیست؛ بخشی از انتخاب ابزار و روش درست است.
برای یک تیم کوچک، قواعد روشن بهتر از تشخیص موردی است
مدیر تیم می‌تواند یک راهنمای کوتاه تهیه کند: ابزارهای مجاز، داده‌های ممنوع، مسئول تأیید فایل‌های حساس و مسیر گزارش اشتباه. دو مثال از ورودی مجاز و غیرمجاز، اجرای این قواعد را ساده‌تر می‌کند. حساب‌های مشترک و دسترسی‌های قدیمی نیز باید بررسی شوند تا مشخص باشد چه کسی به گفتگوها و ابزارهای متصل دسترسی دارد.
شبدرک مجله مدیریت و کسب‌وکار است و درباره فناوری کسب‌وکار، رشد، مدیریت و امور مالی محتوای آموزشی منتشر می‌کند. هدف این راهنما کمک به استفاده سنجیده از ابزارهای دیجیتال در کارهای روزمره است؛ انتخاب نهایی برای اطلاعات حساس باید با قواعد و نیازهای سازمان هماهنگ باشد.
اگر اطلاعات حساس اشتباهی ارسال شد چه کنیم؟
اول مشخص کنید چه داده‌ای، در چه حسابی و چه زمانی ارسال شده است. اگر رمز یا کلید دسترسی در ورودی بوده، طبق فرایند امنیتی سازمان آن را باطل یا تعویض کنید؛ حذف گفتگو جایگزین این اقدام نیست. مسئول امنیت یا فرد تعیین‌شده را مطلع کنید و امکان حذف فایل، گفتگو و لینک اشتراک‌گذاری را بررسی کنید. حذف از رابط کاربری لزوماً به معنای حذف فوری تمام نسخه‌های داده نیست؛ شرایط سرویس تعیین‌کننده است.
سه پرسش قبل از لمس دکمه ارسال
آیا ابزار به همه این اطلاعات نیاز دارد؟ آیا می‌توانم از نمونه ساختگی استفاده کنم؟ آیا ارسال این داده با مجوز سازمان و شرایط سرویس سازگار است؟ همین سه پرسش، همراه با بازبینی فایل نهایی، می‌تواند تصمیم‌های روزمره را دقیق‌تر کند. از امروز یک نمونه ورودی تمیز برای کار پرتکرار تیم خود بسازید تا دفعه بعد لازم نباشد متن یا فایل واقعی را بی‌بررسی کپی کنید.
