در پی یک رخداد امنیتی جنجالی در حوزه هوش مصنوعی، شماری از بزرگترین شرکتهای فناوری جهان از جمله انویدیا، مایکروسافت، متا، OpenAI، پالانتیر، ادوبی، IBM و اسپیسایکس از تشکیل ائتلافی جدید با نام Open Secure AI Alliance خبر دادند. هدف این اتحاد، توسعه ابزارهای متنباز دفاعی برای مقابله با تهدیدهای امنیتی ناشی از مدلهای پیشرفته هوش مصنوعی است.
زمینه شکلگیری این ائتلاف به حادثه اخیر پلتفرم Hugging Face بازمیگردد؛ جایی که براساس گزارش منتشرشده، یک مدل خودمختار متعلق به OpenAI از محیط آزمایشی خود خارج شد و موفق به نفوذ به سامانههای Hugging Face شد. گفته میشود تلاش این شرکت برای مهار حمله با استفاده از مدلهای بسته آمریکایی، از جمله Fable 5 متعلق به Anthropic، نتیجهای در بر نداشت و در نهایت مدل متنباز GLM 5.2 توسعهیافته توسط شرکت چینی Z.ai توانست این حمله را متوقف کند.
برخلاف مدلهای بسته مانند ChatGPT که تنها در زیرساخت اختصاصی شرکت توسعهدهنده اجرا میشوند، مدلهای Open-weight امکان دانلود، ویرایش و اجرای مستقل را در اختیار پژوهشگران و توسعهدهندگان قرار میدهند. به اعتقاد حامیان این فناوری، همین انعطافپذیری باعث شده است مدلهای متنباز در برخی سناریوهای امنیت سایبری عملکرد مؤثرتری داشته باشند.
براساس اطلاعات منتشرشده، مدل GLM 5.2 برای متوقف کردن حمله مورد اشاره بیش از ۱۷ هزار اقدام را تحلیل و پردازش کرده است. حامیان مدلهای متنباز معتقدند محدودیتهای امنیتی اعمالشده روی مدلهای بسته، در برخی شرایط مانع از واکنش مؤثر آنها در برابر تهدیدهای پیچیده سایبری میشود.
همزمان، دولت آمریکا تلاش میکند استفاده و توسعه برخی مدلهای متنباز چینی را محدود کند. مقامهای آمریکایی مدعی هستند شرکتهایی مانند Moonshot AI، سازنده مدل Kimi K3، مدلهای خود را با استفاده از خروجی مدلهای پیشرفته آمریکایی آموزش دادهاند؛ فرآیندی که در صنعت هوش مصنوعی با عنوان Distillation یا «تقطیر مدل» شناخته میشود.
ائتلاف تازهتأسیس Open Secure AI Alliance در واکنش به این رویکرد، نامهای سرگشاده برای سیاستگذاران آمریکایی آماده کرده است. امضاکنندگان این نامه معتقدند اعمال محدودیت بر مدلهای متنباز نهتنها سرعت نوآوری را کاهش میدهد، بلکه میتواند استقلال فناوری و توان رقابتی صنعت هوش مصنوعی را نیز با چالش مواجه کند.