گوگل دیپمایند مؤسسهای جدید برای گسترش بحث درباره AGI راهاندازی کرد
گوگل و گوگل دیپمایند با راهاندازی مؤسسهای جدید قصد دارند بحث درباره هوش مصنوعی عمومی یا AGI را از زوایای مختلف دنبال کنند و دیدگاههای متفاوت جامعه پژوهشی درباره آینده این فناوری را مطرح کنند.
پژوهشگران گوگل و Google DeepMind روز چهارشنبه از تأسیس «DeepMind Institute» خبر دادند؛ نهادی که هدف آن گسترش گفتوگوها درباره هوش مصنوعی عمومی و بررسی پیامدهای احتمالی توسعه سیستمهای پیشرفته هوش مصنوعی است.
شین لگ، یکی از بنیانگذاران دیپمایند، جیمز مانیکا، مدیر اجرایی گوگل و دمیس هاسابیس، رئیس Google DeepMind، بهعنوان مدیران این مؤسسه فعالیت خواهند کرد. لگ همچنین مسئولیت سردبیری اجرایی آن را بر عهده دارد.
این مؤسسه قرار است دیدگاههای متفاوت گوگل، گوگل دیپمایند و جامعه تحقیقاتی جهانی درباره AGI را مطرح کند. در بیانیه راهاندازی مؤسسه تأکید شده است که این دیدگاهها الزاماً با یکدیگر یکسان نخواهند بود و با انتشار دادهها و اطلاعات جدید در حوزهای که با سرعت زیادی در حال تغییر است، ممکن است تغییر کنند.
چهار مقاله نخست درباره آینده هوش مصنوعی
DeepMind Institute فعالیت خود را با انتشار مجموعهای شامل چهار مقاله آغاز کرده است. این مقالات موضوعاتی مانند سیاستهای اقتصادی برای مدیریت اختلالات احتمالی ناشی از AGI، حفظ قابلیت درک استدلال مدلهای هوش مصنوعی برای انسان، اصول مرتبط با رفاه و شکوفایی انسان و چارچوب ارزیابی مدلهای پیشرفته هوش مصنوعی را بررسی میکنند.
یکی از این مقالات توسط روهین شاه و آنکا دراگان، پژوهشگران حوزه ایمنی دیپمایند، نوشته شده است. نویسندگان در این مقاله استدلال میکنند کاهش شفافیت مدلهای هوش مصنوعی و دشوارتر شدن مشاهده و بررسی روند استدلال آنها، الزاماً اجتنابناپذیر نیست.
به اعتقاد آنها، معماریهای جدید باعث شدهاند نظارت بر قدرتمندترین مدلهای هوش مصنوعی دشوارتر شود و توسعهدهندگان و قانونگذاران باید پیامدهای ایمنی این روند را بهطور مستقیم بررسی کنند.
یکی از راهکارهای مطرحشده، محدود کردن چیزی است که نویسندگان از آن با عنوان «عمق ترتیبی مبهم» یاد میکنند؛ یعنی میزان محاسبات متوالی که یک مدل میتواند بدون ارائه ردپای قابلخواندن از فرایند استدلال خود انجام دهد. گزینه دیگر نیز میتواند الزام توسعهدهندگان به اثبات قابلیت نظارتپذیری سیستمهای کمشفافتر باشد.
پیشنهاد هاسابیس برای استانداردسازی مدلهای پیشرفته
دمیس هاسابیس نیز در یکی دیگر از مقالات این مجموعه، ایجاد یک نهاد استانداردگذاری تحت رهبری آمریکا برای ارزیابی پیشرفتهترین مدلهای هوش مصنوعی را پیشنهاد کرده است.
بر اساس چارچوب پیشنهادی هاسابیس، شرکتهای توسعهدهنده در مرحله نخست میتوانند مدلهای خود را حداکثر ۳۰ روز پیش از عرضه بهصورت داوطلبانه برای ارزیابی ارائه کنند. در ادامه، پس از اثبات کارآمدی این سازوکار، موفقیت در آزمونهای این نهاد میتواند به یکی از الزامات استقرار مدلهای پیشرفته هوش مصنوعی در آمریکا تبدیل شود.
این نهاد در مراحل ابتدایی آزمونها را با مشارکت شرکتهای فعال در حوزه هوش مصنوعی طراحی خواهد کرد؛ اما در نهایت قرار است ارزیابیهای مستقل و اعلامنشدهای نیز ایجاد کند. این آزمونهای موسوم به «Held-out» با هدف جلوگیری از بهینهسازی مدلها برای ارزیابیهای از پیش شناختهشده طراحی میشوند.
هاسابیس همچنین احتمال تشدید این چارچوب را در صورت افزایش سطح خطر مطرح کرده است. این اقدامات در شرایط خاص میتواند حتی به هماهنگی میان شرکتهای توسعهدهنده برای کاهش سرعت پیشرفت مدلهای پیشرفته هوش مصنوعی منجر شود.
تغییر رویکرد بحث ایمنی هوش مصنوعی
انتشار مقالات DeepMind Institute در شرایطی انجام شده که بحث درباره ایمنی هوش مصنوعی در صنعت، از طرح نگرانیهای کلی به سمت پیشنهادهای عملیتر حرکت کرده است.
در این رویکرد جدید، موضوعاتی مانند افزایش شفافیت مدلها، نظارت مستقل، ارزیابی خارجی و ایجاد سازوکارهایی برای کاهش سرعت توسعه مدلهای پیشرفته در صورت ناکافی بودن تدابیر ایمنی، اهمیت بیشتری پیدا کردهاند.
این روند در هفته جاری نیز ادامه یافت و شماری از مدیران صنعت هوش مصنوعی از بخشهایی از پیشنهادهای داریو آمودی، مدیرعامل Anthropic، برای ایجاد سازوکاری جهت مدیریت سرعت توسعه فناوریهای پیشرفته هوش مصنوعی حمایت کردند.
