تلاش اوپن ای‌آی برای پیش‌بینی و کاهش خطرات هوش مصنوعی!

1 ساعت پیش

خواندن این مطلب 2 دقیقه زمان میبرد

سام آلتمن، مدیرعامل اوپن ای‌آی (OpenAI)، با انتشار پستی در شبکه اجتماعی ایکس (توییتر سابق)، از استخدام یک مدیر جدید برای بخش «آمادگی» (Head of Preparedness) خبر داد. او در این پست خاطرنشان کرد که مدل‌های هوش مصنوعی «در حال ایجاد چالش‌های واقعی و جدی هستند.»

شرکت اوپن ای‌آی به دنبال فردی برای هدایت بخش آمادگی است تا به این کمپانی در پیش‌بینی آسیب‌های بالقوه مدل‌ها و چگونگی سوءاستفاده از آن‌ها کمک کند. هدف نهایی این نقش، هدایت استراتژی‌های ایمنی شرکت است. این تصمیم در پایان سالی اتخاذ شده است که اوپن ای‌آی با اتهامات متعددی در مورد تأثیرات چت‌جی‌پی‌تی (ChatGPT) بر سلامت روان کاربران روبرو بوده است؛ اتهاماتی که حتی شامل چند پرونده حقوقی مربوط به «مرگ ناشی از بی‌احتیاطی» نیز می‌شود.

سام آلتمن در پست خود اذعان داشت که «تأثیرات بالقوه مدل‌ها بر سلامت روان چیزی بود که پیش‌نمایشی از آن را در سال ۱۴۰۳ (۲۰۲۵ میلادی) مشاهده کردیم.» وی در کنار این موضوع، به دیگر «چالش‌های واقعی» اشاره کرد که همزمان با پیشرفت توانمندی‌های این مدل‌ها ظهور کرده‌اند. آلتمن تاکید کرد که مدیریت بخش آمادگی، «نقشی حیاتی در زمانی بسیار حساس» است.

اوپن ای‌آی

حقوق نجومی برای شغلی پر استرس

بر اساس آگهی شغلی منتشر شده، مدیر بخش آمادگی که حقوق پایه ۵۵۵ هزار دلار به علاوه سهام شرکت را دریافت خواهد کرد، «مسئولیت رهبری استراتژی فنی و اجرای چارچوب آمادگی اوپن ای‌آی را بر عهده خواهد داشت.» این چارچوب، رویکرد شرکت را برای ردیابی و آمادگی در برابر توانمندی‌های پیشرفته‌ای که ریسک‌های جدید و آسیب‌های شدید ایجاد می‌کنند، تبیین می‌کند. به گفته آلتمن، این یک «شغل پرفشار است و فرد منتخب تقریباً بلافاصله به عمق ماجرا پرتاب خواهد شد.»

تغییرات مداوم در تیم‌های ایمنی اوپن ای‌آی

طی دو سال گذشته، تیم‌های ایمنی در اوپن ای‌آی دستخوش تغییرات و تحولات بسیاری شده‌اند. الکساندر مدری، مدیر سابق بخش آمادگی، در تیر ماه ۱۴۰۳ از سمت خود کنار رفت و به بخش دیگری منتقل شد. در آن زمان آلتمن اعلام کرد که مسئولیت‌های این بخش بر عهده دو مدیر اجرایی به نام‌های خواکین کوینونرو کاندلا و لیلیان ونگ خواهد بود.

با این حال، لیلیان ونگ تنها چند ماه بعد شرکت را ترک کرد. همچنین در تیر ماه ۱۴۰۴، کوینونرو کاندلا اعلام کرد که از تیم آمادگی جدا شده تا رهبری بخش جذب نیرو در اوپن ای‌آی را بر عهده بگیرد. اکنون با خالی ماندن این جایگاه حساس، اوپن ای‌آی به دنبال نیروی تازه‌ای است تا بتواند از پس بحران‌های اخلاقی و ایمنی هوش مصنوعی برآید.

به مطالعه ادامه دهید:

برچسب ها