مدل هوش مصنوعی جدید یکی از پژوهشگران OpenAI توجه توسعهدهندگان را جلب کرد
یک استارتاپ تأسیسشده توسط پژوهشگر سابق OpenAI، مدل هوش مصنوعی جدیدی معرفی کرده که برخلاف مدلهای زبانی بزرگ، برای تولید متن طراحی نشده است. این مدل با نام Jev بهجای پاسخهای متنی، احتمال هر تصمیم را ارائه میدهد و به گفته توسعهدهندگان، میتواند اجرای وظایف خودکار را سریعتر و کمهزینهتر کند.
دیوگو آلمیدا، بنیانگذار TypeSafe AI، از پژوهشگران سابق OpenAI است که در توسعه اولیه ChatGPT و روش یادگیری تقویتی از بازخورد انسانی یا RLHF مشارکت داشته است. او معتقد است صنعت هوش مصنوعی طی سالهای گذشته در بهبود توانایی مدلها برای کار با زبان انسان پیشرفت زیادی کرده، اما همین تمرکز لزوماً به معنای عملکرد بهتر در خودکارسازی وظایف نرمافزاری نیست.
آلمیدا پس از ترک OpenAI، حدود دو سال پیش TypeSafe AI را تأسیس کرد تا رویکرد متفاوتی را برای استفاده از هوش مصنوعی در نرمافزارها دنبال کند.
Jev چه تفاوتی با ChatGPT و مدلهای زبانی دارد؟
Jev بر پایه معماری ترنسفورمر ساخته شده، اما TypeSafe آن را یک مدل زبانی بزرگ (LLM) نمیداند. مهمترین تفاوت این مدل با سیستمهایی مانند ChatGPT در نوع خروجی آن است.
Jev بهجای آنکه برای هر درخواست متن تولید کند، مجموعهای از گزینههای از پیش تعیینشده را ارزیابی کرده و احتمال هرکدام را در اختیار نرمافزار قرار میدهد. TypeSafe این خروجیها را «تصمیمهای کالیبرهشده» مینامد.
این معماری باعث میشود مدل برای وظایفی که نتیجه مشخصی دارند، نیازمند تولید متن آزاد نباشد. از سوی دیگر، چون خروجیهای ممکن از قبل توسط توسعهدهنده تعیین میشوند، مدل نمیتواند مانند یک LLM معمولی پاسخ متنی دلخواه تولید کند؛ بنابراین یکی از منابع رایج توهم هوش مصنوعی نیز حذف میشود.
TypeSafe همچنین میگوید توکنهای خروجی Jev رایگان هستند و هزینه ورودی بر اساس میلیاردها توکن محاسبه میشود؛ موضوعی که هزینه استفاده از مدل را در مقایسه با مدلهای زبانی متداول کاهش میدهد.
آزمایش توسعهدهندگان چه چیزی نشان میدهد؟
Jev بهسرعت توجه برخی توسعهدهندگان را به خود جلب کرده است. استقبال از این مدل حتی باعث شد TypeSafe برای مدت کوتاهی با افزایش شدید تقاضا برای API خود مواجه شود.
یکی از نمونههای استفاده، به شرکت Vercel مربوط میشود. پرنیت شارما، مهندس نرمافزار این شرکت، اعلام کرده است که Vercel برای بررسی ایمنی فرمانهای نرمافزاری از یک مدل ChatGPT استفاده میکرد. پس از جایگزینی مدل OpenAI با Jev، این فرایند در آزمایش انجامشده بین ۵ تا ۱۸ برابر سریعتر شد و دقت آن نیز افزایش یافت.
نیکیل مودولکار، مدیر فناوری Bryo AI، نیز Jev را برای دستهبندی ایمیلهای تجاری با Gemini مقایسه کرده است. در آزمایش او، Gemini از نظر دقت اندکی عملکرد بهتری داشت، اما هزینه استفاده از آن ۱۰ تا ۲۰ برابر بیشتر بود.
با این حال، ویژگی مورد توجه مودولکار تنها قیمت پایین Jev نبود. این مدل احتمال مشخصی برای تصمیم خود ارائه میکند و همین موضوع به نرمافزار اجازه میدهد بر اساس میزان اطمینان مدل درباره اجرای یک اقدام تصمیم بگیرد.
نظارت بر عاملهای هوش مصنوعی با Jev
Jev الزاماً قرار نیست جایگزین مدلهای زبانی شود. یکی دیگر از سناریوهای مطرحشده برای این مدل، استفاده از آن بهعنوان یک لایه نظارتی در کنار LLMها و عاملهای هوش مصنوعی است.
برای مثال، یک سیستم میتواند فعالیت یک عامل هوش مصنوعی را بررسی کند و احتمال مخرب یا نامناسب بودن یک رفتار را تخمین بزند. استفاده از یک LLM دیگر برای چنین وظیفهای ممکن است هزینه زیادی داشته باشد، اما Jev به دلیل سرعت و هزینه پایینتر میتواند برای این نوع نظارت مناسبتر باشد.
از جمله کاربردهای احتمالی، بررسی فعالیت عاملهای هوش مصنوعی، تحلیل مسیر اجرای آنها و شناسایی تلاش برای Jailbreak یا دور زدن محدودیتهای مدل است.
چرا احتمال خروجی Jev اهمیت دارد؟
آرمین روناکر، مدیر فناوری شرکت Earendil، معتقد است مزیت مهم Jev در این است که نتیجه را تنها بهصورت یک پاسخ قطعی ارائه نمیکند و میزان اطمینان خود را نیز در اختیار نرمافزار میگذارد.
در چنین شرایطی، توسعهدهنده میتواند برای سیستم یک آستانه مشخص تعیین کند. بهعنوان مثال، اگر احتمال یک تصمیم تنها ۵۰ درصد باشد، نرمافزار میتواند آن را نادیده بگیرد؛ اما نتیجهای با احتمال ۹۵ درصد میتواند برای اجرای خودکار یک فرایند کافی باشد.
این قابلیت در سیستمهایی که تصمیمگیری خودکار دارند اهمیت زیادی پیدا میکند، زیرا نرمافزار میتواند میان تصمیمهای مطمئن و نتایج نامطمئن تفاوت بگذارد.
Jev میتواند هزینه انتخاب مدل مناسب را کاهش دهد
مسیریابی بین مدلهای هوش مصنوعی یا Model Routing نیز یکی دیگر از کاربردهای احتمالی Jev است.
در یک سیستم مبتنی بر چند مدل، پیش از پردازش هر درخواست باید مشخص شود که کدام مدل برای آن مناسب است. استفاده از یک LLM قدرتمند برای انجام همین تصمیم ساده میتواند هزینه و زمان اضافی ایجاد کند.
Jev به دلیل سرعت بالا و هزینه پایین میتواند نقش یک لایه تصمیمگیر را بر عهده بگیرد و مشخص کند هر درخواست باید به کدام مدل ارسال شود. در نتیجه، مدلهای گرانتر تنها زمانی مورد استفاده قرار میگیرند که واقعاً به توانایی آنها نیاز باشد.
نام Jev از یک اقتصاددان گرفته شده است
نام این مدل از ویلیام استنلی جِوِنز، اقتصاددان انگلیسی قرن نوزدهم، گرفته شده است. پارادوکس جِوِنز به این ایده اشاره دارد که کاهش هزینه یا افزایش بهرهوری یک منبع میتواند در نهایت به افزایش میزان استفاده از آن منجر شود.
آلمیدا امیدوار است همین اتفاق برای هوش مصنوعی نیز رخ دهد. از نگاه او، اگر هزینه استفاده از قابلیتهای هوشمند به اندازه کافی کاهش پیدا کند، هوش مصنوعی میتواند به بخشی از تعداد بسیار بیشتری از نرمافزارها تبدیل شود.
او بهجای تمرکز بر ساخت یک سرویس هوش مصنوعی واحد و بسیار بزرگ، آیندهای را تصور میکند که در آن قابلیتهای هوشمند بهصورت گسترده و توزیعشده در نرمافزارهای مختلف حضور داشته باشند.
TypeSafe جزئیات معماری Jev را فاش نکرده است
با وجود انتشار اطلاعات درباره کاربردهای Jev، TypeSafe هنوز جزئیات معماری این مدل را اعلام نکرده است. برخی ناظران احتمال میدهند Jev بر پایه یک مدل زبانی با وزنهای قابلدسترسی ساخته شده باشد، اما این موضوع از سوی شرکت تأیید نشده است.
TypeSafe این محصول را یک System One model معرفی میکند؛ مدلی که بهجای تمرکز بر استدلالهای پیچیده، برای تشخیص سریع و شهودی یک وظیفه مشخص طراحی شده است.
آلمیدا همچنین میگوید Jev بهطور انحصاری با دادههای مصنوعی آموزش داده شده است. روش آموزشی مورد استفاده شرکت نیز «یادگیری تقویتی از تصمیمهای کالیبرهشده» نام دارد.
به گفته آلمیدا، TypeSafe از ابتدا روی تولید و استفاده از دادههای مصنوعی با قابلیت تحلیل آماری تمرکز کرده و بخش قابلتوجهی از فعالیت شرکت به توسعه همین حوزه اختصاص دارد.
Jev فعلاً نمونهای متفاوت از مدلهای رایج هوش مصنوعی محسوب میشود، اما آرمین روناکر معتقد است با مشخصتر شدن کاربردهای این رویکرد، احتمال ظهور مدلهای رقیب نیز وجود دارد.
TypeSafe نیز قصد دارد مدلهای بیشتری را با همین رویکرد و برای حوزههای مختلف توسعه دهد.
