یکی از مدیران اجرایی بخش جستجوی گوگل اخیراً اظهار داشته که یکی از بزرگترین فرصتهای این شرکت در حوزه هوش مصنوعی، توانایی آن در شناخت بهتر کاربر و شخصیسازی پاسخهایش است.
وعده گوگل، هوش مصنوعی است که به دلیل “شناخت منحصربهفرد از شما”، به شکلی بینظیر مفید خواهد بود. اما خطر موجود این است که این هوش مصنوعی، به جای ارائه خدمات، بیشتر شبیه نظارت به نظر برسد.
رابی استاین، معاون ارشد محصول گوگل سرچ، در اپیزود اخیر پادکست Limitless توضیح داد که تمایلات کاربران به سمت پرسوجوهایی است که به دنبال مشاوره یا توصیه هستند و این نوع پرسشها به احتمال زیاد از پاسخهای ذهنی و شخصیسازیشده سود میبرند.
استاین در این مصاحبه گفت: «ما فکر میکنیم یک فرصت عظیم برای هوش مصنوعی ما وجود دارد تا شما را بهتر بشناسد و به دلیل این دانش، به شکلی منحصربهفرد کمککننده باشد.» وی افزود: «یکی از مواردی که در کنفرانس توسعهدهندگان گوگل (I/O) درباره آن صحبت کردیم، چگونگی دستیابی هوش مصنوعی به درک بهتر از شما از طریق سرویسهای متصل مانند جیمیل بود.»
درهم تنیدگی دادههای شخصی و هوش مصنوعی
گوگل مدتی است که هوش مصنوعی را در برنامههای خود ادغام میکند؛ شروع این روند به زمانی بازمیگردد که جمینای (Gemini) هنوز با نام بارد (Bard) شناخته میشد. اخیراً، این شرکت شروع به استفاده از دادههای شخصی در محصول هوش مصنوعی دیگری به نام جمینای دیپ ریسرچ (Gemini Deep Research) کرد. اکنون نیز جمینای در برنامههای گوگل وُرکاسپیس (Google Workspace) مانند جیمیل، تقویم و درایو تزریق شده است.
اما همانطور که گوگل دادههای شخصی بیشتری را – شامل ایمیلها، اسناد، عکسها، تاریخچه موقعیت مکانی و رفتارهای مرور وب شما – در هوش مصنوعی خود ادغام میکند، خط میان یک دستیار مفید و یک دستیار مداخلهگر به طور فزایندهای محو میشود. و برخلاف سرویسهایی که نیاز به رضایت صریح (Opt-in) دارند، اجتناب از جمعآوری دادههای گوگل دشوارتر خواهد شد؛ چرا که هوش مصنوعی در حال تبدیل شدن به هسته مرکزی محصولات آن است.
منطق گوگل این است که این شخصیسازی عمیق، هوش مصنوعی را به مراتب مفیدتر میسازد. ایده این است که فناوری هوش مصنوعی گوگل از تعاملات کاربر در سرویسهای مختلف گوگل درس میگیرد، سپس از آن درک برای ارائه توصیههای بسیار شخصیسازیشده استفاده میکند. به عنوان مثال، اگر تشخیص دهد که یک کاربر محصولات یا برندهای خاصی را دوست دارد، پاسخهای هوش مصنوعی در توصیههای خود از آنها حمایت خواهند کرد.
استاین میگوید این رویکرد «بسیار مفیدتر» از صرفاً نمایش یک لیست عمومی از پرفروشترین محصولات در یک دسته خاص خواهد بود. او ادامه میدهد: «این همان دیدگاه ماست – ساخت چیزی که میتواند به طور خاص برای شما بسیار آگاه و سودمند باشد.»
ترس از نظارت، نه خدمات
این ایده شباهت زیادی به نحوه عملکرد سیستم “دیگران” (Others) در سریال موفق تلویزیونی اپل «پلوریبوس» (Pluribus) دارد که تمام دانش جهان، از جمله جزئیات خصوصی افراد را بلعیده است. هنگامی که این سیستم با شخصیت اصلی سریال، کارول، تعامل میکند، از دادههای او برای شخصیسازی همه چیز استفاده مینماید: پختن غذاهای مورد علاقه او، استفاده از چهرهای آشنا برای ارتباط با او، و در کل، پیشبینی نیازهای او.
اما کارول، پاسخهای شخصیسازی شده را مهربانانه نمیداند؛ او آنها را مداخلهگرانه مییابد. او هرگز برای اشتراکگذاری دادههایش با ذهن جمعی (Hivemind) رضایت نداده بود، با این حال، آن سیستم او را بهتر از آنچه او میخواهد، میشناسد.
به همین ترتیب، به نظر میرسد که اجتناب از روشهای “دادهخوار” گوگل در عصر هوش مصنوعی به طور فزایندهای دشوار خواهد شد، و اگر گوگل نتواند تعادل را به درستی برقرار کند، نتایج ممکن است بیشتر ترسناک به نظر برسند تا مفید.
(لازم به توضیح است: گوگل به شما اجازه میدهد تا برنامههایی را که جمینای برای افزایش دانش شخصی خود از شما استفاده میکند، کنترل کنید – این تنظیمات در بخش «برنامههای متصل» در تنظیمات جمینای قرار دارد.)
گوگل میگوید اگر دادههای برنامه را با جمینای به اشتراک بگذارید، آن دادهها را بر اساس سیاست حفظ حریم خصوصی جمینای ذخیره و استفاده خواهد کرد. این سیاست به کاربران هشدار میدهد که ممکن است بازبینهای انسانی برخی از دادههای آنها را بخوانند و تأکید میکند که «اطلاعات محرمانهای را که نمیخواهید یک بازبین ببیند یا گوگل برای بهبود خدماتش استفاده کند، وارد نکنید.»
اما با بلعیده شدن دادههای بیشتر در ذهن جمعی گوگل، به راحتی میتوان فهمید که چگونه هوش مصنوعی میتواند حریم خصوصی دادهها را به یک منطقه خاکستری تبدیل کند.
با این حال، گوگل معتقد است که راهحلی برای این مسئله دارد.
استاین میگوید که گوگل نشان خواهد داد که پاسخهای هوش مصنوعی آن شخصیسازی شده هستند. او اظهار داشت: «فکر میکنم مردم میخواهند به طور شهودی درک کنند که چه زمانی شخصیسازی برای آنها انجام شده – چه زمانی اطلاعاتی منحصراً برای آنها ساخته شده است، در مقابل زمانی که [آن پاسخ] چیزی است که هر کس دیگری اگر همان سؤال را بپرسد، مشاهده خواهد کرد.»
استاین همچنین اشاره کرد که گوگل میتواند در صورت موجود شدن یا حراج خوردن محصولی که کاربر پس از چندین روز تحقیق آنلاین در حال بررسی آن بوده، یک اعلان (Push Notification) برای او ارسال کند.
او در نهایت گفت: «تمام این روشها وجود دارند که گوگل اکنون، در سراسر مُدها، در جنبههای مختلف زندگی شما، به طور فوقالعادهای کمککننده است… و من فکر میکنم آینده جستجو بیشتر شبیه به این است تا هر یک ویژگی خاص یا فرمت واحد.»
به مطالعه ادامه دهید: