خطرات جانی هوش مصنوعی گوگل؛ ارائه توصیههای پزشکی گمراهکننده به کاربران
تحقیقات اختصاصی گاردین فاش کرده است که اطلاعات بهداشتی نادرست و گمراهکننده در خلاصههای هوش مصنوعی گوگل (AI Overviews)، افراد را در معرض خطر جدی قرار داده است. با وجود اینکه این شرکت مدعی است قابلیت AI Overviews که از هوش مصنوعی مولد برای ارائه چکیدهای از اطلاعات ضروری درباره یک موضوع یا سوال استفاده میکند، «مفید» و «قابل اعتماد» است، اما برخی از این خلاصهها که در بالاترین بخش نتایج جستجو ظاهر میشوند، اطلاعات پزشکی نادرستی ارائه داده و سلامت کاربران را تهدید کردهاند.
در یک مورد که کارشناسان آن را «واقعاً خطرناک» توصیف کردند، گوگل به اشتباه به افراد مبتلا به سرطان پانکراس (لوزالمعده) توصیه کرد که از مصرف غذاهای پرچرب خودداری کنند. متخصصان معتقدند این دقیقاً برعکس توصیهای است که باید ارائه شود و ممکن است خطر مرگ بیماران ناشی از این بیماری را افزایش دهد. در نمونه «تکاندهنده» دیگری، این شرکت اطلاعات جعلی درباره آزمایشهای حیاتی عملکرد کبد ارائه کرده است که میتواند باعث شود افراد مبتلا به بیماریهای جدی کبدی، به اشتباه تصور کنند در سلامت کامل هستند.
جستجوهای گوگل برای پاسخ در مورد آزمایشهای سرطان زنان نیز اطلاعات «کاملاً غلطی» ارائه کرده است که به گفته کارشناسان میتواند منجر به نادیده گرفتن علائم واقعی بیماری توسط افراد شود. سخنگوی گوگل در واکنش اعلام کرد که بسیاری از نمونههای بهداشتی به اشتراک گذاشته شده با آنها «اسکرینشاتهای ناقص» بودهاند، اما طبق ارزیابی آنها، این نتایج «به منابع معتبر و شناختهشده لینک داده شده و توصیه به دریافت مشاوره تخصصی میکنند.»
تحقیقات گاردین در حالی منتشر میشود که نگرانیها درباره گیج شدن مصرفکنندگان توسط دادههای هوش مصنوعی رو به افزایش است؛ چرا که کاربران ممکن است تصور کنند این اطلاعات قابل اعتماد هستند. در آبان ۱۴۰۲، مطالعهای نشان داد که چتباتهای هوش مصنوعی در پلتفرمهای مختلف، مشاورههای مالی نادرستی ارائه میدهند و نگرانیهای مشابهی نیز درباره خلاصهسازی داستانهای خبری مطرح شده است.
سوفی رندال، مدیر انجمن اطلاعات بیمار که اطلاعات بهداشتی مبتنی بر شواهد را ترویج میکند، گفت این نمونهها نشان داد که «AI Overviews گوگل میتواند اطلاعات بهداشتی نادرست را در صدر جستجوهای آنلاین قرار دهد و خطری برای سلامت مردم ایجاد کند.» استفانی پارکر، مدیر بخش دیجیتال در خیریه «ماری کوری»، نیز افزود: «مردم در لحظات نگرانی و بحران به اینترنت روی میآورند. اگر اطلاعاتی که دریافت میکنند نادرست یا خارج از متن باشد، میتواند به طور جدی به سلامت آنها آسیب برساند.»
گاردین چندین مورد از اطلاعات بهداشتی نادرست را پس از ابراز نگرانی گروههای بهداشتی، خیریهها و متخصصان کشف کرد. آنا جول، مدیر بخش حمایت و تحقیق در مرکز سرطان پانکراس بریتانیا، گفت توصیه به بیماران برای پرهیز از غذاهای پرچرب «کاملاً اشتباه» است. او افزود: «انجام این کار میتواند واقعاً خطرناک باشد و شانس فرد را برای داشتن وضعیت جسمانی مناسب جهت درمان به خطر بیندازد. اگر کسی از این نتیجه جستجو پیروی کند، ممکن است کالری کافی دریافت نکند، برای افزایش وزن دچار مشکل شود و نتواند شیمیدرمانی یا جراحیهای بالقوه نجاتبخش را تحمل کند.»
همچنین تایپ عبارت «دامنه نرمال برای آزمایشهای خون کبد چیست» اطلاعات گمراهکنندهای شامل تودهای از اعداد، بدون بافتار (Context) و بدون در نظر گرفتن ملیت، جنسیت، نژاد یا سن بیماران ارائه داد. پاملا هیلی، مدیر اجرایی تراست کبد بریتانیا، گفت که این خلاصهها هشداردهنده هستند: «بسیاری از مبتلایان به بیماریهای کبدی تا مراحل نهایی علائمی نشان نمیدهند، به همین دلیل آزمایش دادن بسیار مهم است. اما آنچه هوش مصنوعی گوگل به عنوان “نرمال” میگوید، میتواند تفاوت فاحشی با آنچه واقعاً نرمال تلقی میشود داشته باشد و باعث شود بیماران در جلسات پیگیری پزشکی شرکت نکنند.»
در موردی دیگر، جستجو برای «علائم و آزمایشهای سرطان واژن»، آزمایش پاپاسمیر را به عنوان آزمایشی برای این سرطان لیست کرد که اشتباه است. آتنا لمنیسوس، مدیر اجرایی خیریه سرطان Eve Appeal، گفت: «این یک آزمایش برای تشخیص سرطان واژن نیست و این اطلاعات کاملاً غلط است. دریافت چنین اطلاعاتی میتواند منجر به این شود که فرد علائم واقعی را بررسی نکند چون نتیجه غربالگری دهانه رحم او اخیراً پاک بوده است.» او همچنین از تغییر پاسخهای هوش مصنوعی در جستجوهای مشابه ابراز نگرانی کرد.
گاردین همچنین دریافت که AI Overviews نتایج گمراهکنندهای برای جستجوهای مربوط به سلامت روان ارائه میدهد. استیون باکلی، مدیر بخش اطلاعات در خیریه Mind، گفت برخی خلاصهها برای شرایطی مانند روانپریشی و اختلالات خوردن، «توصیههای بسیار خطرناکی» ارائه کردهاند که میتواند منجر به اجتناب افراد از کمک گرفتن شود.
گوگل در دفاع از خود اعلام کرد که اکثریت قریب به اتفاق خلاصههای هوش مصنوعی این شرکت دقیق و مفید هستند و به طور مداوم در حال بهبود کیفیت آنها است. این شرکت افزود نرخ دقت AI Overviews همتراز با سایر ویژگیهای جستجو مانند «Featured Snippets» است که بیش از یک دهه قدمت دارند. گوگل تأکید کرد که در صورت تشخیص تفسیر اشتباه محتوا یا فقدان بافتار، مطابق با سیاستهای خود اقدام خواهد کرد.
به مطالعه ادامه دهید:
- سبکترین لپتاپ ۱۷ اینچی جهان معرفی شد؛ شاهکار مهندسی الجی با آلیاژ فضایی و هوش مصنوعی
- عقبنشینی استارلینک در فضا؛ چرا ۴۴۰۰ ماهواره ایلان ماسک به زمین نزدیکتر میشوند؟
- سامسونگ از پروژکتور قابل حمل +Freestyle رونمایی کرد؛ هوشمندتر و روشنتر از همیشه
- پوکو M8 در راه است؛ باریکترین و مقاومترین گوشی خمیده در رده قیمتی
