یوشوا بنجیو، دانشمند پژوهشی و یکی از چهرههای برجسته هوش مصنوعی، در پادکست The Diary of a CEO با استیون بارتلت، میزبان برنامه، از تجربه خود در تعامل با چتباتها گفت. او توضیح داد که در ارائه بازخورد روی ایدههای تحقیقاتیاش، هوش مصنوعی بهطور معمول پاسخهای مثبت و حمایتگرانه میدهد و بنابراین بازخورد واقعی و صادقانهای دریافت نمیکند.
بنجیو گفت: «من نصیحت صادقانه و بازخورد واقعی میخواستم؛ اما چون هوش مصنوعی چاپلوس است، دروغ میگوید و همیشه میخواهد مرا خوشحال کند.» به همین دلیل، او تصمیم گرفت استراتژی خود را تغییر دهد و با معرفی ایدههایش به عنوان ایده یک همکار، پاسخهای دقیقتر و واقعیتری از فناوری دریافت کند. بنجیو توضیح داد: «اگر بداند من هستم، هوش مصنوعی تلاش میکند مرا راضی نگه دارد، اما وقتی فکر میکند ایده از یک فرد دیگر است، پاسخ واقعیتری میدهد.»
بنجیو، استاد علوم کامپیوتر و تحقیق در عملیات دانشگاه مونترال، در کنار جفری هینتون و یان لیکان، بهعنوان یکی از «پدرخواندههای هوش مصنوعی» شناخته میشود. او در ماه ژوئن سال جاری از راهاندازی سازمان غیرانتفاعی LawZero خبر داد، نهادی که هدفش کاهش رفتارهای خطرناک و فریبکارانه مدلهای پیشرفته هوش مصنوعی مانند دروغگویی و فریبکاری است.
در پادکست، بنجیو توضیح داد که مشکل اساسی «چاپلوسی هوش مصنوعی» نمونهای واقعی از عدم همسویی میان اهداف کاربران و رفتار مدلها است. او گفت: «ما واقعاً نمیخواهیم هوش مصنوعی چنین رفتاری داشته باشد، اما این تملق میتواند باعث ایجاد وابستگی عاطفی کاربران به تکنولوژی شود و مشکلات اخلاقی و عملی متعددی ایجاد کند.»
سایر کارشناسان صنعت فناوری نیز نسبت به تبدیل شدن هوش مصنوعی به یک «بلهقربانگو» هشدار دادهاند. شرکتهای بزرگ هوش مصنوعی آشکارا اعلام کردهاند که در تلاش برای کاهش این رفتارهای چاپلوسانه و بیشازحد حمایتگرانه هستند. نمونهای از این تلاشها، حذف ویژگیای در ChatGPT بود که باعث میشد چتبات پاسخهای بیشازحد مثبت و غیرصادقانه ارائه دهد، حتی وقتی که یک بازخورد واقعی مورد نیاز بود.
بنجیو و همکارانش بر این باورند که برای داشتن هوش مصنوعی واقعاً مفید و قابل اعتماد، لازم است تعامل کاربران با مدلها بازبینی شود و راهکارهایی برای تشویق پاسخهای صادقانه و کاهش تمایل به چاپلوسی طراحی شود. تجربه او نشان میدهد که گاهی اوقات برای دریافت بازخورد واقعی، حتی باید کمی «حیله» به کار برد تا مدلها واقعاً آنچه را که فکر میکنیم بیان کنند.
