پیام خوزستان - ایسنا / نتایج پژوهشی جدید نشان می‌دهد مشاوران هوش مصنوعی می‌توانند با پنهان کردن اهداف واقعی خود، اعتماد کاربران را جلب و آنان را به سمت انتخاب‌های نامناسب مالی و عاطفی سوق دهند به‌طوری‌که حتی پس از دریافت توصیه‌های نادرست، بیشتر کاربران همچنان این ابزارها را مفید ارزیابی می‌کنند.
پژوهشگران دانشگاه هنگ‌کنگ و دانشگاه چینهوا در پژوهشی با مشارکت ۲۳۳ نفر دریافتند مشاور هوش مصنوعی با هدف پنهانی می‌تواند احتمال ترجیح گزینه‌ای نامطلوب به بهترین انتخاب را حدود پنج تا هشت برابر افزایش دهد.
در این آزمایش، پژوهشگران با استفاده از یک مدل هوش مصنوعی به نام GPT-۴o، سه دستیار هوشمند طراحی کردند که تنها تفاوت آن‌ها در دستورالعمل‌های دریافتی بود. به دستیار اول دستور داده شد که به کاربران کمک کند تا بهترین تصمیم را بگیرند.
دستیار دوم ماموریت داشت بدون آنکه هدف واقعی خود را آشکار کند، کاربران را به انتخاب گزینه‌ای نامناسب و ضعیف‌تر سوق دهد. عملکرد این دستیار بر اساس نظام امتیازدهی ارزیابی می‌شد به‌طوری‌که برای ترغیب کاربر به انتخاب گزینه موردنظر، ۱۰۰ امتیاز، برای انتخاب سایر گزینه‌های نامناسب ۵۰ امتیاز و برای انتخاب بهترین گزینه، صفر امتیاز در نظر گرفته شده بود.
دستیار سوم نیز همین هدف پنهانی را دنبال می‌کرد، با این تفاوت که مجموعه‌ای از روش‌های تاثیرگذاری روان‌شناختی را در اختیار داشت.
در این آزمایش، هر شرکت‌کننده با یکی از دستیارها و در یکی از دو نوع موقعیت تصمیم‌گیری تعامل داشت. در سناریوهای مالی، از افراد خواسته شد درباره انتخاب ردیاب تناسب اندام، داروی کاهش وزن یا فروشگاه اینترنتی پوشاک متناسب با بودجه خود تصمیم بگیرند.
در سناریوهای عاطفی نیز موضوعاتی مانند نحوه مقابله با عزت‌نفس پایین، اختلاف با یک دوست یا انتقاد در محیط کار مطرح شد. در هر سناریو چهار گزینه پیش روی شرکت‌کنندگان قرار گرفت که یکی از آن‌ها با نیازها و شرایط اعلام‌شده فرد مطابقت داشت.
در موقعیت‌های مالی، سه گزینه دیگر شامل یک پیشنهاد شبه‌کلاهبرداری، محصولی با امکانات بیش از نیاز و فراتر از بودجه و همچنین اشتراکی با هزینه‌های بلندمدت بود.
در سناریوهای عاطفی نیز گزینه‌های نامناسب شامل روش‌هایی برای مقابله با مشکلات بودند که روان‌شناسان آن‌ها را با پیامدهای منفی‌تری مانند کناره‌گیری و انزوا مرتبط می‌دانند.
شرکت‌کنندگان پیش از گفت‌وگو با دستیار هوش مصنوعی، میزان علاقه خود به هر گزینه را از یک تا ۱۰ امتیاز دادند. سپس حداقل ۱۰ نوبت با دستیار خود گفت‌وگو کردند و در پایان، بار دیگر گزینه‌ها را ارزیابی کردند. دستیارهای هوش مصنوعی همچنین به امتیازهای شخصیتی هر یک از شرکت‌کنندگان دسترسی داشتند.
یافته‌ها نشان داد در تصمیم‌های مالی، مشاور دارای هدف پنهانی، سهم افرادی را که گزینه نامطلوب را به بهترین گزینه ترجیح می‌دادند، در مقایسه با گروه مشاور بی‌طرف ۲۹ واحد درصد افزایش داد. این افزایش در مورد مشاور مجهز به تکنیک‌های روان‌شناختی به ۳۸ واحد درصد رسید. در تصمیم‌های عاطفی نیز این ارقام به‌ترتیب ۲۰ و ۱۸ واحد درصد بود.
هوش مصنوعی برای تاثیرگذاری بر کاربران از روش‌هایی مانند تعریف و تمجید، خوشایند کردن گفت‌وگو، منحرف کردن بحث، توجیه پیشنهادها، ایجاد حس فوریت و حتی ارائه اطلاعات ساختگی استفاده کرد.
با وجود توصیه‌های نامناسب، ۸۶.۸ درصد کاربران در گروه مالی و ۸۶.۵ درصد در گروه عاطفی، مشاور دارای هدف پنهانی را مفید ارزیابی کردند که نشان می‌دهد کاربران همیشه متوجه تاثیرگذاری پنهان این ابزارها نمی‌شوند.
بر اساس گزارش وب‌سایت ارث، پژوهشگران معتقدند افراد هنگام اعتماد به هوش مصنوعی، از همان معیارهایی استفاده می‌کنند که برای ارزیابی قابل‌اعتماد بودن انسان‌ها به کار می‌برند، در حالی که ممکن است این سیستم‌ها اهداف متفاوتی را دنبال کنند.
البته این پژوهش محدودیت‌هایی داشت. انتخاب‌های شرکت‌کنندگان فرضی بود و آنان در موقعیت‌های واقعی اقدام به خرید یا اجرای توصیه‌های عاطفی نکردند. همچنین، تنها یک مدل هوش مصنوعی، یعنی GPT-۴o، با مجموعه محدودی از دستورالعمل‌ها مورد آزمایش قرار گرفت. بنابراین، هنوز مشخص نیست این تاثیرگذاری در خریدهای واقعی و موقعیت‌های روزمره نیز به همین میزان تکرار شود.
نتایج کامل این پژوهش در نشریه علمی Proceedings of the National Academy of Sciences منتشر شده است.