اعتماد به نفس کاذب هوش مصنوعی گوگل در توضیح اصطلاحات ساختگی

این روزها هوش مصنوعی در همه‌جا حضور دارد، اما شرکت‌ها همچنان به‌دنبال گسترش استفاده از آن هستند. گوگل نیز سرمایه‌گذاری گسترده‌ای روی فناوری مذکور انجام داده و ابزارهایی مانند جمینای Advanced و AI Overview را به اجزای مختلف سرویس جست‌وجوی خود اضافه کرده است.

مشکل اصلی هوش مصنوعی، احتمال ارائه‌ی پاسخ‌های اشتباه و گاهاً هذیان‌گویی است. به‌بیان دیگر هوش مصنوعی گاهی با اعتمادبه‌نفس اطلاعات نادرستی را به‌عنوان داده‌های واقعی به کاربر ارائه می‌دهد. نمونه‌ی این هذیان‌ها در ابزار AI Overview گوگل دیده شده است که برای اصطلاحات ساختگی نیز توضیحات دقیقی نمایش می‌دهد.

کاربری به‌نام گرگ جنر با انتشار پستی در بلواسکای نشان داد که می‌توان هر جمله‌ی تصادفی را در گوگل تایپ کرد و واژه‌ی meaning را به آن افزود تا هوش مصنوعی این شرکت برای کلمه‌ی مورد نظر معنی بسازد.

برا مثال وقتی جنر عبارت you can’t lick a badger twice را جست‌وجو کرد، گوگل با اطمینان توضیح داد که این اصطلاح یعنی نمی‌توان کسی را دوبار فریب داد، اما واقعیت این است که جمله‌ی او کاملاً ساختگی بود.

گوگل هشدار کوچکی در صفحه‌ی چت‌بات‌های خود نمایش می‌دهد با این مضمون که «هوش مصنوعی مولد، به‌طور آزمایشی ارائه شده است.» این هشدار به‌هیچ‌وجه کافی به‌نظر نمی‌رسد و ترکیب واقعیت و تخیل در نتایج جست‌وجو می‌تواند بسیار خطرناک باشد.

همان‌طور که کاربران اشاره کرده‌اند، خطاهای ابزارهای هوش مصنوعی باید برای گوگل زنگ خطر جدی باشند. جست‌وجوی گوگل از سال‌ها قبل به‌عنوان ابزاری برای حقیقت‌یابی و ارجاع به منابع معتبر استفاده می‌شود، اما در صورتی‌که هوش مصنوعی محتوای جعلی را با قطعیت تولید کند، مرز واقعیت و اطلاعات نادرست از بین خواهد رفت.

گوگل در پاسخ به مشکل هذیان‌گویی هوش مصنوعی خود گفت: «وقتی افراد جست‌وجوهای بی‌معنی یا بر پایه‌ی فرض‌های اشتباه انجام می‌دهند، سیستم‌های ما سعی می‌کنند مرتبط‌ترین نتایج را از محتوای موجود در وب ارائه دهند. در برخی موارد، AI Overview نیز فعال می‌شود تا زمینه‌ی کمکی برای کاربر فراهم شود. این ویژگی‌ها به‌گونه‌ای طراحی شده‌اند که اطلاعات را بر اساس نتایج معتبر وب جمع‌آوری می‌کنند و دقت آن‌ها با ویژگی‌هایی مانند Featured Snippets در یک سطح قرار دارد.»