توهم هوش مصنوعی دامن خودش را گرفت

به گزارش رمز من به نقل از انگجت، موسسه KMPG در اکتبر سال قبل گزارشی با عنوان«تجربه کامل: باز تعریف ایده آل در عصر هوش مصنوعی عاملی»منتشر کرد که در رابطه با آن بود که چطور شرکت ها از هوش مصنوعی برای تأمین نیازهای مشتری استفاده می نمایند. KMPG یکی از چهار شرکت ارایه کننده خدمات حرفه ای و حسابداری در جهان محسوب می شود. حالا بنظر می رسد این گزارش مملو از توهمات هوش مصنوعی بوده و برخی نمونه های هوش مصنوعی عاملی در آن به کار رفته که وجود ندارد اما قابلیت هایی که این شرکت در گزارش اشاره کرده را ندارند.

محققان موسسه GPTZero، سازنده ابزارهای ردیابی محتوای هوش مصنوعی، متوجه موارد نادرست و پانوشت های جعلی در تمام گزارش شده است. نشریه فایننشال تایمز هم این امر را تایید کرده است. محققان GPRZero در پژوهش خود اعلام نمودند از ۴۵ استناد فقط پنج مورد به درستی به منابع حقیقی اشاره کرده اند. در کل ۲۸ مورد از استنادها عنوان منابع را به شکل بازنویسی شده عرضه کرده بودند یا اجزای ساختگی و غیرواقعی به منابع حقیقی اضافه کرده بودند. از طرف دیگر ۱۲ استناد هم به اندازه ای مبهم باز نویسی شده بودند که امکان تشخیص وجود حقیقی بودن آنها وجود نداشت. GPTZero پدیده تولید منابع و ارجاعات ساختگی توسط مدلهای هوش مصنوعی را اصطلاح «استناد بر مبنای حدس و گمان» یا «Vibe Citing»نامیده است.

محققان علاوه بر استنادات جعلی یا نادرست متوجه شدند حدود نیمی از ادعاهای طرح شده در پژوهش مذکور جعلی یا به اشتباه منتسب شده است.GPTZero در این زمینه نوشته است: این موارد احیانا درنتیجه آن بوجود آمده که یک ابزار پژوهش هوش مصنوعی از دستوری برای یافتن نمونه های «هوش مصنوعی عاملی» بیش از حد پیروی کرده است. KMPG در یک نمونه مدعی شده بوده شرکت هواپیمایی«امارات»یک چت بات موبایلی به نام «سارا»راه اندازی کرده که می تواند با مسافران گفتگو کند و حتی پروازهای آنها را از طرفشان تغییر دهد.

همچنین KMPG ادعا نمود بانک چند ملیتی سرمایه گذاری سوییسی«یو بی اس» هوش مصنوعی عاملی را در قسمت های مشاوره سرمایه گذاری، مدیریت ریسک و رصد پیروی از قوانین یکپارچه کرده است. این بانک به نشریه تایمز گفته بود اطلاعات مذکور نادرست هستند.