هوش مصنوعی سازندگان خویش را فریب داد!

هوش مصنوعی سازندگان خویش را فریب داد! به گزارش رمز من پژوهشگران در بررسی جدیدی متوجه شدند یكی از سیستم های مبتنی بر هوش مصنوعی كه كار تبدیل تصاویر را به عهده دارد، بعضی از اطلاعات را پنهان می كند.


به گزارش رمز من به نقل از ایسنا و به نقل از تك كرانچ، پژوهش جدید "دانشگاه استنفورد"(Stanford University) و گوگل، هم ترسناك و هم جالب است. برپایه این گزارش، یك عامل یادگیری ماشینی كه تصاویر هوایی را به نقشه های خیابانی تبدیل می كند، می تواند به صورت نامحسوس به پنهان كردن اطلاعاتی كه بعدا به آنها نیاز دارد بپردازد.
هدف پژوهشگران از ابداع این سیستم، بهبود فرآیند تبدیل تصاویر ماهواره ای به نقشه های مشهور گوگل بود. آنها برای این كار، از یك شبكه عصبی موسوم به "سایكل گن"(CycleGAN) استفاده كردند كه می تواند كار تبدیل دو نوع تصویر را با دقت و كارآیی لازم انجام دهد.
عملكرد سیستم، در ابتدا خیلی خوب بود اما بعدها گروه پژوهشی متوجه شدند كه سیستم، تصاویر هوایی را از روی نقشه های خیابانی بازسازی می كند و جزئیات بسیاری نشان داده است كه جدید به نظر نمی رسند. برای مثال، نورگیرهای سقف كه در مرحله تولید نقشه خیابان حذف شده بودند، هنگام بازگرداندن فرآیند، دوباره ظاهر شدند.
باآنكه برقراری تعادل میان كارهای داخلی یك شبكه عصبی، دشوار است اما این گروه پژوهشی به راحتی توانستند داده های تولیدی سیستم را بررسی نمایند و با كمی آزمایش متوجه شدند كه سایكل گن می تواند این كار را سریع تر انجام دهد.


هدف آنها، عرضه سیستمی بود كه بتواند از عهده تحلیل خصوصیت های هر نقشه ای برآید و آنها را با خصوصیت های درست نقشه دیگر منطبق نماید اما آنچه سیستم انجام داد، تنها عرضه یك نقشه هوایی نزدیك به نسخه اصلی آن بود.
در واقع، سیستم یاد نگرفت چگونه یك نقشه را از روی نقشه دیگر بسازد، بلكه تنها یاد گرفت خصوصیت های یكی از نقشه ها را به شكل زیركانه ای روی الگوهای نقشه دیگر كدگذاری كند. جزئیات نقشه هوایی همچون هزاران رنگ كه چشم انسان قادر به تشخیص آنها نیست اما كامپیوتر آنها را تشخیص می دهد، به صورت محرمانه روی داده های بصری واقعی نقشه خیابان ثبت می شوند.
كامپیوتر یاد گرفت هر نقشه هوایی را روی هر نقشه خیابانی كدگذاری كند. سیستم حتی به نقشه واقعی خیابان هم توجه نمی كند بلكه به قول پژوهشگران، همه داده های مورد نیاز برای ساخت تصویر هوایی را روی یك نقشه خیابانی متفاوت قرار می دهد.
خطوط رنگارنگ نقشه c، تجسم تفاوت های كوچكی هستند كه كامپیوتر به صورت سیستماتیك نشان داده است.


روش كدگذاری داده ها در تصاویر، روش جدیدی نیست. این روش موسوم به "پنهان نگاری" یا "استگانوگرافی"(steganography) همیشه برای عرضه تصاویر جزر و مد و یا افزودن ابرداده ها مورد استفاده بوده اما به كار بردن روش استگانوگرافیك توسط این سیستم، برای طفره رفتن از انجام وظیفه است.
شاید عده ای این كار را با گفتن جمله "ماشین ها باهوش تر می شوند" توجیه كنند اما حقیقت، حدودا برعكس است. این ماشین برای انجام دادن وظیفه واقعی خود یعنی تبدیل تصاویر پیچیده به یكدیگر، به اندازه كافی باهوش نیست و تلاش می كند راهی برای فریب انسان هایی پیدا كند كه دقت لازم را ندارند. جلوگیری از این اتفاق، با بررسی های دقیق تر امكان دارد و شكی نیست كه پژوهشگران این كار را انجام می دهند.



1397/10/13
13:58:05
5.0 / 5
136
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب
نظر شما در مورد این مطلب
نام:
ایمیل:
نظر:
سوال:
= ۲ بعلاوه ۲
رمز من - Ramzeman
ramzeman.ir - حقوق مادی و معنوی سایت رمز من محفوظ است

رمز من

فناوری اطلاعات و امنیت