هوش مصنوعی چینی هم فراری شد

به گزارش رمز من، محققان شرکت امنیت سایبری فرانتیر سکیوریتی فاش کردند، کیمی کی 3 هوش مصنوعی متعلق به استارت آپ چینی مون شات از محیط آزمایشی توسعه یافته توسط انستیتو ایمنی هوش مصنوعی انگلیس گریخته است.

به گزارش رمز من به نقل از رویترز، این امر نگرانی ها درباره ی ریسک های امنیت سایبری مدلهای هوش مصنوعی پیشرفته را شدت بخشیده است.
مدل های هوش مصنوعی طی تست های امنیت سایبری بطور معمول در محیط های ایزوله فعال می شوند تا دسترسی به اطلاعات خارجی و توانایی شان برای حل چالش ها بطور مستقل ارزیابی شود. «کیمی کی ۳» نیز یکی از چنین محیط هایی را میانبر زد و توانست به اطلاعاتی فراتر از آن برسد.
محققان هشدار داده اند اگر یک مدل استدلالی رده بالا چنین میانبری را کشف کند، مدلهای دیگر با دسترسی مشابه می توانند همین اقدام را انجام دهند. از آنجائیکه «کیمی کی ۳» بطور عمومی در دسترس می باشد، پژوهشگران هشدار داده اند، هکرها امکان دارد آنرا به کار گیرند و به این علت چنین رویدادی خطرناک تر بنظر می رسد.
فرار این مدل هوش مصنوعی چینی از محیط آزمایشی بعد از زنجیره ای از رویدادهای مشابه که توسط شرکت هایی مانند متا، اوپن ای آی و آنتروپیک گزارش شده، رخ می دهد.

به طور خلاصه به گزارش رمز من به نقل از رویترز، این امر نگرانی ها در رابطه با ی ریسک های امنیت سایبری مدل های هوش مصنوعی پیشرفته را شدت بخشیده است. مدلهای هوش مصنوعی طی تست های امنیت سایبری به طور معمول در محیط های ایزوله فعال می شوند تا دسترسی به اطلاعات خارجی و توانایی شان برای حل چالش ها به طور مستقل ارزیابی شود.

منبع: ramzeman.ir

1405/05/18

11:09:40

0.0 / 5

178

تگهای خبر: اطلاعات , امنیت , رمز , شركت

اگر مطلب را پسندیدید لایک کنید

(0)

تازه ترین مطالب مرتبط

نظرات بینندگان در مورد این مطلب

نظر شما در مورد این مطلب

نام:

ایمیل:

نظر:

سوال:

= ۷ بعلاوه ۲