نقش فناوری در دفاع از حقیقت هوش مصنوعی چه طور راستی آزمایی می کند

رمز من: در دنیای امروز که اخبار در کسری از ثانیه در سرتاسر جهان گردش می یابند، تکنولوژی های جدید و به طور دقیقتر هوش مصنوعی، به عنوان پاسخی فناورانه به این چالش مطرح می شوند.

به گزارش رمز من به نقل از مهر؛ سرعت گردش اطلاعات خصوصاً در بستر رسانه های اجتماعی، باعث شده که انتشار شایعه یا اخبار جعلی بتواند در مدت زمانی بسیار کوتاه، آثار جدی اجتماعی، سیاسی یا امنیتی به جا بگذارد. این شرایط خصوصاً در مواقع بروز بحران های سیاسی و اجتماعی چون تجاوز رژیم اشغالگر قدس به زیرساخت های حیاتی و مناطق غیرنظامی جمهوری اسلامی ایران، برای مخاطبان و کاربران اهمیتی دوچندان می یابد. در این بین، تکنولوژی های جدید و به طور دقیقتر هوش مصنوعی، به عنوان پاسخی فناورانه به این چالش مطرح می شوند. هوش مصنوعی حال دیگر فقط یک ابزار تحقیقاتی یا دانشگاهی نیست، بلکه در خط مقدم رویارویی با موج های انتشار گسترده اطلاعات ناصحیح ایستاده است. این فناوری با توانایی تحلیل خودکار حجم عظیمی از داده ها، شناسایی الگوهای زبانی، تشخیص چهره و صدا و مقایسه سریع داده ها با پایگاه های اطلاعاتی معتبر، این امکان را فراهم می آورد که راستی آزمایی اخبار با سرعت و دقتی فراتر از توان انسان صورت گیرد. مهر در این نوشتار کوتاه، ضمن بررسی عملکرد و قابلیت های فعلی هوش مصنوعی در رویارویی با پدیده اخبار جعلی، به تعدادی از تجربه های موفق بین المللی دراین خصوص اشاره خواهدنمود و در ادامه به بررسی ضرورت پیاده سازی کاربردهای فناوری مذکور در عرصه رویارویی با اخبار جعلی می پردازد.

نقش چندوجهی هوش مصنوعی در راستی آزمایی محتوا

به اعتقاد کارشناسان، هوش مصنوعی با بهره بردن از الگوریتم های پردازش زبان طبیعی، یادگیری ماشین و تحلیل چندرسانه ای، چهار نقش اساسی در پروسه راستی آزمایی ایفا می کند: استخراج هوشمند اطلاعات مشکوک از حجم عظیم داده ها تحلیل محتوایی و ارزیابی اعتبار ادعاها و منابع مقایسه خودکار داده ها با پایگاه های معتبر و تحلیل آنها رصد جریان های هماهنگ اطلاعات ناصحیح این سامانه ها با بررسی ساختار زبانی، اعتبار نویسندگان، سوابق منابع خبری و حتی خاصیت های صوتی و تصویری محتوا، الگوهای ناهنجار و نشانه های دروغ پردازی را شناسایی کرده و هشدارهای اولیه جهت بررسی انسانی صادر می کنند. تحلیل هم زمان متن، صوت و تصویر و تطبیق میان زبانی، خصوصاً در رویارویی با عملیات روانی فرامرزی، نقشی حیاتی دارد.

تجربه های بین المللی از پیوند فناوری و حقیقت سنجی

برنامه هایی چون پروژه «AI۴TRUST» که با حمایت اتحادیه اروپا توسعه یافته، نمونه ای پیشرو در استفاده تلفیقی از هوش مصنوعی و تحلیل انسانی شمرده می شود. این سامانه رسانه های اجتماعی را بصورت لحظه ای پایش می کند و با تحلیل محتوای چندزبانه، موارد دارای ریسک بالای اطلاعات ناصحیح را علامت گذاری می نماید. خروجی این تحلیل ها در قالب شاخص هایی همچون «ریسک اپیدمی اطلاعاتی»، ابزار تصمیم گیری مفیدی برای روزنامه نگاران و سیاست گذاران فراهم می سازد. همین طور در بریتانیا، سازمان «Full Fact» از هوش مصنوعی برای پوشش وسیع تر منابع خبری، همچون رسانه های آنلاین، رسانه های اجتماعی و برنامه های تلویزیونی بهره می برد. این فناوری به تیم های حقیقت سنج کمک می نماید تا ادعاهای مهم، پرتکرار و قابل بررسی را در اولویت قرار دهند. با این وجود، تصمیم گیری غائی بازهم بر عهده تحلیل گران انسانی باقی می ماند.

از تشخیص دروغ تا مداخله زودهنگام

نتایج علمی جدید پژوهشی پیشگامانه در دانشگاه کالیفرنیا سن دیگو نشان داده است که الگوریتم های یادگیری ماشین در تشخیص رفتار فریبکارانه بمراتب دقیق تر و قابل اعتمادتر از انسان ها عمل می کنند. این مطالعه با تأکید بر تحلیل برنامه تلویزیونی «Golden Balls»، یک شوی رقابتی بریتانیایی با موقعیت های راهبردی فریب و همکاری، انجام شده است. محققان دریافتند که الگوریتم های طراحی شده با دقتی معادل ۷۴ درصد می توانند نیت واقعی شرکت کنندگان را در موقعیت های کلیدی تشخیص دهند، در صورتیکه بالاتر از ۶۰۰ شرکت کننده انسانی در این آزمایش، تنها به دقتی بین ۵۱ تا ۵۳ درصد رسیدند. این یافته ها حاکی از آنست که ماشین ها می توانند الگوهای رفتاری، لحن کلام، میمیک صورت و حتی فاکتورهای عاطفی مانند شادی یا اضطراب را بصورت دقیق تر تحلیل کرده و ارتباط آنها با دروغ گویی یا صداقت را شناسایی نمایند. بگفته مارتا سرا گارسیا، نویسنده اصلی این مطالعه، الگوریتم ها قادرند نشانه هایی را که برای انسان ها غیرقابل تشخیص هستند، به عنوان نشانه های رفتاری فریب استخراج کنند. همچنین، نتایج آزمایش ها نشان داد که زمان بندی ارائه هشدار الگوریتمی نقش تعیین کننده ای در اعتماد کاربران دارد. به طور دقیقتر، زمانی که کاربران قبل از مشاهده محتوا با هشدار احتمالی دروغ گویی مواجه می شوند، تحلیل گری آنها تقویت شده و احتمال پذیرش بی قید و شرط محتوای گمراه کننده کاهش پیدا می کند. این یافته اهمیت بالایی برای پلت فرم های دیجیتال دارد. پلت فرم هایی نظیر یوتیوب، تیک تاک و اینستاگرام که بصورت لحظه ای حجم انبوهی از محتوای تولیدشده توسط کاربران را میزبانی می کنند، می توانند با طراحی نظام های هشدار پیشگیرانه، از گسترش اطلاعات ناصحیح قبل از تثبیت در فضای عمومی جلوگیری نمایند.

راستی آزمایی دیجیتال؛ زیرساختی برای امنیت شناختی

در عصری که جنگ های شناختی جایگزین جنگ های متعارف شده اند، تقویت زیرساخت های پدافند غیرعامل شناختی اهمیت مضاعفی یافته است. در چنین شرایطی، هوش مصنوعی می تواند نقش یک سپر دیجیتال را در دفاع از امنیت ملی ایفا کند و از ساختارهای اجتماعی و روانی کشور در مقابل تهاجم اطلاعات ناصحیح محافظت نماید. از همین روی، توسعه سیستم های بومی با توانایی تحلیل محتوا به زبان های فارسی، عربی، عبری و انگلیسی و اتصال آنها به مراکز فرماندهی رسانه ای و امنیتی، از الزامات راهبردی دفاع شناختی جمهوری اسلامی ایران شمرده می شود.

جمع بندی: پیوند فناوری، سیاست و آگاهی عمومی

هوش مصنوعی، در صورتیکه با رعایت اصول اخلاقی، شفافیت الگوریتمی و احترام به حریم خصوصی به کار گرفته شود، می تواند به یکی از مهم ترین ابزارهای رویارویی با اخبار جعلی و اطلاعات ناصحیح تبدیل شود؛ اما نباید فراموش کرد که این فناوری، به تنهایی قادر به حل بحران اطلاعات نخواهد بود. آنچه کارآیی واقعی هوش مصنوعی را تضمین می نماید، هم افزایی آن با سیاستگذاری هوشمند، فرهنگ عمومی مسئولانه و توسعه آموزش های فراگیر در عرصه سواد رسانه ای است. بی گمان در وهله نخست، بدون وجود سیاستگذاری کلان در سطح دولت ها و نهادهای تنظیم گر، چارچوب استفاده از الگوریتم ها روشن نخواهد بود. همین طور ارتقا سواد رسانه ای شهروندان، خصوصاً در سنین پایین، شرطی ضروری برای تقویت مصونیت اجتماعی در مقابل اطلاعات جعلی است. جامعه ای که ابزارهای شناخت حقیقت را نشناسد، حتی با دقیق ترین الگوریتم ها نیز در مقابل جنگ روانی لطمه پذیر خواهد ماند. از طرف دیگر، فرهنگ مسئولیت پذیری در بازنشر محتوا باید به یک ارزش نهادینه میان کاربران تبدیل گردد. کاربران رسانه های اجتماعی باید بدانند که مشارکت آنها در بازنشر اخبار نادرست، نه فقط یک اشتباه فردی، بلکه یک لطمه اجتماعی بالقوه است. ایجاد چنین درکی، مستلزم تلاش مستمر در عرصه آموزش عمومی، رسانه ها و فضای مجازی است. در نهایت، انگار جنگ آینده، جنگ روایت هاست؛ جنگی که در آن خطوط مقدم، مرزهای جغرافیایی نیست، بلکه ذهن و باور مردم است و در این میدان، حقیقت برای بقا بالاتر از هر زمان دیگر به مخاطبانی هوشمند، مجهز و آگاه نیاز دارد. از همین روی، ترکیب فناوری، حکمرانی داده، سواد عمومی و مسئولیت پذیری رسانه ای، تنها مسیر دفاع پایدار در مقابل امواج سهمگین اطلاعات ناصحیح خواهد بود.

منبع: ramzeman.ir

1404/04/09

10:28:22

5.0 / 5

تگهای خبر: آنلاین , اطلاعات , امنیت , اینستاگرام

اگر مطلب را پسندیدید لایک کنید

(1)

(0)

تازه ترین مطالب مرتبط

نظرات بینندگان در مورد این مطلب

نظر شما در مورد این مطلب

نام:

ایمیل:

نظر:

سوال:

= ۴ بعلاوه ۴