مدیرعامل آنتروپیک، داریو آمودی، در مقالهای که هفته گذشته منتشر کرد، خواستار «کند کردن» سرعت پیشرفت قابلیتهای هوش مصنوعی شد تا زمان کافی برای ایجاد سازوکارهای ایمنی و کنترل این فناوری فراهم شود. هشدار آمودی صرفاً متوجه حملات سایبری خودکار نیست؛ او از مجموعهای از خطرات ناشی از افزایش سریع قابلیتهای AI، از دست رفتن کنترل بر سیستمهای پیشرفته و سوءاستفاده از آنها برای حملات سایبری و زیستی سخن گفته است. بنابراین نباید از این هشدارها برداشتهای آخرالزمانی درباره شورش روباتها علیه انسان کرد. با این حال، در دل این هشدار مسئله دیگری نیز نهفته است که به ویژه در شرایط جنگی اهمیت پیدا میکند: شتاب گرفتن توانایی هوش مصنوعی در تولید، دستکاری و توزیع اطلاعات.
اگر رشد قابلیتهای هوش مصنوعی با سرعتی ادامه پیدا کند که سازوکارهای ایمنی و راستی آزمایی نتوانند خود را با آن هماهنگ کنند، ابزارهای جعل تصویر و ویدئو نیز میتوانند سریعتر، ارزانتر و متقاعدکنندهتر شوند. تصاویر و ویدئوهایی که امروز ممکن است با بررسی منشأ فایل، متادیتا، نشانههای تولید مصنوعی، مقایسه با تصاویر ماهوارهای یا منابع مستقل قابل راستی آزمایی باشند، در نسلهای بعدی مدلهای هوش مصنوعی ممکن است دشوارتر قابل تشخیص شوند.
بنابراین بحث «کند کردن رشد هوش مصنوعی» و بحث «جنگ اطلاعاتی» را میتوان دو روی یک مسئله دانست: هرچه ابزار تولید محتوای مصنوعی قدرتمندتر و ارزانتر شود، فاصله میان تولید جعل و تشخیص آن نیز میتواند بیشتر شود. در شرایط جنگی این فاصله اهمیت مضاعفی پیدا میکند، زیرا روایت اولیهای که زودتر منتشر و فراگیر میشود، ممکن است پیش از آنکه صحت آن مشخص شود، افکار عمومی را تحت تأثیر قرار دهد.
اما مسئله فقط جعل یک تصویر یا ویدئو نیست. شاید اهمیت بزرگتر هوش مصنوعی در جنگ اطلاعاتی، توانایی آن برای تولید انبوه روایت باشد. دیگر لازم نیست یک دروغ بزرگ و واحد ساخته شود؛ میتوان هزاران روایت کوچک، به زبانهای مختلف و متناسب با گروههای مختلف اجتماعی تولید و همزمان در شبکههای اجتماعی منتشر کرد. در اینجا هوش مصنوعی فقط ابزار تولید فیکنیوز نیست؛ ابزار اشباع کردن فضای اطلاعاتی از محتواست.
از سوی دیگر، هوش مصنوعی همان قدر که میتواند قدرتمندترین ابزار جدید برای تولید و توزیع دروغ باشد، میتواند به ابزاری قدرتمند برای کشف جعل، مقایسه روایتهای متناقض، شناسایی شبکههای هماهنگ و راستی آزمایی نیز تبدیل شود. به این معنا، نوعی رقابت جدید میان «AI علیه AI» در حال شکلگیری است. مسئله فقط این نیست که چه کسی بهتر دروغ میسازد، بلکه این است که چه کسی منابع، داده، توان محاسباتی و ظرفیت سازمانی بیشتری برای تولید و تشخیص اطلاعات در اختیار دارد.
اما خطر عمیقتر شاید نه گسترش دروغ، بلکه فرسایش اعتماد ما به امکان تشخیص حقیقت باشد. در گذشته هدف تبلیغات این بود که مردم یک دروغ را باور کنند؛ در عصر هوش مصنوعی ممکن است حتی نیازی به این کار نباشد. کافی است مردم دیگر نتوانند تشخیص دهند چه چیزی واقعی و چه چیزی جعلی است. حتی یک تصویر واقعی نیز ممکن است با این تردید مواجه شود که «از کجا معلوم این هم ساخته هوش مصنوعی نباشد؟»
در این حالت، هوش مصنوعی نه فقط مرز میان حقیقت و دروغ، بلکه مرز میان «قابل شناخت بودن حقیقت» و «غیرقابل شناخت بودن آن» را نیز مخدوش میکند. خطر AI در عصر پساحقیقت فقط این نیست که بتواند دروغی را شبیه حقیقت کند؛ این است که بتواند حقیقت را نیز شبیه دروغ جلوه دهد.
این وضعیت در جنگهای امروز اهمیت بیشتری پیدا میکند. در جنگ آمریکا و جمهوری اسلامی، شبکههای اجتماعی به میدان رقابت روایتها تبدیل شدهاند و همزمان تصاویر جعلی، ویدئوهای تولیدشده با AI و تصاویر قدیمیِ مربوط به جنگهای دیگر در کنار اخبار واقعی منتشر می شوند. گزارشهای منتشرشده درباره جنگ ایران نیز نشان میدهند که این محتواها میتوانند در شرایطی که مصرف خبر به اوج میرسد، با سرعت زیادی در شبکههای اجتماعی منتشر شوند و ادراک عمومی از واقعیت جنگ را تحت تأثیر قرار دهند.
در چنین شرایطی، هوش مصنوعی برای قدرتهای سیاسی و نظامی دیگر صرفاً یک فناوری لوکس یا نماد پیشرفت علمی نیست؛ به تدریج به یک فناوری استراتژیک در جنگ اطلاعاتی و شناختی تبدیل میشود.
گزارش اخیر خود آنتروپیک نیز نمونههایی از استفاده از Claude در عملیات سایبری، نظارت و عملیات نفوذ اطلاعاتی را مستند کرده است؛ از جمله مواردی که در آنها بازیگران مرتبط با ایران از AI برای جمعآوری اطلاعات نظامی و تولید محتوای تبلیغاتی چند زبانه استفاده کردهاند.
به این ترتیب، میدان جنگ دیگر فقط جایی نیست که موشکها و پهپادها با یکدیگر برخورد میکنند. بخشی از جنگ پیش از اصابت نخستین موشک، در میدان ادراک و روایت شکل گرفته است: چه کسی حمله کرده، چه کسی پیروز شده، چه تعداد کشته شدهاند، کدام شهر مورد اصابت قرار گرفته و مردم در طرف مقابل چه میاندیشند.
شبکههای اجتماعی در چنین شرایطی دیگر صرفاً رسانه نیستند؛ به میدان رقابت و گاه نبرد روایتها تبدیل میشوند. در این میدان، هدف لزوماً متقاعد کردن همه مردم به یک حقیقت واحد نیست. گاهی کافی است هر گروه در جهان خبری خودش محصور شود و روایتهای متناقضی را به عنوان واقعیت بپذیرد؛ و در مرحله بعد، حتی نسبت به امکان وجود یک حقیقت مستقل از قدرتهای سیاسی، رسانهای و الگوریتمی تردید کند.
اینجاست که مسئله هوش مصنوعی به هسته مرکزی بحران «پسا حقیقت» نزدیک میشود: قدرت فقط در اختیار کسی نیست که بتواند واقعیت را کنترل کند؛ قدرت در اختیار کسی قرار میگیرد که بتواند تعیین کند چه چیزی دیده شود، چه چیزی شنیده شود، چه چیزی باورپذیر به نظر برسد و چه چیزی اصلاً امکان دیده شدن پیدا نکند.
در چنین شرایطی، جنگ اطلاعاتی ممکن است پیش از آنکه جنگ بر سر تصرف سرزمین باشد، جنگ بر سر تصرف توجه، ادراک و اعتماد انسانها باشد.
https://t.me/politicalphilosphy/866
هنوز نظری ثبت نشده است. شما اولین نظر را بنویسید.