مجله حقوق ما، پویان مکاری: در سال‌های اخیر، ورود فناوری‌های نظارتی مبتنی بر هوش مصنوعی به فضای امنیتی ایران، ابعاد تازه‌ای به تدابیر کنترل اجتماعی و پایش شهروندان بخشیده است. استفاده حاکمیت از سامانه‌های تشخیص چهره، تحلیل داده‌های کلان بیومتریک و یکپارچه‌سازی داده‌های ارتباطی و مالی، مرزهای حریم خصوصی را بیش از پیش تنگ‌تر کرده است. این تغییر پارادایم نظارتی، علاوه بر افزایش وابستگی ساختاری به سخت‌افزارها و نرم‌افزارهای امنیتی کشورهای خارجی، ابزارهای سرکوب دیجیتال، عملیات روانی و گردآوری داده توسط ارتش‌های سایبری را نیز پیچیده‌تر و کم‌هزینه‌تر کرده است؛ وضعیتی که حتی کارایی ابزارها و فناوری‌های ضدنظارت را برای حفاظت از شهروندان با چالش‌های جدی مواجه می‌سازد. در این زمینه با پویش عزیزالدین، پژوهشگر فناوری دیجیتال و کارشناس امنیت اینترنت، گفت‌وگو کردیم.
فناوری‌های نظارتی مبتنی بر هوش مصنوعی در ایران، مانند تشخیص چهره و تحلیل تصویر، تا چه اندازه عملیاتی شده‌اند و محدودیت‌های فنی آن‌ها چیست؟
پویش عزیزالدین: فناوری‌های نظارتی مبتنی بر هوش مصنوعی در ایران را نه می‌توان صرفاً پروژه‌هایی نمایشی دانست و نه شبکه‌ای یکپارچه و همه‌بین. این فناوری‌ها پیش‌تر از مسیر احراز هویت بیومتریک در سامانه‌هایی مانند ثنا، سجام و برخی خدمات بانکی وارد زندگی روزمره شده‌اند. داده‌هایی که در ظاهر برای ارائه خدمات گردآوری می‌شوند، می‌توانند با سامانه‌های انتظامی و قضایی پیوند بخورند. مقام‌های حکومتی نیز از تطبیق تصاویر دوربین‌های شهری و حمل‌ونقل عمومی با بانک عکس کارت‌های ملی سخن گفته‌اند. گیت‌های متروی پانزده خرداد و استفاده گزارش‌شده از نرم‌افزار روسی FindFace در حرم امام رضا نشانه‌هایی از حرکت به سوی چنین زیرساختی‌اند. با این حال، ادعاهایی مانند پردازش بانک‌هایی با صد میلیون چهره عمدتاً بیانگر ظرفیت اسمی محصولات‌اند و نباید آن‌ها را معادل کارایی اثبات‌شده در میدان دانست.
این مطلب در شماره ۲۵۹ مجله حقوق ما منتشر شده است
آنچه اکنون دیده می‌شود، بیش از آنکه سامانه‌ای کاملاً خودکار باشد، معماری نظارتی ترکیبی است که دوربین، پایگاه داده، تحلیل ماشینی، گزارش انسانی و مجازات اداری را به هم متصل می‌کند. تجهیزات موجود قابلیت‌هایی مانند برآورد سن و جنسیت، تحلیل حالت چهره و تشخیص پوشش سر را عرضه می‌کنند؛ اما اجرای کنترل اجتماعی، به‌ویژه در طرح‌هایی مانند تحمیل حجاب اجباری، همچنان به ابزارهایی مانند اپلیکیشن «ناظر»، ثبت پلاک، حضور مأموران و گزارش رانندگان شرکت‌های تاکسیرانی اینترنتی وابسته است.
محدودیت‌های فنی این زیرساخت جدی‌اند. پوشش دوربین‌ها و کیفیت تصاویر یکنواخت نیست؛ تشخیص سن، حالت چهره و احساسات دقت ثابتی ندارد؛ و کیفیت پایین داده‌های آموزشی می‌تواند نرخ خطا را افزایش دهد. اتکای مداوم به گزارش انسانی نیز نشان می‌دهد که شناسایی فراگیر و دقیق هنوز محقق نشده است. کمبود توان پردازشی، دشواری توسعه مراکز داده مجهز به پردازنده‌های گرافیکی و بحران برق، امکان پردازش پیوسته و بلادرنگ را محدود می‌کند. بااین‌همه، ناکامل‌بودن فناوری به معنای بی‌خطر بودن آن نیست: در ساختاری که تصمیم‌های اداری و امنیتی شفاف نیستند، حتی یک تطبیق اشتباه می‌تواند به بازداشت، محرومیت از خدمات یا مجازات منجر شود.
بعبارت دیگر مسئله فقط دیده‌شدن شهروندان و نظارت بر آ»ان و میزان پیشرفتگی فناوری بکارگرفته شده در این راه نیست، بلکه تبدیل بدن، پوشش،شخصیت و سبک زندگی شهروندان به داده‌ای قابل طبقه‌بندی و سپس پیوندزدن آن داده با تنبیه، محرومیت و خودسانسوری است.
این زیرساخت‌ها تا چه حد به فناوری‌ها و شرکت‌های خارجی وابسته‌اند و وابستگی خارجی چه تأثیری بر توان نظارتی حکومت دارد؟
پویش عزیزالدین: وابستگی زیرساخت نظارتی ایران به فناوری خارجی عمیق و ساختاری است. حکومت برای تکمیل زنجیره نظارت به دوربین‌ها، تجهیزات شبکه و سامانه‌های تحلیل تصویر شرکت‌های چینی مانند داهوآ، هایک‌ویژن، تیاندی و یونیویو و نیز زیرساخت‌های قدیمی‌تر هوآوی و ZTE متکی است. در لایه نرم‌افزاری نیز فناوری تشخیص چهره شرکت روسی NtechLab و خدمات شرکت Protei برای پایش ترافیک و مسدودسازی اینترنت به کار گرفته شده‌اند. قطعات و تجهیزات غربی، از دوربین‌های بوش، زیمنس و دال‌مایر تا تراشه‌های اینتل، نیز از طریق واسطه‌ها و واردات موازی وارد این زنجیره شده‌اند. بنابراین با چند قرارداد پراکنده روبه‌رو نیستیم، بلکه با زنجیره تامین فرامرزی مواجهیم که مسئولیت را میان تولیدکننده، فروشنده، واسطه و نهاد استفاده‌کننده تقسیم و اغلب پنهان می‌کند.
این وابستگی به حکومت امکان داده است بدون پیمودن کامل مسیر پرهزینه تحقیق و توسعه، به ابزارهای آماده برای تشخیص چهره زنده یا پسینی، تحلیل رفتار، ردیابی مخابراتی و پایش شبکه دسترسی پیدا کند. برخی از این فناوری‌ها پیش‌تر در نظام نظارتی چین به کار رفته‌اند و همراه خود نه‌فقط قابلیت فنی، بلکه منطقی مبتنی بر طبقه‌بندی جمعیت و حکمرانی امنیتی را منتقل می‌کنند. در ایران، همین منطق برای شناسایی معترضان، ردیابی ارتباطات و اجرای چندلایه حجاب اجباری بازآرایی شده است. امکان جست‌وجو در تصاویر ذخیره‌شده نیز سرکوب را از زمان و مکان اعتراض جدا می‌کند: فرد ممکن است نه در خیابان، بلکه روزها یا هفته‌ها بعد شناسایی و هدف قرار گیرد. در این نقطه، صادرات فناوری به انتقال الگویی از حکمرانی بدل می‌شود که حقوق بنیادین را تابع ملاحظات امنیتی می‌کند.
این اتکا در عین حال آسیب‌پذیری‌هایی تازه می‌آفریند. وجود حساب‌های پنهان، امکان دورزدن احراز هویت و ضعف در به‌روزرسانی تجهیزات می‌تواند اطلاعات بیومتریک شهروندان را در معرض نفوذ خارجی، نشت یا سوءاستفاده داخلی قرار دهد. وابستگی به فروشندگان بیرونی همچنین نگهداری سامانه‌ها را به دسترسی به قطعه، نرم‌افزار و پشتیبانی فنی گره می‌زند. اما ناامنی زنجیره تأمین را نباید صرفاً تهدیدی علیه حکومت تلقی کرد؛ نخستین کسانی که بهای افشا یا دست‌کاری این اطلاعات را می‌پردازند، شهروندانی هستند که بر نحوه جمع‌آوری و استفاده از داده‌های خود کنترل مؤثری ندارند. وابستگی خارجی، در آنِ واحد، توان سرکوب را افزایش می‌دهد و ناامنی کسانی را که موضوع نظارت‌اند عمیق‌تر می‌کند.
یکپارچه‌سازی داده‌های شهروندان از منابع مختلف، مانند داده‌های ارتباطی، هویتی و مالی، چه چالش‌های فنی و امنیتی ایجاد می‌کند؟
پویش عزیزالدین: ترکیب داده‌های ارتباطی، هویتی، مالی، درمانی و رفت‌وآمد می‌تواند تصویری از زندگی هر شهروند بسازد که هیچ پایگاه داده‌ای به‌تنهایی قادر به تولید آن نیست: نقشه‌ای از روابط اجتماعی، عادت‌ها، وضعیت اقتصادی، سلامت و آسیب‌پذیری‌های فرد. ایجاد چنین تصویری از نظر فنی پیچیده است. پایگاه‌های داده نهادهای مختلف براساس استانداردهای متفاوت و با درجات نابرابری از دقت، به‌روز بودن و امنیت طراحی شده‌اند. موازی‌کاری و رقابت میان نهادهای حکومتی نیز مانع شکل‌گیری معماری واحد و قابل اتکای داده می‌شود. در نتیجه، اتصال سامانه‌ها لزوماً به معنای تولید شناخت دقیق‌تر نیست و گاهی فقط حجم بیشتری از داده‌های ناسازگار را کنار هم قرار می‌دهد.
خطر اصلی، نحوه تکثیر خطا در سراسر این شبکه است. وقتی خروجی خطاپذیر یک دوربین یا داده مکانی نادقیق به اطلاعات ثبت احوال، حساب بانکی یا پرونده قضایی متصل شود، اشتباهی کوچک می‌تواند به هویتی ظاهراً قطعی و سپس تصمیمی اداری یا امنیتی تبدیل شود. داده‌های تاریخیِ آغشته به تبعیض نیز همان نابرابری‌های موجود را با ظاهری علمی بازتولید می‌کنند. این خطر برای زنان، اقلیت‌های قومی و مذهبی، افراد کوییر، مهاجران و کسانی که به خدمات سلامت روان یا سلامت باروری نیاز دارند شدیدتر است؛ زیرا اطلاعاتی که برای دریافت خدمت ثبت شده‌اند، ممکن است در بستری دیگر به ابزار انگ‌زنی، محرومیت یا تعقیب بدل شوند. از این رو، یکپارچه‌سازی داده صرفاً مسئله‌ای مهندسی نیست؛ مرز میان ارائه خدمت عمومی و نظارت امنیتی را جابه‌جا می‌کند.
تمرکز این حجم از اطلاعات همچنین هدفی بسیار ارزشمند و نقطه شکستی واحد برای نفوذ ایجاد می‌کند. رخدادهای امنیتی در سیستم بانکی، سامانه سوخت، ثبت احوال، تپسی، اسنپ‌فود و شرکت‌های بیمه نشان داده‌اند که نشت گسترده اطلاعات در ایران خطری فرضی نیست. اتصال وزارتخانه‌ها، بانک‌ها، اپراتورها و پیمانکاران، سطح حمله را گسترش می‌دهد و امنیت کل شبکه را به ضعیف‌ترین حلقه آن وابسته می‌کند. این آسیب‌پذیری با رواج نرم‌افزارهای کرک‌شده در نتیجه تحریم‌ها یا محدودیت‌های مالی شرکت‌ها، قطعی‌های گسترده اینترنت و اختلال در دریافت وصله‌های امنیتی و به‌روزرسانی منظم، تشدید می‌شود. همچنین مهاجرت گسترده متخصصان امنیت سایبری و کمبود نیروی ماهر نیز توان شناسایی، مهار و پاسخ‌گویی به رخدادهای امنیتی را کاهش داده است.
مهم‌تر از همه، داده در فرایند ادغام از زمینه اولیه خود جدا می‌شود: یک پیام، تراکنش مالی یا مراجعه درمانی ممکن است معنایی امنیتی پیدا کند که هنگام ثبت آن وجود نداشته است. مسئله فقط گستره دانسته‌های حکومت نیست؛ مسئله فقدان کنترل شهروندان بر نحوه تفسیر، اصلاح و استفاده از این اطلاعات است.
هوش مصنوعی چگونه توان حکومت‌ها و بازیگران سایبری را در تولید اطلاعات نادرست، عملیات روانی و ارتش‌های سایبری تغییر داده است؟
پویش عزیزالدین: هوش مصنوعی مولد بیش از آنکه هدف عملیات روانی را تغییر داده باشد، هزینه، سرعت، مقیاس و دقت آن را دگرگون کرده است. فعالیت‌هایی که پیش‌تر به تیم‌های بزرگی برای ترجمه، جعل هویت، نگارش پیام و اداره حساب‌های جعلی نیاز داشتند، اکنون با نیروی انسانی کمتر و به زبان و سبک متناسب با هر مخاطب انجام می‌شوند. گروه ایرانی Crimson Sandstorm از این ابزارها برای تولید ایمیل‌های فیشینگ انگلیسی استفاده کرده و Storm-2035 نیز مطالبی ظاهراً معتبر درباره انتخابات آمریکا، جنگ غزه و المپیک ۲۰۲۴ ساخته است. تقلید لحن کاربران واقعی نیز تشخیص حساب‌های جعلی را دشوارتر می‌کند. پیوند این قابلیت با تحلیل ردپای دیجیتال، تبلیغات عمومی را به مهندسی اجتماعی شخصی‌سازی‌شده تبدیل می‌کند: هر فرد می‌تواند براساس ترس‌ها، وضعیت اقتصادی، جنسیت یا آسیب‌پذیری‌های خاص خود هدف قرار گیرد.
در جنگ دوازده‌روزه ایران و اسرائیل در ژوئن ۲۰۲۵، ۷۲ درصد از محتوای نادرست بررسی‌شده در خدمت بزرگ‌نمایی قدرت نظامی ایران و ایجاد هراس بود. پیامد عمیق‌تر این فناوری، گسترش بی‌اعتمادی به امکان تشخیص حقیقت است. وقتی جعل هر تصویر و صدایی ممکن به نظر می‌رسد، صاحبان قدرت می‌توانند اسناد واقعی را نیز ساختگی بنامند؛ چنان‌که در همان جنگ، ویدئوی واقعی اصابت موشک به ساختمانی در تهران از سوی برخی کاربران جعلی تلقی شد. برای قربانیان و مستندسازان نقض حقوق بشر، این تردید فراگیر سازوکاری تازه برای بی‌اعتبارکردن شهادت و خاموش‌کردن شاهدان است.
در ایران، این ظرفیت تازه بر زیرساخت ازپیش‌موجود گردان‌های سایبری، رسانه‌های حکومتی، عملیات «هک و نشت» و اعترافات اجباری سوار شده است. حدود ۳۵۰۰ گردان سایبری تحت نظارت سپاه، گروه‌هایی مانند APT42 و Storm-1364 و شبکه‌ای از رسانه‌های نیابتی برای دست‌کاری افکار عمومی و تشدید شکاف‌های سیاسی، قومی و جنسیتی به کار گرفته شده‌اند. معرفی معترضان به‌عنوان «عامل بیگانه» یا «تروریست»، پخش اعترافات گرفته‌شده تحت فشار و کارزارهای بدنام‌سازی دیجیتال، سرکوب را مشروع جلوه می‌دهد. زنان و اقلیت‌های جنسی و جنسیتی نیز غالباً با حمله به آبرو، بدن و زندگی خصوصی خود مواجه می‌شوند. این ابزارها البته در انحصار یک دولت نیستند؛ عملیات منسوب به «گنجشک درنده» در ژوئن ۲۰۲۵ نیز با پیام‌های جعلی درباره کمبود سوخت و فروپاشی نظام بانکی، ترس را متوجه شهروندان عادی کرد. هوش مصنوعی ارتش‌های سایبری را از میان نبرده، بلکه توان هر عامل انسانی را چند برابر کرده است.
در مقابل گسترش ابزارهای نظارتی مبتنی بر هوش مصنوعی، فناوری‌های ضدنظارت چه میزان امکان حفاظت از شهروندان را فراهم می‌کنند؟
پویش عزیزالدین: این پرسش در صورت‌بندی فعلی بیش از اندازه کلی است، زیرا «نظارت مبتنی بر هوش مصنوعی» به فناوری واحدی اشاره نمی‌کند. همان‌طور که هوش مصنوعی ممکن است در طیفی از ابزارها، از مسواک هوشمند تا سانتریفیوژهای عظیم صنعتی، به کار رود، نظارت نیز صورت‌های بسیار متفاوتی دارد: تشخیص چهره، تحلیل تصویر، شنود ارتباطات، رهگیری مکانی، تحلیل ترافیک شبکه، شناسایی الگوهای رفتاری یا ترکیب داده‌های مالی و هویتی. بنابراین، پیش از ارزیابی فناوری ضدنظارت باید مشخص شود با کدام نوع نظارت، کدام عامل تهدید و چه سطحی از خطر روبه‌رو هستیم. هیچ ابزار واحدی نمی‌تواند در برابر همه این اشکال محافظت ایجاد کند.
بااین‌حال، نمونه‌هایی از وضعیت دائمی «موش و گربه» میان نظارت و ضدنظارت وجود دارد. رمزگذاری سرتاسری در سیگنال از محتوای پیام محافظت می‌کند، اما لزوماً زمان، حجم و الگوی ارتباط را پنهان نمی‌سازد. Tor و VPN مسیر اتصال را مبهم‌تر می‌کنند، اما در برابر دسترسی فیزیکی به تلفن، بدافزار یا نسخه پشتیبان ناامن کافی نیستند. غیرفعال‌کردن شبکه نسل دوم می‌تواند برخی حملات مبتنی بر ایستگاه‌های مخابراتی جعلی را دشوارتر کند، درحالی‌که ابزارهای تشخیص این تجهیزات خود محدودیت دارند و ممکن است احساس امنیت کاذب ایجاد کنند. روش‌های مختل‌کننده تشخیص چهره و ابزارهایی مانند Glaze و Nightshade نیز ممکن است برخی مدل‌های تحلیل تصویر را به خطا بیندازند، اما با تغییر مدل‌ها یا استفاده هم‌زمان از نشانه‌های دیگر، کارایی آن‌ها کاهش می‌یابد. هر پیشرفت دفاعی معمولاً با روشی تازه برای دورزدن آن پاسخ داده می‌شود.
ازاین‌رو، فناوری‌های ضدنظارت را باید ابزارهایی برای کاهش خطر و افزایش هزینه ردیابی دانست، نه تضمینی برای ناشناس‌ماندن. حفاظت مؤثر به ترکیبی از ابزار مناسب، شناخت تهدید، آموزش عملی و رفتار متناسب با موقعیت نیاز دارد. بااین‌حال، نباید مسئولیت مقابله با زیرساخت‌های عظیم نظارتی را بر دوش افراد گذاشت یا قربانیان را به‌دلیل رعایت‌نکردن توصیه‌های پیچیده سرزنش کرد. ابزارها و آموزش‌ها باید با امکانات و زندگی واقعی کسانی که در معرض خطرند سازگار باشند. دفاع فنی می‌تواند فضایی محدود برای حفاظت و مقاومت ایجاد کند، اما جایگزین محدودیت حقوقی بر اختیارات حکومت، پاسخ‌گویی نهادی و امکان دادخواهی نیست.
هنوز نظری ثبت نشده است. شما اولین نظر را بنویسید.