پویان مکاری، مجله حقوق ما: گسترش روزافزون فناوری‌های مبتنی بر هوش مصنوعی و به‌کارگیری آن توسط دولت‌ها، در کنار تمام فرصت‌های نوآورانه، چالش‌ها و نگرانی‌های جدیدی را در حوزه حقوق بشر، حریم خصوصی و آزادی‌های فردی به همراه داشته است. در جوامعی که با خلاهای قانونی، عدم شفافیت الگوریتمی و محدودیت‌های ساختاری در نظارت قضایی مستقل مواجه‌اند، این فناوری‌ها بالقوه می‌توانند به ابزارهایی کارآمد برای توسعه نظارت عمومی، کنترل اجتماعی و تشدید سرکوب تبدیل شوند. برای بررسی ابعاد حقوقی این مسئله، پیامدهای آن بر حقوق شهروندی و بررسی تعهدات بین‌المللی حاکمیت در مواجهه با ابزارهای نوین نظارتی، در این زمینه با معین خزائلی، حقوقدان و پژوهشگر حقوق بشر، گفت‌وگو کرده‌ایم.


 

با ظهور هوش مصنوعی چه چالش‌هایی در زمینه حقوق بشر در ایران ایجاد شده است؟

مهم‌ترین نگرانی حقوق بشری درباره هوش مصنوعی در ایران، نه خود این فناوری، بلکه ظرفیت آن برای گسترش نظارت حکومتی است. ترکیب دوربین‌های شهری، تشخیص چهره، تحلیل تصاویر، پردازش داده‌های کلان و رصد شبکه‌های اجتماعی می‌تواند امکان شناسایی و تعقیب شهروندان را در مقیاسی فراهم کند که پیش از این به نیروی انسانی و امکانات بسیار گسترده نیاز داشت.

نمونه عینی این نگرانی را می‌توان در برخورد با زنان بر سر حجاب اجباری مشاهده کرد. گزارش‌های زیادی از گسترش استفاده جمهوری اسلامی از نوعی از هوش مصنوعی در قالب دوربین‌های نظارتی، فناوری تشخیص چهره و ابزارهای الکترونیکی برای شناسایی زنان وجود دارند؛ روندی که حریم خصوصی، آزادی رفت‌وآمد و اصل منع تبعیض را همزمان تحت تاثیر قرار می‌دهد.

خطر دیگر، اتصال این فناوری‌ها به ساختاری است که پیش از این نیز سابقه گسترده‌ای در کنترل اینترنت، محدود کردن آزادی بیان و برخورد با معترضان داشته است. برای نمونه، در جریان اعتراضات دی‌ماه ۱۴۰۴ قطع گسترده اینترنت نیز گزارش شد؛ بنابراین اضافه شدن ابزارهای هوش مصنوعی به چنین ساختاری می‌تواند توانایی حکومت برای شناسایی، طبقه‌بندی و کنترل مخالفان، منتقدان و شهروندان را به شکل بی‌سابقه‌ای افزایش دهد.

این گفت‌وگو در شماره ۲۵۹ مجله حقوق ما منتشر شده است

با توجه به توسعه استفاده دولت‌ها از هوش مصنوعی، جمهوری اسلامی ایران چه تعهدات حقوق بشری در این زمینه دارد؟

هوش مصنوعی قلمروی خارج از حقوق نیست. جمهوری اسلامی همان تعهداتی را که در جهان فیزیکی نسبت به حقوق شهروندان دارد، هنگام استفاده از فناوری‌های هوش مصنوعی نیز باید رعایت کند. به ویژه میثاق بین‌المللی حقوق مدنی و سیاسی، حقوقی مانند حریم خصوصی، آزادی بیان، آزادی عقیده، دادرسی عادلانه، تجمع مسالمت‌آمیز و برابری در برابر قانون را تضمین کرده است.

بنابراین حاکمیت نمی‌تواند و نباید صرفا با استناد به «امنیت ملی» استفاده نامحدود از هوش مصنوعی برای نظارت بر شهروندان را توجیه کند. هرگونه محدودیت بر حقوق افراد باید مبنای قانونی روشن داشته و ضروری و متناسب با هدف مشروع مورد نظر باشد. نظارت گسترده و بدون ظن مشخص بر میلیون‌ها شهروند با چنین معیارهایی به دشواری قابل توجیه است.

تعهد مد نظر ما فقط خودداری از نقض مستقیم حقوق نیست؛ بلکه حاکمیت باید از شهروندان در برابر سوءاستفاده شرکت‌ها و اشخاص خصوصی از فناوری نیز حمایت کند. ایجاد نظام حفاظت از داده‌های شخصی، تعیین محدودیت برای پردازش داده‌های حساس و بیومتریک، ایجاد سازوکار اعتراض به تصمیمات الگوریتمی و تضمین امکان دادخواهی از جمله الزامات چنین رویکردی است.

 

 آیا قوانین و ساختارهای حقوقی موجود در ایران برای کنترل استفاده دولت از هوش مصنوعی کافی هستند؟

خیر. در قوانین ایران مقررات پراکنده‌ای وجود دارد که می‌توان برای حمایت از برخی حقوق در فضای دیجیتال به آنها استناد کرد. برای نمونه، اصل ۲۲ قانون اساسی از حقوق اشخاص در برابر تعرض حمایت می‌کند و اصل ۲۵ نیز تعرض به مکاتبات و ارتباطات را جز در موارد مقرر قانونی ممنوع می‌داند. قانون جرایم رایانه‌ای نیز در بخش‌هایی دسترسی غیرمجاز به داده‌ها یا سامانه‌ها را جرم‌انگاری کرده است.

اما این مقررات برای مواجهه با ویژگی‌های خاص هوش مصنوعی طراحی نشده‌اند. پرسش‌هایی مانند اینکه پلیس یا نهادهای امنیتی تحت چه شرایطی حق استفاده از تشخیص چهره دارند، داده‌های بیومتریک تا چه زمانی قابل نگهداری است، آیا شهروند حق دارد بداند موضوع یک تصمیم الگوریتمی قرار گرفته یا خیر و چه نهادی الگوریتم‌های دولتی را ارزیابی می‌کند، پاسخ حقوقی جامع و روشنی ندارند.

ایران از سال ۲۰۲۴ دارای سند ملی هوش مصنوعی شده و ساختارهایی برای توسعه این فناوری ایجاد کرده است، اما توسعه فناوری با تنظیم حقوقی آن یکسان نیست. مساله اساسی، ایجاد نظامی مستقل برای حفاظت از داده‌ها، شفافیت الگوریتمی، ارزیابی اثرات حقوق بشری و امکان نظارت قضایی موثر بر استفاده حکومت از هوش مصنوعی است.

 

استفاده احتمالی حکومتی مانند جمهوری اسلامی از هوش مصنوعی در حوزه‌هایی مانند نظارت، کنترل اجتماعی و امنیت چگونه به نقض حقوق بشر در ایران دامن زده است؟

هوش مصنوعی می‌تواند هزینه و زمان سرکوب را به میزان قابل توجهی کاهش دهد. در گذشته شناسایی هزاران نفر حاضر در یک تجمع مستلزم بررسی دستی تصاویر بود؛ اما فناوری تشخیص چهره بالقوه می‌تواند تصاویر دوربین‌های شهری یا شبکه‌های اجتماعی را با پایگاه‌های اطلاعاتی تطبیق دهد و افراد را با سرعت بسیار بیشتری شناسایی کند. تحقیقات اخیر نیز از دستیابی ایران به فناوری‌های پیشرفته تشخیص چهره خبر داده‌اند.

این وضعیت علاوه بر حریم خصوصی، آزادی تجمع و آزادی بیان را نیز تهدید می‌کند. اگر شهروند بداند حضور او در یک تجمع، انتشار یک تصویر یا حتی قرار گرفتن در کنار افراد خاص می‌تواند توسط سامانه‌های هوشمند ثبت و تحلیل شود، ممکن است از اعمال حقوق قانونی خود منصرف شود. این همان «اثر بازدارنده» یا chilling effect است که نظارت گسترده می‌تواند بر آزادی‌های عمومی ایجاد کند.

خطر در ایران شدیدتر است، زیرا فناوری در یک خلاء سیاسی و حقوقی مورد استفاده قرار نمی‌گیرد. هنگامی که نظارت هوشمند در کنار محدودیت اینترنت، رصد شبکه‌های اجتماعی و برخورد قضایی با منتقدان قرار گیرد، هوش مصنوعی می‌تواند از یک فناوری عمومی به زیرساخت کنترل و سرکوب اجتماعی تبدیل شود.

 

فعالان اجتماعی و حقوق بشر چگونه می‌توانند میان ظرفیت‌های هوش مصنوعی و رعایت حقوقی مانند حریم خصوصی، آزادی بیان و منع تبعیض تعادل برقرار کنند؟

 نخست باید از این تصور فاصله گرفت که هوش مصنوعی ذاتا در خدمت سرکوب یا ذاتا در خدمت آزادی است. همین فناوری می‌تواند برای مستندسازی نقض حقوق بشر، تحلیل حجم بزرگی از اطلاعات، شناسایی الگوهای سرکوب، بررسی تصاویر و اسناد و تسهیل دسترسی شهروندان به اطلاعات و خدمات حقوقی مورد استفاده قرار گیرد.

در مقابل، فعالان حقوق بشر باید اصل «حقوق بشر از مرحله طراحی» را مطالبه کنند؛ یعنی پیش از راه‌اندازی هر سامانه دولتی، آثار آن بر حریم خصوصی، تبعیض، آزادی بیان و سایر حقوق بنیادین بررسی شود. همچنین شهروندان باید بدانند چه اطلاعاتی از او جمع‌آوری می‌شود، با چه هدفی پردازش می‌شود، چه نهادی به آن دسترسی دارد و تا چه زمانی نگهداری خواهد شد.

جامعه مدنی همچنین می‌تواند موارد سوءاستفاده از هوش مصنوعی را مستندسازی کند، درباره فناوری‌های نظارتی آموزش عمومی ارایه دهد و از شرکت‌های فناوری نیز پاسخگویی بخواهد. در این زمینه نباید تمام مسئولیت متوجه شهروند باشد؛ اصل اساسی این است که حکومت باید ضرورت و قانونی بودن نظارت را اثبات کند، نه اینکه شهروند مجبور باشد بی‌گناهی خود را در برابر یک الگوریتم ثابت کند.

 

برای اینکه ایران در مسیر توسعه هوش مصنوعی با استانداردهای حقوق بشری حرکت کند، چه تغییرات یا اقداماتی ضروری است؟

 نخستین ضرورت، تصویب یک قانون جامع و موثر برای حفاظت از داده‌های شخصی و تنظیم هوش مصنوعی است. این قانون باید داده‌های بیومتریک مانند تصویر چهره، صدا و سایر شناسه‌های زیستی را در شمار داده‌های حساس قرار دهد و جمع‌آوری و پردازش آنها توسط حکومت را تنها در شرایط استثنایی، مشخص و قابل نظارت مجاز بداند.

دوم، استفاده دولتی از سامانه‌های پرخطر باید مشمول شفافیت و نظارت مستقل باشد. استفاده از تشخیص چهره در تجمعات، امتیازدهی یا طبقه‌بندی شهروندان بر اساس رفتار سیاسی و اجتماعی و تصمیم‌گیری کاملا خودکار در موضوعاتی که بر آزادی، اشتغال، آموزش یا سایر حقوق اساسی افراد اثر می‌گذارد، باید ممنوع یا به شدت محدود شود.

در نهایت، هیچ قانون هوش مصنوعی بدون قوه قضاییه مستقل، رسانه آزاد، جامعه مدنی فعال و امکان دادخواهی موثر نمی‌تواند از حقوق شهروندان حفاظت کند. مساله اصلی این نیست که ایران هوش مصنوعی داشته باشد یا نداشته باشد؛ مساله این است که فناوری در خدمت شهروند قرار گیرد، نه اینکه به ابزاری برای نظارت دائمی، تبعیض، خاموش کردن اعتراض و توسعه ظرفیت سرکوب تبدیل شود.

نظرات

نظر (به‌وسیله فیس‌بوک)