محمد مقیمی، مجله حقوق ما: هوش مصنوعی در مدتی کوتاه از موضوعی تخصصی در علوم رایانه به بخشی از زندگی روزمره انسان تبدیل شده است. موتورهای جست‌وجو، سامانه‌های ترجمه، تشخیص پزشکی، خدمات بانکی، شبکه‌های اجتماعی، آموزش، استخدام و حتی برخی تصمیم‌های اداری و قضایی، به درجات مختلف از الگوریتم‌ها و سامانه‌های هوشمند تأثیر می‌پذیرند. ازاین‌رو، هوش مصنوعی را دیگر نمی‌توان صرفاً یک فناوری فنی یا تجاری دانست؛ زیرا طراحی و کاربرد آن می‌تواند بر آزادی، برابری، حریم خصوصی، اشتغال، سلامت، آموزش و دسترسی شهروندان به خدمات عمومی اثر مستقیم بگذارد.
هوش مصنوعی به مجموعه‌ای از فناوری‌های محاسباتی گفته می‌شود که با پردازش حجم گسترده‌ای از داده‌ها، قابلیت‌هایی مانند تشخیص الگو، تحلیل، پیش‌بینی، تولید محتوا و کمک به تصمیم‌گیری را شبیه‌سازی یا تقویت می‌کنند. البته ابزارهای هوش مصنوعی به‌خودی‌خود منبع معتبر علمی محسوب نمی‌شوند. این سامانه‌ها ممکن است اطلاعات نادرست، ناقص یا فاقد منبع تولید کنند؛ بنابراین، اعتبار پاسخ‌های آنها باید با مراجعه به منابع مستقل و معتبر سنجیده شود. بااین‌حال، استفاده مسئولانه از هوش مصنوعی می‌تواند سرعت تحلیل اطلاعات را افزایش دهد و به گسترش دانش و پیشرفت علمی کمک کند.
این مطلب در شماره ۲۵۹ مجله حقوق ما منتشر شده است
حقوق بشر حوزه‌ای میان‌رشته‌ای است که با حقوق، سیاست، اقتصاد، اخلاق، فناوری و علوم اجتماعی ارتباط دارد. تقریباً هر تحول اجتماعی را می‌توان از منظر تأثیر آن بر کرامت و حقوق انسان بررسی کرد؛ اما اهمیت هوش مصنوعی به دلیل عمق و گستره تأثیر آن بر جوامع انسانی دوچندان است. این فناوری می‌تواند هم وسیله‌ای برای ارتقای حقوق بشر باشد و هم، در صورت فقدان نظارت و پاسخ‌گویی، به ابزاری برای نقض گسترده و نظام‌مند حقوق انسان تبدیل شود.
فرصت‌هایی برای ارتقای حقوق بشر
یکی از مهم‌ترین ظرفیت‌های هوش مصنوعی، تسهیل دسترسی به دانش و اطلاعات است. ابزارهای ترجمه، خلاصه‌سازی و آموزش هوشمند می‌توانند موانع زبانی، جغرافیایی و اقتصادی را کاهش دهند و امکان استفاده افراد بیشتری را از منابع علمی و آموزشی فراهم کنند. این ظرفیت می‌تواند به تحقق بهتر حق آموزش و گردش آزاد اطلاعات کمک کند؛ مشروط بر آنکه دسترسی به این فناوری‌ها به گروه‌های برخوردار محدود نماند.
در حوزه سلامت نیز سامانه‌های هوشمند می‌توانند با تحلیل تصاویر و داده‌های پزشکی، به تشخیص سریع‌تر بیماری‌ها، مدیریت اطلاعات بیماران و ارائه خدمات از راه دور کمک کنند. البته تصمیم نهایی درباره درمان نباید بدون نظارت متخصصان انسانی به ماشین واگذار شود. خطای یک ابزار در این حوزه صرفاً اشتباهی فنی نیست، بلکه ممکن است سلامت یا جان انسان را به خطر اندازد.
هوش مصنوعی همچنین می‌تواند کیفیت خدمات عمومی را بهبود بخشد. دولت‌ها قادرند از آن برای ساده‌سازی خدمات اداری، تحلیل نیازهای اجتماعی، برنامه‌ریزی شهری، توزیع بهتر منابع و تصمیم‌سازی استفاده کنند. ابزارهای تبدیل گفتار به متن، توصیف تصاویر، ترجمه خودکار و دستیارهای هوشمند نیز می‌توانند استقلال و دسترسی افراد دارای معلولیت را افزایش دهند.
در حوزه حقوق بشر، تحلیل تصاویر ماهواره‌ای، ویدئوها، اسناد و داده‌های گسترده می‌تواند به شناسایی الگوهای خشونت، مستندسازی نقض‌ها و هشدار زودهنگام درباره بحران‌های انسانی کمک کند. بااین‌حال، همان ابزارها ممکن است در اختیار حکومت‌های اقتدارگرا برای شناسایی معترضان، کنترل شهروندان و سرکوب آزادی‌های مدنی قرار گیرند.
مخاطرات و چالش‌ها
نقض حریم خصوصی یکی از جدی‌ترین مخاطرات این فناوری است. سامانه‌های هوشمند می‌توانند حجم عظیمی از داده‌های شخصی، رفتارهای اینترنتی، اطلاعات مکانی، تصاویر و صداهای افراد را گردآوری و تحلیل کنند. ترکیب این داده‌ها امکان ترسیم تصویری دقیق از زندگی، روابط، علایق و گرایش‌های اشخاص را فراهم می‌کند؛ موضوعی که در صورت نبود محدودیت قانونی، می‌تواند به نظارت گسترده دولتی یا تجاری منجر شود.
دیپ‌فیک (محتوای صوتی یا تصویری ساختگی که با هوش مصنوعی چهره یا صدای افراد را به‌گونه‌ای واقع‌نما بازسازی می‌کند) نمونه دیگری از این مخاطرات است. چنین محتوایی می‌تواند برای جعل هویت، کلاهبرداری، تخریب اعتبار، آزار افراد یا دست‌کاری افکار عمومی استفاده شود. مرز میان واقعیت و جعل با گسترش این فناوری دشوارتر تشخیص داده می‌شود و اعتماد عمومی به رسانه‌ها و اسناد تصویری آسیب می‌بیند.
تبعیض الگوریتمی نیز چالشی بنیادین است. سامانه‌هایی که با داده‌های تاریخی، ناقص یا نامتوازن آموزش می‌بینند، ممکن است تبعیض‌های موجود در جامعه را بازتولید یا تشدید کنند. برای مثال، اگر یک سامانه استخدامی با داده‌های سازمانی آموزش دیده باشد که در گذشته مردان بیشتری را به سمت‌های مدیریتی برگزیده است، ممکن است رزومه زنان را نامناسب‌تر ارزیابی کند. در تشخیص چهره، اعطای وام، بیمه، سلامت، پلیس و خدمات عمومی نیز یک معیار ظاهراً خنثی ممکن است در عمل علیه گروه‌های خاص یا افراد کم‌برخوردار عمل کند. بی‌طرف بودن ماشین الزاماً به معنای عادلانه بودن نتیجه نیست؛ زیرا داده‌ها، معیارها و اهداف سامانه را انسان‌ها و نهادهای انسانی تعیین می‌کنند.
هوش مصنوعی می‌تواند برخی مشاغل را حذف یا دگرگون کند و شکاف میان نیروی کار برخوردار از مهارت‌های دیجیتال و سایر افراد را افزایش دهد. استفاده گسترده از آثار نویسندگان، هنرمندان و پژوهشگران برای آموزش سامانه‌ها نیز پرسش‌های پیچیده‌ای درباره رضایت، حق مؤلف و مالکیت معنوی ایجاد کرده است. افزون بر این، توسعه مراکز داده و سامانه‌های بزرگ هوش مصنوعی با مصرف انرژی و منابع طبیعی همراه است و آثار زیست‌محیطی آن نیز باید در سیاست‌گذاری‌ها در نظر گرفته شود. توصیه‌نامه اخلاق هوش مصنوعی یونسکو بر پیوند میان کرامت انسانی، حقوق بشر، شفافیت، عدالت و پایداری زیست‌محیطی تأکید می‌کند.[۱]
ضرورت تنظیم‌گری حقوق‌بنیان
مسئله اصلی، پذیرش یا رد مطلق هوش مصنوعی نیست؛ بلکه تعیین حدود کاربرد آن، مسئولیت بازیگران و تضمین نظارت انسانی است. دولت‌ها باید سامانه‌ها را متناسب با میزان خطری که برای حقوق انسان دارند تنظیم کنند. افراد باید بدانند چه زمانی تصمیمی درباره آنان با کمک هوش مصنوعی گرفته شده، بتوانند دلایل آن را دریافت کنند و امکان اعتراض و جبران خسارت داشته باشند. تصمیم‌های حساس در زمینه‌هایی مانند درمان، استخدام، آموزش، وام، خدمات اجتماعی، بازداشت یا مجازات نباید کاملاً به ماشین واگذار شود.
پیش از استفاده از سامانه‌های پرخطر، باید ارزیابی آثار حقوق‌بشری صورت گیرد. شرکت‌ها و نهادهای دولتی نیز نباید مسئولیت تصمیم‌های زیان‌بار را پشت پیچیدگی فنی الگوریتم پنهان کنند. برخی کاربردهایی که ذاتاً با کرامت، آزادی یا برابری انسان ناسازگارند، باید ممنوع یا به‌شدت محدود شوند.
در سطح بین‌المللی، چارچوب‌های مشترک و الزام‌آور برای هدایت توسعه و کاربرد هوش مصنوعی ضروری است. در اروپا، کنوانسیون اروپایی حقوق بشر، به‌ویژه ماده ۸ درباره احترام به زندگی خصوصی و ماده ۱۰ درباره آزادی بیان، مبنایی برای ارزیابی کاربردهای هوش مصنوعی فراهم می‌کند.[۲]
شورای اروپا نیز «کنوانسیون چارچوب درباره هوش مصنوعی، حقوق بشر، دموکراسی و حاکمیت قانون» را در سال ۲۰۲۴ تصویب کرد؛ نخستین معاهده الزام‌آور بین‌المللی در این حوزه که هدف آن سازگار ساختن چرخه کامل سامانه‌های هوش مصنوعی با حقوق بشر، دموکراسی و حاکمیت قانون است. این سند بر اصولی مانند کرامت انسانی، شفافیت، پاسخ‌گویی، برابری، حریم خصوصی و نظارت تأکید دارد.[۳]
قانون هوش مصنوعی اتحادیه اروپا نیز با رویکردی مبتنی بر خطر، برای سامانه‌های پرخطر الزامات بیشتری پیش‌بینی کرده و برخی کاربردهای غیرقابل‌قبول را محدود کرده است. این تجربه نشان می‌دهد که تنظیم‌گری مؤثر باید هم از حقوق بنیادین حمایت کند و هم به‌گونه‌ای طراحی شود که مانع نوآوری‌های مفید و مسئولانه نشود.[۴]
هوش مصنوعی می‌تواند به گسترش دانش، سلامت، آموزش، دسترسی عمومی و مستندسازی نقض حقوق بشر کمک کند؛ اما بدون قانون‌گذاری عادلانه، شفافیت، نظارت انسانی و پاسخ‌گویی، ممکن است تبعیض، نابرابری، نظارت و دست‌کاری افکار عمومی را تشدید کند. آینده این فناوری را صرفاً توانایی ماشین‌ها تعیین نمی‌کند، بلکه تصمیم‌هایی تعیین خواهد کرد که انسان‌ها امروز درباره طراحی، مالکیت، کنترل و حدود استفاده از آن اتخاذ می‌کنند.
منابع و مآخذ
۱. یونسکو، «توصیه‌نامه اخلاق هوش مصنوعی»، مصوب ۲۰۲۱. پیوند رسمی
۲. دیوان اروپایی حقوق بشر، «کنوانسیون اروپایی حقوق بشر»، به‌ویژه مواد ۸ و ۱۰. پیوند رسمی
۳. شورای اروپا، «کنوانسیون چارچوب درباره هوش مصنوعی، حقوق بشر، دموکراسی و حاکمیت قانون»، ۲۰۲۴. پیوند رسمی
۴. اتحادیه اروپا، «مقرره (EU) 2024/1689؛ قانون هوش مصنوعی اتحادیه اروپا». پیوند رسمی
هنوز نظری ثبت نشده است. شما اولین نظر را بنویسید.