تحلیل حقوقی نقش هوش‌مصنوعی در امتیازدهی اجتماعی مبتنی بر تبعیض الگوریتمی با تأکید بر قانون هوش‌مصنوعی اتحادیه اروپا

چکیده مقاله

تحولات شتابان در عرصۀ هوش‌مصنوعی، الگوهای سنتی تصمیم‌گیری را دگرگون ساخته و ابعاد نوینی از تعامل انسان و داده را پیش‌روی حقوق‌دانان و سیاست‌گذاران نهاده‌است. در این میان، امتیازدهی اجتماعی به‌عنوان سازوکاری نوظهور که بر مبنای داده‌های رفتاری و ویژگی‌های شخصی افراد، آنان را ارزیابی و طبقه‌بندی می‌کند، به یکی از مناقشه‌برانگیزترین چالش‌های حقوقی روز بدل‌شده‌است. این فرایند، هرچند می‌تواند کارآمدی تصمیمات اداری و تخصیص منابع را افزایش‌دهد، اما در سطح حقوق بنیادین با مفاهیمی چون برابری، کرامت انسانی و حق حریم‌خصوصی در تعارض قرارمی‌گیرد و زمینه‌ساز تبعیض‌های سیستماتیک و نقض حقوق اشخاص می‌شود.

پژوهش حاضر با روش توصیفی ـ تحلیلی، به واکاوی مبانی، چالش‌ها و سازوکارهای حقوقی امتیازدهی اجتماعی مبتنی بر تبعیض الگوریتمی به ویژه در قانون هوش‌مصنوعی اتحادیه اروپا پرداخته‌است. یافته‌ها نشان می‌دهد که اتحادیه اروپا با اتخاذ رویکردی ریسک‌محور و مرحله‌ای، میان نظام‌های ممنوع و پرخطر تمایز نهاده و صرفاً اشکالی از امتیازدهی اجتماعی را که منجر به رفتار ناموجه یا نامتناسب با اشخاص شود، منع‌کرده‌است؛ درحالیکه سایر کاربردها را مشروط به رعایت الزامات شفافیت، توضیح‌پذیری و نظارت انسانی مجازدانسته‌است. در مقابل، نظام حقوقی ایران علی‌رغم برخورداری از اصول کلی منع تبعیض و حمایت از داده‌های شخصی، هنوز فاقد چارچوبی منسجم برای تنظیم و نظارت بر سامانه‌های امتیازدهی مبتنی بر هوش‌مصنوعی است. بر این اساس، مقاله حاضر بر ضرورت طراحی یک نظام بومی حکمرانی ریسک تأکیددارد؛ نظامی که با تلفیق اصول شفافیت، حق اعتراض و مداخلۀ انسانی، از بازتولید تبعیض‌های الگوریتمی جلوگیری‌کرده و به پاسداری از کرامت و برابری اشخاص در عصر داده‌محور بینجامد.

کلید واژگان: امتیازدهی اجتماعی، تبعیض سیستماتیک (الگوریتمی)، سوءگیری الگوریتمی، تعصب.