اخـراج از آیـنده در عصر هوش مصنوعی

امروزه الگوریتم‌ها صرفاً ابزار تحلیل داده نیستند؛ آن‌ها به دستگاه‌هایی برای تصویرسازی از آینده بدل شده‌اند. از الگوی مصرف و جست‌وجو گرفته تا سابقه‌ی شغلی، تحصیلی و حتی ریتم زندگی روزمره، همه‌چیز به داده‌هایی تبدیل شده که می‌توانند «آنچه احتمالاً خواهیم شد» را تخمین بزنند. به این معنا، ما وارد عصر تازه‌ای شده‌ایم: عصری که می‌توان آن را «عصر پیش‌بینی» نام‌گذاری کرد.

اما بر خلاف سایر ادوار تاریخ، مسأله‌ی اصلی این عصر، صرفاً نابرابری، بی‌عدالتی یا حتی سلطه‌ی فناوری نیست. آنچه آرام و بی‌صدا در حال رخ دادن است، نوعی« اخراج تدریجی از آینده» است؛

آنچه آرام و بی‌صدا در حال رخ دادن است، نوعی« اخراج تدریجی از آینده» است

فرآیندی که در آن افراد، گروه‌ها و حتی حوزه‌های کامل فعالیت، نه به‌دلیل شکست بالفعل، بلکه به‌دلیل «برآورد فناورانه از آینده»، از چرخه‌ی تصمیم‌گیری، سرمایه‌گذاری و امکان رشد کنار گذاشته می‌شوند؛ به‌این معنا که قضاوت درباره‌ی سرنوشت افراد یا گروه‌ها نه بر اساس توان، اراده یا امکان تغییر آن‌ها، بلکه بر پایه‌ی محاسبات الگوریتمی که با تکیه بر داده‌های گذشته حدس می‌زنند آینده‌ی آن‌ها «به‌احتمال زیاد» چگونه خواهد بود، انجام و براساس آن درباره‌ی افراد و گروه‌های انسانی و یا هرنوع فعالیتی تصمیم‌گیری می‌شود.

اخراج از آینده، البته حذف فیزیکی یا حقوقی نیست. درواقع کسی حکم اخراج دریافت نمی‌کند یا کسی رسماً محروم اعلام نمی‌شود. این اخراج، نتیجه‌ی طبیعی سیاست‌گذاری‌هایی است که آینده را به «داده» و انسان را به «احتمال» تقلیل می‌دهند و حذف، پیش از آن‌که تجربه‌ای زیسته شود، در سطح مدل رخ می‌دهد.

از این منظر، ویژگی‌های عصر پیش‌بینی و تأثیرات آن را به‌شرح زیر می‌توان احصا کرد:

 دگرگونی منطق قدرت: از داوری پسینی به حذف پیشینی

در نظم‌های پیشین، منطق قدرت، چه در سیاست و چه در اقتصاد عمدتاً واکنشی بود. انسان عمل می‌کرد و سپس ارزیابی می‌شد: اگر کار می‌کرد، دیده می‌شد؛ اگر خطا می‌کرد، حذف می‌شد؛ اگر رشد می‌کرد، ارتقا می‌گرفت و  آینده، عملاً عرصه‌ی امکان و آزمون بود.

اما در نظم فناورانه‌ی امروز، این منطق وارونه شده است و سیاست‌گذاری منتظر کنش انسان نمی‌ماند و پیشاپیش تصمیم می‌گیرد؛ به‌این معنا که الگوریتم‌ها و مدل‌های داده‌محور، آینده را شبیه‌سازی می‌کنند و بر اساس این شبیه‌سازی، تعیین می‌کنند چه کسی «ارزش سرمایه‌گذاری» دارد و چه کسی نه!

در این چارچوب، انسان نه بر اساس «آنچه می‌تواند بشود»، بلکه بر اساس «آنچه احتمال داده می‌شود بشود»، قضاوت می‌شود. درست در همین نقطه است که اخراج از آینده آغاز می‌شود: زمانی که «امکان»، جای خود را به «احتمال» می‌دهد.

پیش‌بینی پذیری بازدهی؛ اصل اساسی در کار و سیاست‌گذاری

در حوزه‌ی کار، این منطق به‌شکلی عریان قابل مشاهده است. در همین حال حاضر نیز در ایران، سامانه‌های استخدامی، آزمون‌های دیجیتال، فیلترهای رزومه و حتی سیاست‌های آموزش مهارت، بیش از آن‌که بر ظرفیت‌های انسانی تکیه کنند، بر داده‌های گذشته سوار شده‌اند.

سامانه‌های استخدامی، آزمون‌های دیجیتال، فیلترهای رزومه و حتی سیاست‌های آموزش مهارت، بیش از آن‌که بر ظرفیت‌های انسانی تکیه کنند، بر داده‌های گذشته سوار شده‌اند.

کارگری که مسیر شغلی‌اش گسسته بوده، زنی که چند سال به‌دلیل مراقبت از خانواده از بازار کار دور مانده، یا جوانی که مهارت‌هایش در قالب مدرک رسمی یا گواهی دیجیتال ثبت نشده، پیشاپیش «ریسک‌دار» تلقی می‌شود؛ البته نه به‌دلیل ناکارآمدی واقعی، بلکه به‌دلیل ناتوانی سامانه در دیدن پیچیدگی زندگی.

در چنین وضعی، سیاست‌گذار به‌جای طراحی مسیرهای بازآموزی، انتقال مهارت یا حمایت فعال، منابع محدود را به کسانی اختصاص می‌دهد که «بازده پیش‌بینی‌پذیر» دارند: فارغ‌التحصیلان مسیرهای استاندارد، نیروهای بدون وقفه شغلی، یا افرادی که داده‌هایشان تمیز و قابل مدل‌سازی است. نتیجه، حذف پیشینی بخشی از نیروی انسانی از حوزه‌ی کار و اشتغال است؛ اخراج از آینده، پیش از آن‌که آینده‌ای ساخته شود.

تبدیل فقر به پروفایل داده‌ای

در حوزه‌ی اقتصاد، اخراج از آینده چهره‌ای آرام، فنی و به‌ظاهر عقلانی دارد. نظام‌های اعتبارسنجی، تخصیص وام و حمایت‌های مالی، چه در بانک‌ها و چه در پلتفرم‌های نوظهور بر اساس داده‌های تراکنشی تصمیم می‌گیرند.

کسبه‌ی خرد، کارگران غیررسمی، زنان خانه‌دار یا کارآفرینان محلی که گردش مالی‌شان در سامانه‌ها ثبت نمی‌شود، عملاً «وجود اقتصادی» ندارند. نه به این دلیل که فاقد توان یا ابتکارند، بلکه چون داده کافی تولید نکرده‌اند.

در این‌جا، فقر دیگر یک وضعیت اجتماعی یا تاریخی نیست؛ یک «پروفایل داده‌ای» است و سیاست‌گذاری اقتصادی، به‌جای مداخله‌ی اصلاحی، به بازتولید همین الگو کمک می‌کند؛ بی‌که فکر کند فردی که امروز به‌دلیل نبود داده کنار گذاشته می‌شود، فردا نیز داده‌ای نخواهد داشت و شوربختانه این چرخه، اخراج دائمی از آینده اقتصادی را تثبیت می‌کند.

آنچه دیده نمی‌شود، ساخته هم نمی‌شود

در سطح فرهنگی، الگوریتم‌ها تعیین می‌کنند چه چیزی دیده شود، چه چیزی ارزشمند تلقی شود و چه چیزی به حاشیه برود. در ایران، تولیدات فرهنگی از کتاب و موسیقی تا رسانه و اندیشه، بیش از پیش تابع منطق «تعامل‌پذیری» شده‌اند.

در ایران، تولیدات فرهنگی از کتاب و موسیقی تا رسانه و اندیشه، بیش از پیش تابع منطق «تعامل‌پذیری» شده‌اند.

سیاست‌گذاری فرهنگی، آگاهانه یا ناآگاهانه، به این منطق تن داده است: حمایت و توجه به آن چیزی می‌رسد که دیده می‌شود، نه الزاماً آنچه عمیق، نوآور یا مسئله‌مند است. نتیجه، حذف تدریجی صداها، سبک‌های فکری و روایت‌هایی است که با منطق الگوریتم سازگار نیستند؛ ولو آنکه عمیق باشند.

این حذف نیز، نه سانسور است و نه ممنوعیت؛ بلکه صرفاً «دیده نشدن» است و آنچه دیده نمی‌شود، به‌تدریج از آینده‌ی فرهنگی حذف می‌شود؛ بی‌سروصدا و بدون مقاومت!

 حذف مسئولیت انسانی از سیاست‌گذاری

نقطه‌ی مشترک همه‌ی این ساحت‌ها، یک چیز است:واگذاری مسئولیت تصمیم به فناوری. هوش مصنوعی ابزار است، اما سیاست‌گذاری آن را به داور بدل کرده است. تصمیم‌ها به نام «بی‌طرفی داده» گرفته می‌شوند، در حالی که هیچ داده‌ای بی‌طرف نیست و هیچ الگوریتمی بدون ارزش عمل نمی‌کند.

اخراج از آینده، زمانی تثبیت می‌شود که سیاست‌گذار به‌جای پرسش اخلاقی، بپرسد: «احتمال موفقیت چقدر است؟» و دیگر نپرسد: «اگر حذف کنیم، چه چیزی را برای همیشه از دست می‌دهیم؟».

به‌این ترتیب، اخراج از آینده، خطرناک‌ترین شکل حذف است؛ زیرا بی‌صدا، تدریجی و عقلانی جلوه می‌کند؛ درحالی که آینده، خروجی آماری نیست و «حق» انسانی و اجتماعی هر فرد یا گروه اجتماعی است.

در نهایت، نقد به استفاده از فناوری در سیاست‌گذاری، به هیچ وجه به معنای نفی آن نیست و قصد این نوشتار آن نیست که بگوید برای سیاست‌گذاری مسئولانه در عصر فناوری باید الگوریتم‌ها را کنار گذاشت؛ بلکه به معنای محدود کردن نقش آن‌ها  و تأکید بر این نکته است که فناوری در سیاستگذاری باید ابزار تحلیل باشد، نه ابزار حذف و همچنین تأکید مؤکد بر این نکته که اگر انسان از جایگاه داور اخلاقی کنار برود، فناوری، بی‌که قصدی داشته باشد آینده را فقط برای «برندگان پیش‌بینی‌شده» حفظ خواهد کرد.

و البته پرواضح و بدیهی است جامعه‌ای که آینده را پیشاپیش «توزیع» کند، دیر یا زود با مردمی روبه‌رو می‌شود که نه شورش می‌کنند و نه مشارکت؛

پرواضح و بدیهی است جامعه‌ای که آینده را پیشاپیش «توزیع» کند، دیر یا زود با مردمی روبه‌رو می‌شود که نه شورش می‌کنند و نه مشارکت

زیرا آن‌ها دیگر آینده‌ای برای از دست دادن ندارند و این، پرهزینه‌ترین شکل خسارت به جوامع انسانی است؛ زیرا جامعه‌ای که امکان آینده را از بخشی از اعضایش سلب می‌کند، نه‌تنها آن‌ها، بلکه توان بازتولید امید، خلاقیت و کنش جمعی خود را نیز از دست می‌دهد.