شاید بزرگترین سوءتفاهم دربارهی هوش مصنوعی این باشد که مسئلهی اصلی را «جایگزینی آن با انسان» بدانیم. این تصویر، هرچند هولناک و جذاب است، ممکن است ما را از تغییری عمیقتر که در حال وقوع است، غافل کند: بازآرایی شیوهای که انسان به دانش دست مییابد، آن را تفسیر میکند و بر اساس آن تصمیم میگیرد؛ تغییری که میتواند نقش افراد و نهادهای میانجیِ شناخت را نیز دگرگون کند.
این نخستین بار نیست که فناوری، بخشی از تواناییهای انسانی را از شکل پیشین خود خارج و در قالبی تازه سازماندهی میکند. تاریخ فناوری را، از منظری، میتوان تاریخ بیرونیسازی و بازسازماندهی بخشی از ظرفیتهای انسانی دانست؛ ماشین صنعتی بخشی از نیروی عضلانی را از بدن انسان جدا و به نیروی مکانیکی تبدیل کرد؛ ساعت، سنجش و تنظیم زمان را از تجربهی زیستهی انسان جدا و به معیاری عینی برای سازماندهی کار و زندگی تبدیل کرد؛ ماشین چاپ، تولید و انتقال دانش را از حافظه و گفتار فردی به متن مکتوب، پایدار و تکثیرپذیر منتقل کرد؛ و رایانه، محاسبه و پردازش اطلاعات را به نظامهای مصنوعی سپرد.
در این معنا، فناوری در بخش بزرگی از تاریخ خود صرفاً رقیب انسان نبوده ؛ بلکه ابزاری برای گسترش ظرفیتهای او بوده است
فناوری در بخش بزرگی از تاریخ خود صرفاً رقیب انسان نبوده ؛ بلکه ابزاری برای گسترش ظرفیتهای او بوده است
و انسان با ساختن ابزار، بخشی از محدودیتهای بدن و ذهن خود را به بیرون امتداد داده و تواناییهایش را در مقیاسی تازه، بازآفرینی کرده است. با این حال، واگذاری یک توانایی لزوماً به معنای حذف آن نیست، بلکه میتواند میزان تمرین، اتکا و اهمیت اجتماعی آن توانایی را تغییر دهد. آنچه در هر مرحله دگرگون میشود، فقط توانایی انجام یک کار نیست؛ بلکه رابطهی انسان با آن توانایی است.
آنچه در هر مرحله دگرگون میشود، فقط توانایی انجام یک کار نیست؛ بلکه رابطهی انسان با آن توانایی است.
هوش مصنوعی این روند را در نقطهای متفاوت قرار میدهد. این فناوری نه فقط بخشی از یک فعالیت را انجام میدهد، بلکه میتواند وارد فرآیندهایی شود که پیشتر بخش مهمی از کار شناختی انسان را تشکیل میدادند: تولید و بازنویسی متن، تحلیل، طبقهبندی، تفسیر، ترکیب اطلاعات، تشخیص الگو، تولید فرضیه و پیشنهاد گزینههای مختلف.
بنابراین، آنچه به بیرون منتقل میشود فقط «انجام یک کار» نیست؛ بخشی از فرآیند رسیدن به نتیجه نیز میتواند در تعامل با یک سازوکار محاسباتی شکل بگیرد.
در تصمیمگیری انسانی، میان مواجهه با یک مسئله و رسیدن به پاسخ فاصلهای وجود دارد؛ در این فاصله، انسان مسئله را تشخیص میدهد، آن را به زبانی قابل بررسی درمیآورد، میان عوامل مختلف ارتباط برقرار میکند، برخی احتمالات را برجسته و برخی دیگر را کنار میگذارد، شواهد را میسنجد و سرانجام به داوری میرسد. بخش مهمی از شناخت دقیقاً در همین فرآیند شکل میگیرد.
هوش مصنوعی میتواند این فاصله را بهشدت کوتاه کرده و از یک مسئله مبهم میتواند صورتبندیهای مختلف، اطلاعات مرتبط، تحلیلهای ممکن، فرضیههای رقیب و گزینههای پیشنهادی تولید کند؛ در نتیجه، انسان ممکن است بیش از گذشته با پاسخهایی مواجه شود که پیش از آنکه خودش تمام مسیر رسیدن به آنها را طی کند، در برابرش قرار گرفتهاند.
اما مسئلهی اصلی حتی این هم نیست که چه مقدار از فرآیند اندیشیدن به ماشین واگذار میشود. مسئلهی عمیقتر، تغییری است که هوش مصنوعی میتواند در تقسیم اجتماعی کار شناختی ایجاد کند.
شناخت در جامعه هیچگاه صرفاً محصول ذهن یک فرد نبوده است؛ انسانها برای دانستن، قرنها به شبکهای از افراد، حرفهها و نهادها متکی بودهاند: معلم، کتاب، کتابخانه، پژوهشگر، مترجم، ویراستار، متخصص، مشاور و منتقد، هر یک بخشی از کار شناختی را بر عهده داشتهاند. حتی هنگامی که فرد تصمیم نهایی را خودش میگرفت، رسیدن به آن تصمیم معمولاً حاصل شبکهای از میانجیهای انسانی و نهادی بود.
اهمیت هوش مصنوعی از این منظر در آن است که میتواند بخشهایی از این نقشهای پراکنده را در یک سامانهی واحد گرد آورد. یک سامانه میتواند همزمان اطلاعات را بازیابی و خلاصه کند، میان گزینهها مقایسه انجام دهد، متنی را تولید یا بازنویسی کند، استدلالی را بازسازی کند، تناقضی را نشان دهد و فرضیه یا پیشنهاد تازهای ارائه کند.
در این نقطه، مسئله فقط این نیست که یک «کار» از انسان گرفته میشود؛ بلکه بخشی از تقسیم کاری که جامعه برای تولید و انتقال شناخت ایجاد کرده بود، میتواند در یک سامانهی فنی فشرده شود.
مسئله فقط این نیست که یک «کار» از انسان گرفته میشود؛ بلکه بخشی از تقسیم کاری که جامعه برای تولید و انتقال شناخت ایجاد کرده بود، میتواند در یک سامانهی فنی فشرده شود.
این تغییر از نظر جامعهشناختی مهمتر از خودکارشدن یک فعالیت منفرد است؛ هنگامی که کارهای شناختی گوناگون که پیشتر میان افراد و نهادهای متفاوت توزیع شده بودند، در یک سامانهی واحد گرد میآیند، رابطهی انسان با منابع شناخت نیز تغییر میکند و فرد دیگر لزوماً برای هر مرحله از فرآیند شناخت به یک میانجی متفاوت مراجعه نمیکند و میتواند پرسش را در یک نقطه وارد کند و مجموعهای از عملیات شناختی را در همان نقطه دریافت کند.
در نتیجه، در دنیای هوش مصنوعی، ممکن است چیزی بیش از یک ابزار تغییر کند: معماری دسترسی انسان به دانش در حال تغییر باشد.
در دنیای هوش مصنوعی، ممکن است چیزی بیش از یک ابزار تغییر کند: معماری دسترسی انسان به دانش در حال تغییر باشد.
این تغییر میتواند مرزهای سنتی میان تولیدکننده و مصرفکنندهی دانش، میان متخصص و کاربر، و حتی میان جستوجوی اطلاعات، تحلیل و تفسیر آن را جابهجا کند، اما پیامد آن فقط تغییر در دسترسی نیست. نهادهای سنتی دانش صرفاً اطلاعات تولید نمیکردند؛ آنها همزمان اعتبار، اعتماد و مسئولیت را نیز توزیع میکردند.
وقتی یک استاد آموزش میدهد، پزشک تشخیص میدهد، پژوهشگر نتیجهای را منتشر میکند یا متخصص توصیهای ارائه میدهد، تنها یک «پاسخ» عرضه نمیشود؛ بلکه در پس آن پاسخ، جایگاه حرفهای، قواعد ارزیابی، استانداردهای تخصصی، مسئولیت و امکان پرسشگری نیز وجود دارد و پاسخ، تنها بخشی از یک رابطه اجتماعی و نهادی است.
اما در سامانههای هوش مصنوعی، این عناصر الزاماً به همان شکل همراه پاسخ ظاهر نمیشوند و ممکن است کاربر پاسخی دریافت کند بیآنکه بداند این پاسخ دقیقاً بر چه شواهدی استوار است، چه فرآیندی به تولید آن انجامیده، چه کسی یا چه نهادی مسئول آن است و در صورت خطا، سازوکار پاسخگویی چیست.
در این وضعیت، پرسش مهم فقط این نیست که آیا هوش مصنوعی میتواند جایگزین فلان متخصص شود یا نه. پرسش مهمتر این است که وقتی بخشی از کار شناختی از شبکههای انسانی و نهادی جدا و در سامانههای فنی متمرکز میشود، چه اتفاقی برای سازوکارهای اعتبار، اعتماد، مسئولیت و پاسخگویی میافتد؟
این پرسش ما را از فناوری به نهاد میرساند؛ بهاین معنا که پیامدهای اجتماعی هوش مصنوعی، بهتنهایی از خود فناوری ناشی نمیشوند، بلکه جایگاه این فناوری در جامعه به نحوهی طراحی و استقرار سامانهها، شیوهی استفاده از آنها، قواعد حکمرانی، استانداردهای ارزیابی و میزان و نوع واگذاری فعالیتهای شناختی به آنها بستگی دارد. بنابراین، پرسش اصلی فقط این نیست که هوش مصنوعی چه کارهایی را میتواند یا نمیتواند انجام دهد؛ پرسش این است که جامعه چه بخشهایی از کار شناختی را به آن واگذار میکند و این واگذاری چه تغییری در تقسیم کار شناختی میان انسانها، حرفهها و نهادها ایجاد میکند.
اهمیت این موضوع زمانی آشکارتر میشود که توجه کنیم انسان برای شناختن و تصمیم گرفتن، همواره به دیگران و نهادها متکی بوده است؛ در طول تاریخ و از زمان پیدایش نهادها، معلم آموزش میدهد، پژوهشگر تولید میکند، متخصص تشخیص میدهد، مترجم معنا را منتقل میکند، ویراستار متن را ارزیابی میکند و منتقد اعتبار یک ادعا را به چالش میکشد. این نقشها فقط خدمات جداگانهای ارائه نمیکنند؛ هر یک بخشی از فرآیند اجتماعی تولید و ارزیابی شناخت را بر عهده دارند.
هوش مصنوعی اما میتواند بخشی از این فعالیتهای پراکنده را در یک سامانهی واحد گرد آورد و اگر این روند در مقیاس وسیع گسترش یابد، تغییری مهم رخ خواهد داد: بخشی از کاری که پیشتر میان افراد، حرفهها و نهادهای مختلف توزیع شده بود، در تعامل انسان با یک سامانهی هوشمند انجام خواهد شد. در این حالت، مسئله فقط خودکارشدن چند فعالیت شناختی نیست؛ بلکه این واقعیت است که الگوی دسترسی انسان به دانش و شیوهی رسیدن او از پرسش به تحلیل و از تحلیل به تصمیم نیز تغییر میکند.
در اینجا مفهوم «انسان پس از خود» معنا پیدا میکند. منظور از این تعبیر، انسانی نیست که ماشین جای او را گرفته باشد؛ بلکه انسانی است که بخشی از فرآیند شناختی خود را به سامانهای واگذار کرده است که میتواند همزمان چندین نقش شناختی را ایفا کند؛
در اینجا مفهوم «انسان پس از خود» معنا پیدا میکند. منظور از این تعبیر، انسانی نیست که ماشین جای او را گرفته باشد؛ بلکه انسانی است که بخشی از فرآیند شناختی خود را به سامانهای واگذار کرده است که میتواند همزمان چندین نقش شناختی را ایفا کند
در این وضعیت، البته انسان همچنان پرسش میکند، قضاوت میکند و تصمیم میگیرد، اما بخشی از مسیر رسیدن به این قضاوت و تصمیم دیگر صرفاً در ذهن او یا در تعامل مستقیم با سایر انسانها طی نمیشود.
اما از همینجا یک مسئلهی مهم اجتماعی پدیدار میشود و آن رخنمونی این واقعیت است که نهادها و حرفههای تخصصی فقط دانش تولید نمیکردند؛ آنها همزمان سازوکارهایی برای اعتباربخشی، اعتماد، مسئولیت و پاسخگویی ایجاد کرده بودند. اما وقتی بخشی از کار شناختی به سامانههای هوشمند منتقل میشود، این سازوکارها نیز ناگزیر با پرسشهای تازهای روبهرو میشوند: اعتبار یک پاسخ هوش مصنوعی از کجا میآید؟ مسئولیت خطای آن بر عهده چه کسی است؟ چه کسی باید آن را ارزیابی کند؟ و در نهایت، چه نهادی باید بر سامانهای نظارت کند که در فرآیند تصمیمگیری انسان نقش پیدا کرده است؟
از این منظر، پرسش اصلی دیگر این نیست که «آیا ماشین میتواند فکر کند؟» و حتی صرفاً این نیست که «آیا انسان هنوز خودش فکر میکند؟» پرسش مهمتر این است که در جامعهای که بخشی از کار شناختی به سامانههای هوشمند واگذار شده، رابطهی میان انسان، دانش، تخصص و نهادهای اعتباربخش چگونه بازتنظیم خواهد شد؟
اگر هوش مصنوعی در چنین مقیاسی وارد زندگی اجتماعی شود، دیگر نمیتوان آن را صرفاً فناوریِ انجام برخی کارهای شناختی دانست و این فناوری خیلی زود میتواند به بخشی از زیرساخت اجتماعی شناخت تبدیل شود؛ زیرساختی که بر اساس و بهوسیلهی آن، انسان به اطلاعات دسترسی پیدا میکند، مسئله را صورتبندی میکند، گزینهها را مقایسه میکند و برای تصمیمگیری آماده میشود.
در این صورت، مسئلهی اصلی هوش مصنوعی نه صرفاً توانایی ماشین، بلکه بازآرایی اجتماعیِ کار شناختی و پیامدهای آن برای دانش، تخصص، اعتبار و مسئولیت خواهد بود.
مسئلهی اصلی هوش مصنوعی نه صرفاً توانایی ماشین، بلکه بازآرایی اجتماعیِ کار شناختی و پیامدهای آن برای دانش، تخصص، اعتبار و مسئولیت خواهد بود.
