چرا شکست پروژه‌های هوش مصنوعی، بیشتر شکست معماری سازمان است تا شکست مدل‌های هوش مصنوعی؟

یکی از بزرگ‌ترین سوءبرداشت‌هایی که در سال‌های اخیر درباره‌ی هوش مصنوعی شکل گرفته، این است که گویی مدل هوش مصنوعی، به‌تنهایی همان سامانه است.

در بسیاری از سازمان‌ها، وقتی صحبت از استقرار هوش مصنوعی می‌شود، اولین سؤال این است:

«از کدام مدل استفاده کنیم؟»

اما شاید پرسش مهم‌تر این باشد:

«این مدل قرار است در کدام سامانه تصمیم بگیرد؟» این دو سؤال، تفاوتی اساسی با یکدیگر دارند.

برای روشن شدن موضوع، به یک مثال ساده توجه کنید.

فرض کنید بهترین موتور خودروی جهان را در اختیار دارید. موتوری قدرتمند، کم‌مصرف و قابل اعتماد.

آیا داشتن این موتور به‌تنهایی به معنای داشتن بهترین خودرو است؟ بدیهی است که خیر.

خودرو فقط موتور نیست. فرمان، ترمز، سامانه‌ی تعلیق، شاسی، گیربکس، سامانه‌ی کنترل، طراحی بدنه و حتی نحوه‌ی هماهنگی این اجزا با یکدیگر، همگی در عملکرد نهایی خودرو نقش دارند. اگر هر یک از این بخش‌ها دچار نقص باشد، حتی بهترین موتور دنیا نیز نمی‌تواند خودرویی ایمن، راحت و کارآمد بسازد.

هوش مصنوعی نیز دقیقاً چنین وضعیتی دارد. مدل، موتور است؛ نه خودرو.

اما در فضای امروز، بسیاری از سازمان‌ها تمام توجه خود را بر انتخاب موتور متمرکز کرده‌اند، در حالی که کمتر درباره طراحی خودرو گفت‌وگو می‌کنند.

این نگاه، شاید در مراحل اولیه‌ی توسعه‌ی هوش مصنوعی قابل درک بود؛ زمانی که تفاوت میان مدل‌ها بسیار چشمگیر بود و هر نسل جدید، جهشی بزرگ ایجاد می‌کرد. اما امروز شرایط تغییر کرده است. مدل‌های پیشرفته، هرچند از نظر عملکرد تفاوت‌هایی با یکدیگر دارند، اما فاصله‌ی آن‌ها دیگر به اندازه سال‌های گذشته نیست.

مدل‌های پیشرفته، هرچند از نظر عملکرد تفاوت‌هایی با یکدیگر دارند، اما فاصله‌ی آن‌ها دیگر به اندازه سال‌های گذشته نیست.

در مقابل، تفاوت میان سازمان‌هایی که از همین مدل‌ها استفاده می‌کنند، روزبه‌روز بیشتر می‌شود. چرا؟

زیرا خروجی نهایی، تنها به مدل وابسته نیست. مدل، درون یک سامانه عمل می‌کند.

مدل باید بداند مسئله چیست، به چه اطلاعاتی دسترسی دارد، چه محدودیت‌هایی دارد، خروجی خود را به چه کسی ارائه می‌دهد، چه کسی آن را بررسی می‌کند و این تصمیم چگونه بر سایر بخش‌های سازمان اثر خواهد گذاشت.

مدل باید بداند مسئله چیست، به چه اطلاعاتی دسترسی دارد، چه محدودیت‌هایی دارد، خروجی خود را به چه کسی ارائه می‌دهد، چه کسی آن را بررسی می‌کند و این تصمیم چگونه بر سایر بخش‌های سازمان اثر خواهد گذاشت.

اگر این زنجیره به‌درستی طراحی نشده باشد، کیفیت مدل هرچقدر هم بالا باشد، نتیجه‌ی نهایی همچنان ناپایدار خواهد بود.

برای درک بهتر این موضوع، تصور کنید در یک بیمارستان، هوشمندترین پزشک جهان حضور دارد. اگر پرونده‌ی بیمار ناقص باشد، آزمایش‌ها دیر برسد، داروخانه موجودی نداشته باشد، بخش‌های مختلف با یکدیگر ارتباط نداشته باشند و هیچ نظام مشخصی برای هماهنگی درمان وجود نداشته باشد، آیا صرف حضور یک پزشک برجسته، بهترین نتیجه را تضمین می‌کند؟

پاسخ روشن است. دانش پزشک اهمیت دارد، اما کیفیت درمان، محصول عملکرد کل سامانه است.

سازمان نیز دقیقاً چنین ساختاری دارد. هوش مصنوعی ممکن است بهترین پیشنهاد را ارائه کند، اما اگر آن پیشنهاد در زمان مناسب به فرد مناسب نرسد، اگر با تصمیم‌های دیگر هماهنگ نباشد، اگر مسئول اجرای آن مشخص نباشد یا اگر پیامدهای آن بر سایر واحدها دیده نشود، ارزش واقعی آن از بین خواهد رفت.

هوش مصنوعی ممکن است بهترین پیشنهاد را ارائه کند، اما اگر آن پیشنهاد در زمان مناسب به فرد مناسب نرسد، اگر با تصمیم‌های دیگر هماهنگ نباشد، اگر مسئول اجرای آن مشخص نباشد یا اگر پیامدهای آن بر سایر واحدها دیده نشود، ارزش واقعی آن از بین خواهد رفت.

به همین دلیل است که بسیاری از پروژه‌های هوش مصنوعی، از نظر فنی موفق‌اند، اما از نظر مدیریتی شکست می‌خورند.

بسیاری از پروژه‌های هوش مصنوعی، از نظر فنی موفق‌اند، اما از نظر مدیریتی شکست می‌خورند.

مدل، پاسخ درست را تولید کرده است؛ اما سازمان نتوانسته آن پاسخ را به تصمیمی مؤثر تبدیل کند.

اینجاست که باید میان دو مفهوم تفاوت قائل شویم:

یکی «توانایی تولید پاسخ» است؛

دیگری «توانایی تبدیل پاسخ به تصمیم سازمانی».

این دو، الزاماً یکسان نیستند.

مدل‌های هوش مصنوعی، در تولید پاسخ روزبه‌روز توانمندتر می‌شوند. اما تبدیل آن پاسخ‌ها به تصمیم‌های هماهنگ، مسئولانه و قابل اجرا، وظیفه‌ی سازمان است. و این دقیقاً همان نقطه‌ای است که فناوری پایان می‌یابد و معماری آغاز می‌شود.

اگر معماری سازمان نتواند مشخص کند که هر تصمیم چگونه ایجاد می‌شود، چگونه ارزیابی می‌شود، چه کسی مسئول آن است، چگونه با سایر تصمیم‌ها هماهنگ می‌شود و در نهایت چگونه به عمل تبدیل می‌شود، حتی دقیق‌ترین پاسخ‌های هوش مصنوعی نیز ممکن است به نتایجی متناقض منجر شوند.

اگر معماری سازمان نتواند مشخص کند که هر تصمیم چگونه ایجاد می‌شود، چگونه ارزیابی می‌شود، چه کسی مسئول آن است، چگونه با سایر تصمیم‌ها هماهنگ می‌شود و در نهایت چگونه به عمل تبدیل می‌شود، حتی دقیق‌ترین پاسخ‌های هوش مصنوعی نیز ممکن است به نتایجی متناقض منجر شوند.

شاید به همین دلیل است که آینده‌ی رقابت میان سازمان‌ها، کمتر به مدل‌های هوشمندتر وابسته خواهد بود و بیشتر به سازمان‌هایی تعلق خواهد داشت که بتوانند میان هوشمندی فناوری و هوشمندی سازمان پلی پایدار ایجاد کنند.

این پل، نه یک نرم‌افزار است، نه یک مدل و نه یک الگوریتم؛ این پل، معماری سازمان است.