حاکمیت عوامل هوش مصنوعی : چرا نباید با AI Agent ها مثل کارمند رفتار کرد

حاکمیت عوامل هوش مصنوعی؛ چرا نباید با AI Agent ها مثل کارمند رفتار کرد

همان طور که سازمان ها در حال آزمایش قرار دادن عوامل هوش مصنوعی در چارت سازمانی و معرفی آن ها به عنوان «کارمند» هستند، تحقیقات جدید نشان می دهد که این نوع چارچوب بندی می تواند پیامدهای ناخواسته ای به همراه داشته باشد. در یک آزمایش بزرگ، انسان انگاری هوش مصنوعی باعث کاهش مسئولیت پذیری فردی، افزایش ارجاع های غیر ضروری، کاهش کیفیت بررسی خروجی ها و افزایش ابهام کارمندان نسبت به نقش هایشان شد؛ بدون اینکه پذیرش این فناوری را به شکل معناداری بهبود دهد.

یافته ها نشان می دهد مسئله اصلی این نیست که آیا سازمان ها باید از سیستم های عامل هوش مصنوعی استفاده کنند یا خیر. مسئله مهم تر این است که چگونه باید جریان های کاری، نقش ها و مدل حاکمیت را بازطراحی کرد تا در کنار استفاده از سیستم های قدرتمندتر، انسان ها همچنان به شکل روشن پاسخگو، ناظر و مسئول باقی بمانند.

چرا نباید با عوامل هوش مصنوعی مثل کارمند رفتار کرد

همان طور که سازمان ها برای تسریع پذیرش هوش مصنوعی تلاش می کنند، بسیاری از رهبران سازمانی به سراغ یک ایده ظاهرا ساده رفته اند: به جای برخورد با این فناوری به عنوان یک ابزار، با آن مانند یک کارمند رفتار کنیم.

سیستم های عامل هوش مصنوعی این چارچوب بندی را قابل قبول تر کرده اند. این سیستم ها با استقلال بیشتری عمل می کنند و به طور فزاینده ای می توانند برخی وظایف را هم سطح با انسان ها انجام دهند. برخی رهبران تصور می کنند که انسان انگاری باعث می شود این فناوری برای کارکنان کمتر بیگانه به نظر برسد یا بلندپروازی های شرکت در حوزه هوش مصنوعی را برای سرمایه گذاران، مشتریان یا ذی نفعان داخلی ملموس تر کند.

اما برخورد با هوش مصنوعی به عنوان یک کارمند، آنقدرها هم ساده و بی خطر نیست. در یک آزمایش تصادفی، مشخص شد که انسانی کردن فناوری می تواند مسئولیت پذیری را از افراد دور کند، ارجاع کار به سطوح بالاتر را افزایش دهد، کیفیت بررسی را کاهش دهد و به هویت حرفه ای و اعتماد کارکنان آسیب بزند. نکته مهم تر اینکه این کار تمایل افراد به ادغام معنادار فناوری در جریان های کاری را نیز به شکل قابل توجهی افزایش نمی دهد؛ در حالی که همین ادغام درست، یکی از موانع اصلی تحقق ارزش اقتصادی و عملیاتی هوش مصنوعی در سازمان هاست.

این یافته ها یک نکته مهم را برجسته می کنند: عوامل هوش مصنوعی پتانسیل قابل توجهی برای گسترش توان سازمان ها و تغییر شیوه انجام کارها دارند. چالش اصلی این نیست که آیا باید آن ها را پذیرفت یا نه؛ چالش اصلی این است که چگونه باید آن ها را در جریان های کاری ادغام کرد تا مسئولیت پذیری حفظ شود، کیفیت افت نکند و کارمندان بتوانند به شکل موثر و قابل اعتماد در کنار این سیستم ها کار کنند.

ورود کارمندان هوش مصنوعی به نیروی کار

سازمان ها نقش عوامل هوش مصنوعی را به روش های مختلفی رسمی می کنند. برای نمونه، به این سیستم ها نام و عنوان شغلی می دهند، آن ها را در چارت سازمانی یا کاری قرار می دهند، برایشان مدیر تعیین می کنند یا از آن ها با عنوان هم تیمی و کارمندان هوش مصنوعی یاد می کنند. چندین اطلاعیه از سوی مدیران عامل در طول سال گذشته، این موضوع را وارد بحث های گسترده تر سازمانی کرده است. ما همچنین از مدیرانی شنیده ایم که در حال بررسی همین ایده هستند؛ از اشاره های غیر رسمی به همکاران دیجیتال گرفته تا اعلامیه های رسمی برای افزودن این همکاران به چارت سازمانی.

برخی از این انتخاب ها در سطح چارچوب بندی، اجتماعی و نمادین هستند. به عنوان مثال، دادن یک نام انسانی به یک بات، به افراد راهی برای خطاب قرار دادن سیستم می دهد و در بعضی موارد می تواند آن را آشناتر یا قابل دسترس تر نشان دهد. اما برخی انتخاب ها، ماهیت حاکمیتی دارند و مجموعه ای از انتظارات را درباره اختیار، مسئولیت پذیری و نظارت ایجاد می کنند؛ انتظاراتی که سازمان معمولا برای کارمندان انسانی خود در نظر می گیرد.

هر شکل اجرایی این ایده، بازتاب یک انگیزه گسترده تر است: انتقال نرم افزار از چیزی که کارمندان از آن استفاده می کنند، به چیزی که سازمان آن را به عنوان یک عضو مستقل تیم به رسمیت می شناسد.

مطالعه ما نشان می دهد که این تغییر از قبل آغاز شده است. در میان ۱۲۶۱ مدیر، سرپرست و مدیر ارشد در بخش های منابع انسانی و مالی از ایالات متحده، کانادا و اتحادیه اروپا که در آزمایش ما شرکت کردند، ۳۱ درصد گفتند که رهبری شرکت آن ها در حال حاضر با این فناوری به عنوان یک هم تیمی یا کارمند برخورد می کند و ۲۳ درصد گفتند که سازمان آن ها این سیستم ها را در چارت سازمانی یا کاری خود قرار داده است. این موضوع فقط محدود به بخش فناوری نیست؛ ما دریافتیم که این رویه به صنایعی مانند مراقبت های بهداشتی، خدمات مالی، خرده فروشی و خدمات حرفه ای نیز گسترش یافته است.

در میان شرکت کنندگان آزمایش، یک مدیر منابع انسانی درباره «اسکوت» (Scout) صحبت کرد؛ ابزاری نرم افزاری که به طور رسمی در چارت سازمانی تیم منابع انسانی شرکت قرار گرفته است. اسکوت مسئول بررسی درخواست های شغلی، انجام مصاحبه های اولیه و معرفی نامزدهاست؛ نامزدهایی که هر کدام همراه با یک خلاصه ارزیابی ارائه می شوند. اسکوت یک چت بات عمومی نیست که استخدام کنندگان گهگاه از آن استفاده کنند. در عوض، مانند یک کارمند رده پایین عمل می کند که به طور مستقل، اما در محدوده دامنه، خروجی ها و مرزهای مشخص کار می کند و مستقیما در جریان کار فرایند استخدام شرکت ادغام شده است.

رهبر منابع انسانی هنگام توصیف اسکوت می گوید: «از نظر فنی، این یک همتای معادل در تیم شماست. این گونه عمل می کند و رفتار می کند.» دقیقا همین نقطه است که چارچوب بندی شروع به مبهم شدن می کند و برای رهبران سازمانی یک هشدار جدی ایجاد می کند: آن ها با ایده کارمندان هوش مصنوعی سریع تر از میزان درک اثرات آن بر کارکنان و سازمان ها پیش می روند.

اثرات انسانی کردن هوش مصنوعی

در آزمایش خود، از مدیران خواستیم اسناد کاری حاوی خطا را بررسی کنند. تنها چیزی که میان سه گروه تغییر دادیم، نحوه معرفی پیش نویس کننده اصلی بود: یک ابزار نرم افزاری، یک کارمند انسانی در تیم آن ها با نام «الکس»، یا یک کارمند ماشینی در تیم آن ها با نام «ALEX-3». این تفاوت در چارچوب بندی، برای مدیرانی که با این مفاهیم آشنایی قبلی نداشتند، اثر معناداری نشان نداد. اما زمانی که تحلیل خود را بر شرکت کنندگانی متمرکز کردیم که سازمان هایشان از قبل عوامل هوش مصنوعی را در چارت سازمانی یا کاری خود داشتند، یعنی مدیرانی که تجربه واقعی تری با عوامل هوش مصنوعی داشتند، یافته ها به چند چالش مهم اشاره کرد؛ چالش هایی که نیازمند بازطراحی کار و حاکمیت هستند.

مسئولیت پذیری مبهم می شود

ما از شرکت کنندگان پرسیدیم چه کسی را برای اسنادی که بررسی کرده اند پاسخگو می دانند. همچنین از آن ها خواستیم مسئولیت را میان خودشان، تیمشان، سیستم مورد نظر و رهبری سازمان تقسیم کنند. هنگامی که فناوری به عنوان یک کارمند و نه به عنوان یک ابزار معرفی شد، مسئولیت پذیری شخصی ۹ واحد درصد کاهش یافت؛ در حالی که مسئولیت نسبت داده شده به سیستم ۸ واحد درصد افزایش پیدا کرد. این موضوع مشکل ساز است، زیرا سیستم های امروزی نمی توانند واقعا پاسخگو باشند و همچنان به مالکیت انسانی شفاف نیاز دارند.

در یک مصاحبه، شرکت کننده ای که شرکتش «کوین» (Kevin) را به عنوان یک کارمند در چارت سازمانی قرار داده بود، توضیح داد که همکارانش شوخی می کنند: «ما در حال کار با کوین هستیم… او کمی خشک است» و با فناوری مانند یک عامل اجتماعی رفتار می کنند. وقتی خطایی رخ می دهد، چارچوب بندی به این شکل تغییر می کند: «هی، کوین دارد اشتباه می کند. چرا او آن اشتباه را انجام می دهد؟» وقتی شکست ها به عنوان «اشتباه کوین» روایت می شوند، مسئولیت به جای انسان هایی که خروجی را مستقر، نظارت یا تایید کرده اند، به سمت سیستم هدایت می شود؛ و همین موضوع مسئولیت پذیری را مبهم می کند.

علاوه بر این، زمانی که مسئولیت به سیستم محول می شود و در سراسر تیم پخش می گردد، شانه خالی کردن انسان ها از زیر بار مسئولیت کاستی های خروجی سیستم آسان تر می شود. برای مثال، وقتی از یکی از شرکت کنندگان پرسیده شد در سازمانشان چه کسی مقصر خطاهای کار تولید شده توسط این فناوری است، توضیح داد: «مقصر یک شخص نیست؛ مقصر فناوری است.»

ارجاع کار و بار کاری بر دوش دیگران افزایش می یابد

به شرکت کنندگان این امکان داده شد که اسنادی را که برای یافتن خطا بررسی کرده بودند، برای بررسی بیشتر به یک مدیر ارجاع دهند. مشوق های این بخش به گونه ای طراحی شده بود که معاوضه های واقعی محیط کار را بازتاب دهد؛ یعنی تعادل میان اطمینان به کار خود و هزینه ارسال کار برای بررسی بیشتر. در مقایسه با زمانی که فناوری به عنوان ابزار معرفی شد، چارچوب بندی آن به عنوان کارمند، درخواست ها برای بررسی اضافی را ۴۴ درصد افزایش داد.

بررسی اضافی خروجی سیستم ها ذاتا مشکل ساز نیست؛ به ویژه در محیط های پرریسک یا قانون گذاری شده که نظارت دقیق ضروری است. مشکل زمانی به وجود می آید که بررسی اضافی، جایگزین دقت فردی شود؛ نه بخشی از یک فرایند حاکمیتی تعریف شده. در مطالعه ما، کسانی که کار یک کارمند هوش مصنوعی را بررسی می کردند، اتکای کمتری به قضاوت خود نشان دادند؛ زیرا این شرکت کنندگان بیشتر تمایل داشتند کار را به سطوح بالاتر ارجاع دهند تا اینکه پشت بررسی خود بایستند.

کنترل کیفیت کاهش می یابد

در آزمایش خود، ما خطاهایی را در اسناد قرار دادیم که از مدیران انتظار می رفت آن ها را تشخیص دهند؛ از جمله اطلاعات متناقض، بی دقتی های واقعی و محاسبات نادرست. سپس از شرکت کنندگان خواستیم در یک بازه زمانی محدود، تا حد امکان خطاها را شناسایی کنند. همچنین مشوق های مبتنی بر عملکرد برای تشویق به بررسی دقیق طراحی شد.

در مقایسه با زمانی که فناوری به عنوان ابزار معرفی شد، شرکت کنندگانی که اسناد را در چارچوب «کارمند» بررسی کردند، ۱۸ درصد خطاهای کمتری را تشخیص دادند. مدیران این گروه بیشتر احتمال داشت تناقضات مهم یا منطق های معیوب را نادیده بگیرند. در این زمینه، چارچوب بندی کارمندان هوش مصنوعی ممکن است ریسک جدیدی ایجاد کند: وقتی مدیران فناوری را به عنوان ابزار بررسی می کنند، همچنان بار شناختی نظارت را احساس می کنند. اما وقتی همان خروجی به عنوان خروجی یک «کارمند» معرفی می شود، مدیران ممکن است نیاز کمتری به درگیر شدن کامل با بار شناختی بررسی احساس کنند و عملا بخشی از مسئولیت دقت را از خود دور کنند.

هویت حرفه ای و اعتماد آسیب می بینند

در کل نمونه مورد بررسی، زمانی که رهبری شرکت ها فناوری را به عنوان هم تیمی یا کارمند در نظر می گرفتند، نه به عنوان یک ابزار بهره وری، مدیران ۱۳ درصد بیشتر احتمال داشت که درباره هویت حرفه ای خود احساس عدم اطمینان گزارش کنند. مدیران در شرکت هایی که از چارچوب بندی انسان انگارانه استفاده می کردند، همچنین ۷ درصد نگرانی بیشتری درباره امنیت شغلی و ۱۰ درصد اعتماد پایین تری نسبت به نحوه استفاده سازمان از این فناوری گزارش کردند.

این نگرانی ها در گفتگوهای پیگیری نیز تکرار شد. کارمندان در حال تطبیق با همکاران دیجیتال جدید خود هستند، اما در بسیاری از موارد هنوز وضوح نقشی کافی از سوی کارفرمایان دریافت نکرده اند. بسیاری از شرکت ها هنوز روشن نکرده اند که موفقیت در نقش های ترکیب شده با ماشین چگونه تعریف می شود، مسئولیت ها چگونه باید بازتعریف شوند و استانداردهای جدید مدیریت عملکرد چگونه باید اجرا شوند.

پذیرش به طور معناداری افزایش نمی یابد

با وجود برخی فرض های رایج، داده های ما نشان می دهد که انسانی کردن فناوری لزوما باعث افزایش قصد پذیرش نمی شود. شرکت کنندگانی که در معرض چارچوب بندی «کارمند» قرار گرفتند، نسبت به افرادی که فناوری را به عنوان «ابزار» دیدند، قصد پذیرش بالاتری گزارش نکردند.

بازطراحی کار برای همکاری مسئولانه انسان و هوش مصنوعی

تحقیقات ما نشان می دهد که اگرچه حاکمیت فناوری همیشه ضروری است، اما زمانی که انسان انگاری رخ می دهد، اهمیت آن دوچندان می شود. با افزایش سرعت و حجم خروجی ها، سازمان ها نمی توانند این فناوری را به سادگی روی جریان های کاری ساخته شده برای سرعت انسان قرار دهند و انتظار داشته باشند همه چیز بدون اصطکاک پیش برود.

ما معتقدیم مدیران عامل باید کار انسان ها و عوامل هوش مصنوعی را در پنج حوزه کلیدی بازطراحی کنند:

۱. جریان های کاری را به صراحت بازتعریف کنید و انتظارات نقش جدید را مشخص کنید

همان طور که سیستم های نوین بخشی از اجرای کارها را بر عهده می گیرند، نقش های انسانی به طور فزاینده ای بر نظارت، قضاوت، ایجاد رابطه و مدیریت ابهام متمرکز خواهند شد. رهبران باید:

• حوزه مسئولیت پذیری و دامنه کنترل مناسب ایجاد کنند: ظرفیت نظارت انسان ها فقط به این دلیل که حجم خروجی سیستم افزایش می یابد، به صورت خودکار بیشتر نمی شود.
• نقش ها را در مقیاس وسیع بازطراحی کرده و انتظارات را روشن کنند: مسئولیت نظارت بر سیستم ها باید به صراحت در شرح وظایف و مدل عملیاتی سازمان ذکر شود.
• مدیریت عملکرد را تنظیم مجدد کنند: سازمان باید به کیفیت نظارت و مدیریت موثر سیستم پاداش دهد، نه فقط به سرعت و میزان خروجی.

۲. مسئولیت پذیری را برای کارمندان و عوامل صریح و شخصی کنید

شواهد نشان می دهد که این سیستم ها باید همان گونه که هستند دیده شوند: اتوماسیون نرم افزاری پیشرفته که برای خروجی و عملکرد خود نیازمند مسئولیت پذیری روشن انسانی است. این موضوع به قوانین شفاف همکاری میان انسان و ماشین در سه جبهه نیاز دارد:

• حقوق تصمیم گیری: باید مشخص شود سیستم مجاز است چه کاری را به طور مستقل انجام دهد و چه کاری نیازمند تایید صریح انسان است.
• ارجاع به سطوح بالاتر: باید روشن شود چه شرایطی نیاز به بررسی بیشتر ایجاد می کند و چه کسی باید مداخله کند.
• پیامدها: باید مشخص شود وقتی سیستم دچار خطا می شود چه اتفاقی می افتد و کدام کارمندان انسانی مسئول نظارت بر عملکرد و بهبود مستمر آن هستند.

۳. یک برنامه توانمندسازی برای کارمندانی که عوامل را مدیریت می کنند طراحی و اجرا کنید

توانایی نظارت بر سیستم های انسان-عامل به صورت خودکار و طبیعی در سازمان شکل نمی گیرد. سازمان ها به یک جعبه ابزار مدیریتی جدید و برنامه آموزشی مشخص نیاز دارند تا به کارمندان کمک کند هنگام کار با این سیستم ها، تعادل متفاوتی میان تفویض اختیار و کنترل ایجاد کنند.

۴. عوامل هوش مصنوعی را در نقش های یک به یک محدود نکنید

مفهوم «کارمند» محدودیت های انسانی را به ذهن متبادر می کند؛ اما فناوری چنین محدودیت هایی ندارد. یک عامل واحد می تواند در بسیاری از جریان های کاری فعالیت کند. چارچوب بندی این سیستم ها به عنوان معادل های یک به یک انسانی، ذهنیت تفویض اختیار سنتی را تقویت می کند و قابلیت های واقعی آن ها را کمتر از حد واقعی نشان می دهد.

۵. انتخاب های آگاهانه ای درباره تکامل کار انسانی داشته باشید

در نهایت، شرکت ها همچنان به کارمندان انسانی برای کار با عوامل هوش مصنوعی نیاز خواهند داشت؛ چه این فناوری به عنوان ابزار در نظر گرفته شود و چه به عنوان کارمند. تحقق این پتانسیل به طراحی آگاهانه نقش ها بستگی دارد؛ به گونه ای که تلاش انسان روی کارهایی متمرکز شود که به قضاوت، خلاقیت، رابطه سازی و حس مالکیت نیاز دارند.

سوالات متداول

منابع و مآخذ