هوش مصنوعی اشتباه می‌کند؛ چه کسی مسئول خسارت‌های سنگین خواهد بود؟

با گسترش روزافزون استفاده از هوش مصنوعی در ساختارهای سازمانی، یک پرسش بنیادین و چالش‌برانگیز مطرح شده است: اگر یک سیستم هوشمند مرتکب خطایی پرهزینه یا مرگبار شود، مسئولیت نهایی با کیست؟ پژوهش‌های اخیر نشان می‌دهند که دنیای مدیریت هنوز پاسخی قطعی برای این معمای حقوقی پیدا نکرده است.

سردرگمی مدیران در تعیین مقصر اشتباهات هوش مصنوعی

گزارش جدید منتشر شده توسط مدرسه مدیریت وارتون در دانشگاه پنسیلوانیا، از شکاف عمیق میان پیشرفت تکنولوژی و آمادگی مدیریتی پرده برمی‌دارد. این مطالعه نشان می‌دهد که با واگذاری وظایف حساس به عامل‌های هوشمند، شرکت‌ها با بحران تعیین مسئولیت روبه‌رو شده‌اند.

نظرسنجی‌های انجام شده میان مدیران ارشد، نتایج بسیار پراکنده‌ای را نشان می‌دهد که نشان‌دهنده عدم قطعیت در سازمان‌هاست:

• ۲۵ درصد: کارمندی که از ابزار استفاده می‌کند را مسئول می‌دانند.
• حدود ۲۵ درصد: مدیر مستقیم را مقصر می‌دانند.
• حدود ۲۵ درصد: تیم‌های ارزیابی ریسک سازمان را مسئول می‌دانند.
• ۱۰ درصد: توسعه‌دهندگان و تأمین‌کنندگان مدل را مقصر معرفی کرده‌اند.

خسارت‌های واقعی ناشی از خطاهای دستورالعمل (پرامپت)

بسیاری تصور می‌کنند خطر اصلی از خودخواهی ربات‌ها نشأت می‌گیرد، اما واقعیت این است که هوش مصنوعی اغلب به دلیل دستورات نادرست یا همان «پرامپت‌های» اشتباه، خسارت‌بار عمل می‌کند. زمانی که این سیستم‌ها به پایگاه‌های داده یا ایمیل‌ها متصل هستند، یک اشتباه کوچک می‌تواند پیامدهای گسترده‌ای داشته باشد.

نمونه‌های عینی این بحران در بازار آمریکا ثبت شده است که ابعاد خطر را به خوبی نشان می‌دهد:

چالش‌های حقوقی در عصر استقلال ماشین‌ها

با ظهور ابزارهای پیشرفته از سوی شرکت‌هایی نظیر گوگل، متا و اوپن‌ای‌آی، عامل‌های هوشمند اکنون قادرند برای روزها به‌طور مستقل روی اهداف مشخص کار کنند. این سطح از استقلال، مدیریت ریسک را دشوارتر از همیشه کرده است.

«سازمان‌ها در حال یادگیری در لحظه هستند. بسیاری از مدیران ارشد هنوز حتی به این موضوع که در صورت بروز خطا چه کسی باید پاسخگو باشد، فکر نکرده‌اند.»

در نهایت، مشخص است که سرعت رشد هوش مصنوعی بسیار فراتر از سرعت تدوین قوانین و پروتکل‌های مدیریتی در سازمان‌ها حرکت می‌کند و این شکاف، بزرگترین ریسک پنهان در عصر دیجیتال است.

نتیجه‌گیری: عدم توافق بر سر مسئولیت‌پذیری در برابر خطاهای هوشمند، نشان‌دهنده نیاز مبرم سازمان‌ها به تدوین چارچوب‌های حقوقی و فنی جدید برای مدیریت تعامل انسان و ماشین است.