۸۷٪ مدیران: کنترل هوش مصنوعی در شرکت‌ها باید بهتر کار کند
نظرسنجی تازه از ۳٬۶۰۰ تصمیم‌گیرندهٔ کسب‌وکار نشان می‌دهد بیش از نیمی از سیستم‌های هوش مصنوعی در شرکت‌های بزرگ بدون بازبینی روتین یا تأیید انسانی کار می‌کنند؛ و ۸۷٪ می‌گویند به روش بهتری برای تأیید، پایش و کنترل نیاز دارند.
در دل شرکت‌های بزرگ، هوش مصنوعی دیگر برای هر تصمیمی منتظر اجازه نمی‌ماند. یک نظرسنجی تازه از ۳٬۶۰۰ تصمیم‌گیرندهٔ کسب‌وکار نشان می‌دهد در بسیاری از سازمان‌ها سیستم‌ها در چارچوب قواعد تعریف‌شده و بدون بازبینی روتین عمل می‌کنند، یا حتی یک فرایند کامل را بدون تأیید انسانی به پایان می‌رسانند 🤖
🔍 آنچه پشت عدد ۸۷ درصد پنهان است
پیمایش را مؤسسهٔ Vanson Bourne در آمریکای شمالی، اروپا و خاورمیانه و آفریقا، و آسیا-اقیانوسیه و ژاپن انجام داده است. همهٔ پاسخ‌دهندگان از شرکت‌هایی با درآمد سالانهٔ بیش از ۵۰۰ میلیون دلار آمده‌اند و هفت بخش اقتصادی، از خدمات مالی و مراقبت سلامت تا تولید و خرده‌فروشی، در آن حضور دارند.
۸۷٪ این افراد می‌گویند سازمانشان به شیوهٔ بهتری برای تأیید، پایش و کنترل نحوهٔ استفاده از هوش مصنوعی نیاز دارد؛ همان اندازه‌ای که می‌گویند طرح‌های هوش مصنوعی برای حفظ رقابت‌پذیری به مجوزدهی سریع‌تری احتیاج دارند.
📊 پنج دسته، یک الگوی مشترک
در پنج دستهٔ هوش مصنوعی، بیش از نیمی از مدیران گزارش می‌دهند که سیستم‌های تیمشان می‌توانند در چارچوب قواعد مشخص و بدون بازبینی روتین اقدام کنند. تفکیک این دسته‌ها تصویر روشن‌تری می‌دهد:
- 💬 هوش مصنوعی مکالمه‌ای و عوامل مجازی: ۵۹٪، بالاترین سطح استقلال
- 📈 تحلیل پیش‌بینانه و یادگیری ماشین: ۵۶٪
- ⚙️ اتوماسیون فرایندهای رباتیک: ۵۶٪
- 🗣️ پردازش زبان طبیعی: ۵۶٪
- ✍️ ابزارهای مولد مستقل، یعنی نویسندهٔ متن و کد: ۵۴٪، پایین‌ترین سطح
این ارقام را خود مدیران دربارهٔ تیمشان گزارش کرده‌اند؛ یعنی تصویری از آنچه باور دارند در حال اجراست.
⚡ فشار برای سرعت، هزینه‌ای که می‌رسد
۹۱٪ از همان گروهی که خواستار تأیید سریع‌ترند، معتقدند شیوهٔ تأیید، پایش و کنترل هوش مصنوعی باید اثربخش‌تر شود. به بیان دیگر، کسانی که برای کوتاه‌کردن مسیر تأیید فشار می‌آورند، به خودِ سازوکار تأیید اعتماد ندارند. در میان شرکت‌هایی که هوش مصنوعی را با شتاب مستقر یا مقیاس‌پذیر کرده‌اند، این هزینه‌ها خودشان را نشان داده‌اند:
- 🛡️ ۴۶٪ مشکلات امنیتی، حریم خصوصی، مقرراتی یا انطباق را گزارش کرده‌اند
- 👁️ ۲۵٪ از دست‌دادن دید، کنترل یا مجوزهای عامل‌ها گفته‌اند
- ✅ ۴۵٪ باور دارند افرادشان از خروجی هوش مصنوعی بدون بررسی دقت و تناسب آن استفاده می‌کنند
- 🚫 ۳۲٪ می‌گویند هوش مصنوعی جاهایی به کار می‌رود که تیم انطباقشان تأیید نمی‌کند
- 🧰 ۳۱٪ از ابزارهای تأییدنشده در محیط کار خبر داده‌اند
- ❓ ۳۷٪ می‌گویند هوش مصنوعی روشن نکرده که مالک یک تصمیم چه کسی است
عدد دوم از همه سنگین‌تر است: عاملی که تیم نمی‌تواند مجوزهایش را حساب‌وکتاب کند، دسترسی مدیریت‌نشده به هر چیزی است که آن عامل لمس می‌کند.
🎧 روایتی از درون سازمان
«می‌دانم هوش مصنوعی همان امنیت سیستم‌های اصلی ما را ندارد. اما راه حل چیست؟ بستن دسترسی جواب نمی‌دهد. من اطلاعات کاری و شرکتی‌مان را در اپلیکیشن هوش مصنوعی خودم بارگذاری می‌کنم و پیامدهای امنیتی‌اش را می‌فهم.» — مدیر میان‌ردهٔ یک شرکت بزرگ مراقبت سلامت در کانادا
🧭 شکاف حاکمیت و ریسک
در حوزهٔ امنیت هوش مصنوعی، ۳۰٪ تقویت را لازم می‌دانند و ۴۰٪ وضعیت را متوسط توصیف می‌کنند. در حوزهٔ حاکمیت و ریسک اما ۹۴٪ می‌گویند به توسعهٔ بیشتری نیاز است و ۳۶٪ نگرانی‌های امنیتی، حاکمیتی یا مقرراتی را از بزرگ‌ترین موانع تبدیل‌شدن شرکتشان به رهبر هوش مصنوعی می‌دانند.
نکتهٔ قابل توجه این است که امنیت، حریم خصوصی، حاکمیت و انطباق مقرراتی با ۴۷٪ پرتکرارترین حوزهٔ سرمایه‌گذاری سنگین است؛ یعنی هزینه‌کرد آغاز شده، حتی جایی که کنترل‌ها هنوز به نتیجه نرسیده‌اند. اندازهٔ شرکت هم تعیین‌کننده است: ۹۰٪ شرکت‌های با درآمد ۵۰۰ میلیون تا ۵ میلیارد دلار رویکرد بهتری برای تأیید، پایش و کنترل می‌خواهند، در برابر ۷۰٪ شرکت‌های بالای ۵ میلیارد دلار. ۴۵٪ هم حاکمیت قوی، کنترل دسترسی و استفادهٔ مسئولانه را در زمرهٔ بالاترین اولویت‌ها می‌دانند؛ بسیار جلوتر از ۲۶٪ که استقرار سریع را در اولویت اول می‌بینند.
«شکافی خطرناک میان اعتماد به هوش مصنوعی و واقعیت آن در حال باز شدن است. اعتماد مشکل نیست، بلندپروازی هم مشکل نیست. مشکل این است که بیشتر سازمان‌ها از هوش مصنوعی برای بهبود مدل کسب‌وکاری استفاده می‌کنند که هوش مصنوعی باید آن را جایگزین کند.» — کریس هاوارث، مدیرعامل Avanade
🧠 جمع‌بندی
تصویر کلی روشن است: هوش مصنوعی در شرکت‌های بزرگ از مرحلهٔ آزمایش گذشته و وارد تصمیم‌گیری روزمره شده، اما سازوکار پاسخ‌گویی عقب مانده است. اعتماد به سیستم‌ها بالا رفته، دید نسبت به آنچه واقعاً در حال اجراست پایین آمده و شکاف میان این دو، جایی است که ریسک‌های امنیتی و مقرراتی رشد می‌کنند. تا زمانی که تأیید، پایش و مالکیت تصمیم‌ها به همان سرعتی که استقرار پیش می‌رود جدی گرفته نشود، هر گزارش خوش‌بینانه از استقلال هوش مصنوعی را باید با احتیاط خواند ✨
منبع: Help Net Security