مصرف‌کنندگان هنوز اجازهٔ خرید بی‌نظارت به عامل‌های هوش مصنوعی نمی‌دهند

وقتی صحبت از واگذاری کارها به عامل‌های هوش مصنوعی می‌شود، بیشتر مصرف‌کنندگان هنوز ترمز دستی را می‌کشند. بر اساس گزارش «روندهای هویت مشتری» اوکتا در سال ۲۰۲۶، خرید خودکار، رزرو خدمات و دسترسی به اطلاعات شخصی سه حوزه‌ای هستند که کاربران دربارهٔ آن‌ها بیشترین تردید را دارند. 🛡️

نکتهٔ کلیدی گزارش این است که اعتماد، یک پاسخ بله یا خیر نیست؛ بیشتر شبیه یک قرارداد قابل‌مذاکره است. کاربر می‌خواهد بداند عامل هوشمند چه کاری می‌تواند انجام دهد، اگر اشتباه کرد چه اتفاقی می‌افتد و آیا می‌تواند آن را تأیید یا لغو کند.

🤖 مرزهای واگذاری تصمیم

تنها ۳۷ درصد از مصرف‌کنندگان آمریکای شمالی می‌گویند آماده‌اند اجازه دهند هوش مصنوعی تصمیم نهایی را بگیرد و از طرف آن‌ها اقدام کند، یا کارهای روزمره و تصمیم‌های کم‌اهمیت را به دست بگیرد. اما همین عدد با یک شرط ساده به‌سرعت تغییر می‌کند: اگر کاربر بتواند پیش از اجرا تأیید کند یا بعد از اجرا آن را بازگرداند، تمایل برای بیشتر کاربردها از ۵۰ درصد فراتر می‌رود.

اعتماد کاربر به هوش مصنوعی، بیشتر از آنکه به هوشمندی آن وابسته باشد، به میزان کنترل او بستگی دارد.

در سطح جهانی، ۵۲ درصد مصرف‌کنندگان می‌گویند توانایی‌های هوش مصنوعی در اپلیکیشن‌ها و وب‌سایت‌ها با سرعتی بیش از حد پیش می‌رود. این احساس بی‌قراری با سرعت توسعهٔ محصولات ارتباط مستقیم دارد؛ کاربر فرصت نمی‌کند بفهمد ابزار جدید چه اختیاراتی گرفته است.

👥 سن و آشنایی با فناوری، تفاوت‌ساز است

• 🧑‍💻 مصرف‌کنندگان جوان‌تر و پیش‌گامان فناوری، واگذاری تصمیم را راحت‌تر می‌پذیرند.
• 🧓 مصرف‌کنندگان مسن‌تر و کسانی که دیرتر فناوری را پذیرفته‌اند، محتاط‌ترند.
• ✈️ کسی که از دستیار می‌خواهد بلیت پرواز پیدا کند، ممکن است بخواهد خرید بلیت، استفاده از اطلاعات پرداخت ذخیره‌شده و تغییرات رزرو را خودش تأیید کند.

شرکت‌ها باید این ترجیحات را در طراحی لحاظ کنند: توضیح شفاف اختیارات و ارائهٔ راهی برای پس‌گرفتن دسترسی، به مشتری کمک می‌کند خودش تعیین کند چه مقدار مسئولیت را واگذار کند.

🔐 هویت، گلوگاهی که تحویل محصول را کند می‌کند

بیش از سه‌چهارم توسعه‌دهندگان و مدیران ارشد آمریکای شمالی می‌گویند شرکتشان عامل‌های هوش مصنوعی یا سامانه‌های خودگردان را در محیط عملیاتی دارد یا در حال ساخت آن‌هاست. با این حال فقط ۲۲٫۱ درصد از سازمان‌هایی که این مسیر را دنبال می‌کنند، با سرعت مورد نظر خود پیش می‌روند.

پاسخ‌دهندگان دو دلیل اصلی تأخیر را نام می‌برند: کمبود ظرفیت مهندسی و زیرساخت هویتی‌ای که توان پشتیبانی از دسترسی عامل‌ها را ندارد. مدیریت هویت و دسترسی مشتری، کار ورود، دسترسی به حساب و مجوزها را بر عهده دارد و تیم‌های مهندسی در این منطقه تقریباً ۱۴ درصد از زمان خود را صرف ساختن، نگهداری یا اجرای این سامانه‌ها می‌کنند؛ کاری که بسیاری آن را هزینه‌ای تکرارشونده و زمان‌خوار توصیف می‌کنند.

«وقتی زیرساخت هویت کم می‌آورد، تیم‌ها بیشتر به راه‌حل‌های موقت و دست‌ساز روی می‌آورند؛ راه‌حل‌هایی که می‌توانند داده‌های حساس مشتری را در معرض خطر بگذارند.» — گرت دیویس، مدیر محصول در Auth0

🗝️ دسترسی باید با وظیفه هم‌اندازه باشد

عاملی که وضعیت ارسال یک سفارش را بررسی می‌کند، فقط به اطلاعات حمل‌ونقل نیاز دارد. تغییر آدرس یا اجازه دادن به خرید دیگر، مجوز بیشتری می‌طلبد. دادن هویت مستقل به عامل‌ها به شرکت‌ها کمک می‌کند این مرزها را واقعاً اجرا کنند:

1. ⏳ اعتبارنامه‌ها می‌توانند پس از پایان یک وظیفه یا یک بازهٔ زمانی مشخص منقضی شوند.
2. 🎯 دسترسی به همان اطلاعات و اقدام‌هایی محدود شود که برای کار لازم است.
3. 🧾 ثبت فعالیت عامل‌ها به تیم‌ها امکان می‌دهد خطاها و دسترسی‌های غیرمجاز را بررسی کنند.

اگر تراکنشی اشتباه پیش برود، شرکت باید بتواند مشخص کند کدام عامل اقدام کرده، چه مجوزی داشته و چه اتفاقی افتاده است. حساب‌های مشترک و اعتبارنامه‌های جاسازی‌شده در نرم‌افزار این مسیر را پیچیده می‌کنند و در صورت نفوذ به یک عامل، می‌توانند سرویس‌های متصل را هم افشا کنند.

🏗️ پلتفرم‌ها، بار نگهداری را کم می‌کنند

در یافته‌های جهانی، سازمان‌هایی که تنها بر یک پلتفرم بیرونی هویت مشتری تکیه می‌کنند، بیشتر احتمال دارد قابلیت‌های هوش مصنوعی را در محیط عملیاتی داشته باشند و استقرارها را طبق برنامه پیش ببرند. آن‌ها استفادهٔ بیشتری از روش‌های احراز هویتی گزارش کرده‌اند که هم ورود به حساب را ساده‌تر می‌کند و هم تعامل مشتری و درآمد را محافظت می‌کند.

البته این یافته‌ها فقط یک همبستگی را نشان می‌دهند و ثابت نمی‌کنند که انتخاب پلتفرم علت این تفاوت بوده است. با این حال، تمرکز دادن بررسی‌های هویت و مجوزها می‌تواند کارهایی را که توسعه‌دهندگان otherwise باید در هر اپلیکیشن تکرار کنند کاهش دهد و وقت بیشتری برای ساخت قابلیت‌های مشتری باقی بگذارد؛ قابلیت‌هایی که باید درخواست تأیید را قابل‌فهم کنند، احراز هویت اضافی را توضیح دهند و اجازه دهند مشتری وقتی چیزی خراب شد، کنترل را پس بگیرد. ✨

منبع: Help Net Security — Most consumers aren’t ready to let AI agents shop unsupervised