آنتروپیک هشدار داد: هوش مصنوعی خودساز (RSI) بسیار نزدیک است

در حالی که نگاه بسیاری از سرمایه‌گذاران و رسانه‌ها به اعداد و ارقام مالی جدید شرکت آنتروپیک دوخته شده بود، این آزمایشگاه هوش مصنوعی خبری منتشر کرد که بیش از هر ترازنامه‌ای توجه‌ها را جلب کرد. آنتروپیک در پروندهٔ اصلاح‌شدهٔ S-1A خود به‌طور ضمنی هشدار داده که در آستانهٔ خلق مدلی با قابلیت «بهبود بازگشتی خودکار» (Recursive Self-Improvement یا RSI) قرار دارد. 🌐

🧠 بهبود بازگشتی خودکار (RSI) دقیقاً چیست؟

به زبان ساده، RSI لحظه‌ای است که هوش مصنوعی آن‌قدر در آموزش دادن به خودش مهارت پیدا می‌کند که سرعت پیشرفت توانمندی‌هایش به‌شکل چشمگیری افزایش می‌یابد. در این سناریو، سیستم دیگر برای بهتر شدن نیازی به مداخلهٔ مستقیم و مداوم انسان ندارد و می‌تواند نسل‌های بعدی خود را بسازد.

این مفهوم در دنیای فناوری دو چهرهٔ کاملاً متفاوت دارد:

• ⚠️ از نگاه بدبینان: RSI نقطهٔ بی‌بازگشت است؛ جایی که هوش مصنوعی به قدرتی دست می‌یابد که از کنترل انسان خارج می‌شود و ممکن است در مسیر رسیدن به اهدافش، نسبت به پیامدهای مخرب بی‌تفاوت باشد.
• 💡 از نگاه خوش‌بینان: این همان وعدهٔ نهایی فناوری است؛ ابزاری با بهره‌وری غیرقابل‌تصور که می‌تواند کشفیات علمی و حل مسائل پیچیده را متحول کند.

⚡ هشدار صریح آنتروپیک در پروندهٔ مالی

آنتروپیک ظاهراً RSI را هم یک فرصت و هم یک تهدید می‌داند. این شرکت در پروندهٔ خود تأکید کرده که از هوش مصنوعی در بخش تحقیق و توسعه استفاده می‌کند، اما بلافاصله افزوده است:

استفاده از هوش مصنوعی برای ساخت هوش مصنوعیِ توانمندتر، می‌تواند خطرات ایمنی قابل‌توجهی ایجاد کند؛ به‌ویژه اگر سرعت پیشرفت را به‌شدت بالا ببرد. این موضوع یکی از محورهای «سیاست مقیاس‌پذیری مسئولانه» ماست تا ریسک‌ها را در مسیر رسیدن به RSI پایش و کاهش دهیم.

تا اوایل امسال، بسیاری از کارشناسان اصطلاح RSI را صرفاً یک واژهٔ پرطمطراق یا هدفی دور از دسترس می‌دانستند. اما آنتروپیک در بخش «عوامل ریسک» پروندهٔ خود دو اعتراف مهم داشته است:

1. 🔍 این شرکت پیش‌تر از هوش مصنوعی برای توسعهٔ مدل‌های جدیدی استفاده کرده که جهش توانمندی آن‌ها را در زمان وقوع تشخیص نداده است.
2. 📈 برآوردهای داخلی نشان می‌دهد که آنتروپیک ممکن است به‌زودی به تعریف درونی خود از RSI، یعنی «پیشرفت شتاب‌گرفتهٔ ناشی از هوش مصنوعی»، دست یابد.

🛡️ آیا انسان از چرخه حذف می‌شود؟

با وجود این هشدارها، آنتروپیک تصریح کرده که هنوز هیچ‌یک از مدل‌های فعلی‌اش از آستانهٔ RSI عبور نکرده‌اند و داده‌های پایه همچنان در حال ارزیابی هستند. این شرکت همچنین قول داده که در آیندهٔ قابل‌پیش‌بینی، انسان‌ها را در فرایند تحقیق و توسعه حفظ کند.

در بخشی از این سند آمده است که آنتروپیک انتظار ندارد بتواند از مدل «کلاد» (Claude) برای طراحی و ساخت کاملاً خودمختار نسل‌های بعدی مدل‌های پیشرفته، بدون نظارت معنادار انسانی استفاده کند؛ حتی اگر چنین چیزی از نظر فنی ممکن شود. به همین دلیل، این شرکت در حال بررسی به‌روزرسانی سیاست‌های ایمنی خود است تا کنترل توسعهٔ مدل‌های مرزی در دست انسان باقی بماند.

🤖 واقعیت یا بازاریابی؟

برخی منتقدان یادآوری می‌کنند که پرونده‌هایی مانند S-1 هم جنبهٔ افشای اطلاعات دارند و هم ابزار بازاریابی محسوب می‌شوند؛ بنابراین ادعای نزدیکی به هوش مصنوعی خودساز می‌تواند برای جذب سرمایه‌گذاران مطرح شده باشد. با این حال، نمی‌توان انکار کرد که توانمندی‌های کلاد، به‌ویژه در زمینه‌های برنامه‌نویسی، ریاضیات و امنیت سایبری، در سال جاری جهش‌های خیره‌کننده‌ای داشته است.

اگر یکی از پیشگامان این صنعت معتقد است احتمال تحقق RSI نزدیک است، شاید زمان آن رسیده که جامعهٔ جهانی این هشدار را جدی بگیرد و چارچوب‌های نظارتی و حاکمیتی متناسب با آن را تدوین کند. ✨

منبع: TechCrunch – Anthropic warns that it’s very close to RSI capability, aka self-building AI