پنج محور تحلیل عاملیت: مرز میان توانایی نشسته در پوشش بیرونی و توانایی درونی‌شده در وزن‌ها.
پنج محور تحلیل عاملیت: مرز میان توانایی نشسته در پوشش بیرونی و توانایی درونی‌شده در وزن‌ها.

agentic یا agentive؟ مرزی که می‌گوید هوش در وزن‌هاست یا در پوشش ارکستراسیون

تمایز میان دو نوع عاملیت یک پرسش بازاریابی نیست؛ آزمونی مهندسی است که نشان می‌دهد توانایی سیستم در وزن‌های مدل نشسته یا در کدی که دور آن پیچیده‌ایم. همین آزمون است که آن‌چه را می‌سنجیم و آن‌چه را صادقانه می‌توانیم تحویل دهیم دگرگون می‌کند.

عامل (agent) چیست؟ پرسش ساده‌ای به نظر می‌رسد، اما بیشتر سیستم‌هایی که امروز «عامل» نامیده می‌شوند، از یک تعریف دقیق سربلند بیرون نمی‌آیند. مقاله‌ی Critique of Agent Model دقیقاً از همین‌جا آغاز می‌کند: اتوماسیون کجا تمام می‌شود و عاملیت کجا آغاز؟ پاسخ این پرسش هم برای ساختن سیستم‌های توانمند مهم است، هم برای آن‌که بدانیم اصلاً از چه چیزی باید بترسیم.

پیش از هر چیز دو اصطلاح را روشن کنیم. agentic یعنی توانایی سیستم در گردش‌کارهای مهندسی‌شده مستقر شده است؛ یعنی شما هوش را با دست و در قالب کد و prompt و قواعد شرطی چیده‌اید. agentive یعنی توانایی‌ها به‌صورت درون‌زاد از خود مدل می‌جوشند. مقاله این تمایز را دقیق‌تر صورت‌بندی می‌کند: داربست بیرونی (external scaffolding) در برابر ابتکار درونی (internal initiative). همین یک خط، مرز میان سیستمی را که برای وظایف از پیش تعیین‌شده طراحی شده و سیستمی که در جهان باز با خودمختاری واقعی کار می‌کند مشخص می‌کند.

این تمایز یک آزمون عملی دارد. مخزن کد خود را باز کنید و بشمارید: هوش کجا نشسته است؟ در promptها، در دستورهای if، در ماژول برنامه‌ریز (planner)، یا در فهرست ابزارها (tool registry)؟ یا در وزن‌های مدل؟ حالا کار ساده‌ای انجام دهید: تمام لایه‌ی ارکستراسیون را حذف کنید. آیا چیزی هدف‌محور باقی می‌ماند؟ برای تقریباً هر سیستمی که امروز در محیط عملیاتی تحویل داده‌ایم، پاسخ صادقانه «نه» است. یعنی سیستم شما agentic است. این هیچ ایرادی ندارد؛ فقط اسمش عاملیت نیست.

پنج محور به‌عنوان چک‌لیست

مقاله معماری‌های عامل را روی پنج محور تحلیل می‌کند: هدف، هویت، تصمیم‌گیری، خودتنظیمی و یادگیری. این پنج محور را به‌سادگی می‌توان به یک چک‌لیست مهندسی بدل کرد.

هدف. در سیستم‌های امروزی، هدف رشته‌ای متنی است که شما تزریقش می‌کنید. سیستم خودش آن را شکل نمی‌دهد. هویت. هویت یعنی پایداری رفتار در طول نشست‌های مختلف. یک API بدون حالت (stateless) اساساً هویتی ندارد؛ آن‌چه شبیه هویت به نظر می‌رسد، در پایگاه‌داده‌ی شما جای دارد، نه در مدل. تصمیم‌گیری. مقاله چیزی فراتر می‌خواهد: استدلال شبیه‌سازانه (simulative reasoning) که بر یک مدل جهان (world model) جداگانه و آموزش‌دیده استوار باشد. آن‌چه ما تحویل می‌دهیم، داربستی از جستجوی درختی و خودنقادی است. خودتنظیمی. نرده‌های محافظ ما بیرونی‌اند: یک دسته‌بند تعدیل محتوا (moderation classifier)، سقفی برای تعداد تکرار، یک انسان در حلقه. اما مقاله خودتنظیمی آموخته‌شده و درونی‌شده می‌خواهد. یادگیری. ما مدل را دوباره آموزش می‌دهیم. سیستم از تجربه‌ی خودش چیزی نمی‌آموزد.

اینجا معامله‌ای روشن در کار است. هر محوری را که از پوشش بیرونی به درون وزن‌ها منتقل کنید، خودمختاری می‌خرید و کنترل را می‌فروشید.

چرا پوشش بیرونی برنده می‌شود و چه چیزی هزینه می‌دهد

داربست بیرونی یک مزیت بزرگ دارد: قابل ممیزی است. هدف رشته‌ای خواندنی است. شمارنده‌ها لاگ می‌شوند. وقتی تصمیمی گرفته می‌شود، می‌توانید دقیقاً بگویید کدام قاعده فراخوانی گرفت. در حوزه‌های قانونی و مقررات‌محور، این موضوع اختیاری نیست. وقتی سیستم را در محیط عملیاتی پیاده می‌کنیم، باید بتوانیم نشان دهیم کدام قانون اعمال شد.

خود مقاله هم بر همین تأکید می‌کند: خودمختاری بیشتر باید زیر نظارت انسانی بماند، و قابلیت ممیزی و قابلیت کنترل و ایمنی دغدغه‌های اصلی طراحی‌اند. درونی‌سازی هزینه‌ای پنهان دارد و آن مشاهده‌پذیری است. از یک جعبه‌ی شیشه‌ای به یک جعبه‌ی سیاه حرکت می‌کنید. هر چه توانایی بیشتری را به وزن‌ها بسپارید، کمتر می‌بینید چه می‌گذرد.

معماری پیشنهادی مقاله، یعنی Goal-Identity-Configurator یا همان GIC، دقیقاً همین جابه‌جایی را صورت می‌دهد: تجزیه‌ی سلسله‌مراتبی هدف، تکامل هویت، استدلال شبیه‌سازانه روی مدل جهان، خودتنظیمی آموخته‌شده، و یادگیری خودراهبر از تجربه‌ی واقعی و شبیه‌سازی‌شده. نکته‌ی تأمل‌برانگیز اینجاست: هر یک از این اجزا چیزی است که ما امروز از بیرون جعلش می‌کنیم. و هیچ‌کدام را نمی‌توانید با یک دستور pip install نصب کنید.

برای سیستم بعدی چه تغییری می‌کند

سود واقعی این چارچوب، واژگانی است که جلوی ادعای گزاف را می‌گیرد. به جای بحث‌های بی‌پایان، تنها یک پرسش باقی می‌ماند: وزن‌ها یا پوشش؟ و اگر کمی عقب بایستیم، می‌بینیم این پنج محور بازتاب همان چیزهایی‌اند که فرگشت ناچار شد درونی‌سازی کند. یک قوس بازتابی (reflex arc) ساده agentic است؛ پاسخش از پیش سیم‌کشی شده. اما جانوری علف‌چر که در محیط ناشناخته دنبال غذا می‌گردد، agentive است؛ هدف و هویت و تصمیم را از درون خودش می‌سازد.

جمع‌بندی عملی روشن است. وقتی جهان مسئله محدود است و ممیزی اهمیت دارد که این تقریباً تمام سیستم‌های محیط عملیاتی را در بر می‌گیرد agentic بسازید. سراغ اجزای agentive فقط جایی بروید که درونی‌سازی چیزی را برایتان می‌خرد که جعلش نمی‌توانید، و از همان ابتدا برای از دست رفتن مشاهده‌پذیری بودجه کنار بگذارید.

منابع

مقالات مرتبط