من وكيل واحد إلى كثير: أنماط النمو
تبدأ معظم المؤسسات بوكيل واحد يتم نشره وفقًا لسير العمل ذو الحجم الأكبر. وبما أن هذا الوكيل يثبت قيمته، فإن التقدم الطبيعي هو نشر وكلاء إضافيين لسير العمل المتجاور، وإدخال وكلاء متخصصين للمجالات المعقدة، وفي النهاية إنشاء أسطول متعدد الوكلاء يغطي مجموعة كاملة من المهام التشغيلية. يتبع هذا النمو نمطًا يمكن التنبؤ به: يستغرق نشر الوكيل الأول من أربعة إلى ستة أسابيع بينما يقوم الفريق ببناء البنية التحتية للتكامل والعمليات التشغيلية. يتم نشر الوكلاء الثاني والثالث في غضون أسبوعين إلى ثلاثة أسابيع لأنهما يستفيدان من عمليات التكامل الحالية وممارسات النشر المعمول بها. يتم نشر الوكلاء اللاحقين بشكل أسرع حيث تقوم المؤسسة ببناء مكتبة من تكوينات الأدوات القابلة لإعادة الاستخدام وسياسات الإدارة ومجموعات التقييم.
التنسيق بين الوكلاء المتعددين
مع نمو أسطول الوكلاء، يصبح التنسيق ضروريًا. يوفر ActiveMotion طبقة تنسيق تدير توجيه الطلب واكتشاف الوكيل والتواصل بين الوكلاء. يقوم موجه الطلب بتقييم الطلبات الواردة مقابل إعلانات قدرة الوكيل وتوجيه كل طلب إلى الوكيل أو مجموعة الوكيل الأكثر ملاءمة. عندما يتطلب الطلب التنسيق بين وكلاء متعددين، يتم تعيين وكيل مشرف ديناميكيًا لإدارة سير العمل. يتواصل الوكلاء من خلال بروتوكول منظم يتضمن استعلامات القدرة وتفويض المهام وتقارير الحالة وتجميع النتائج. تقوم طبقة التنسيق أيضًا بإدارة تخصيص الموارد، مما يضمن أن الطلبات ذات الأولوية العالية تتلقى موارد الحوسبة قبل مهام الخلفية ذات الأولوية المنخفضة.
إدارة الموارد وتخطيط القدرات
يستهلك كل مثيل وكيل موارد الحوسبة للاستدلال والذاكرة لتخزين السياق وسعة واجهة برمجة التطبيقات الخارجية لاستدعاءات الأداة واستدلال LLM. يتتبع نظام إدارة الموارد الاستهلاك عبر جميع الأبعاد ويوفر توقعات تخطيط القدرات بناءً على الاتجاهات التاريخية. يتم دعم التوسع التلقائي لعمليات النشر المستضافة على السحابة: يتم توفير مثيلات الوكيل الإضافية عندما تنمو قوائم انتظار الطلبات ويتم إلغاء توفيرها عندما ينخفض الطلب. بالنسبة لعمليات النشر المحلية، توفر تقارير تخطيط السعة إشعارًا مسبقًا عند الحاجة إلى بنية تحتية إضافية للحفاظ على أهداف اتفاقية مستوى الخدمة. يمكن تخصيص ميزانيات الرموز المميزة لكل وكيل، أو لكل سير عمل، أو لكل وحدة تنظيمية، مع تنبيهات عندما يقترب الاستهلاك من الحدود.
إدارة الأسطول
تتطلب إدارة أسطول من الوكلاء المستقلين إدارة مركزية للسياسات، وممارسات نشر متسقة، ومراقبة موحدة. توفر لوحة معلومات حوكمة الأسطول عرضًا واحدًا لجميع الوكلاء الذين تم نشرهم وإصداراتهم الحالية وحالتهم الصحية وسياسات الحوكمة ومقاييس الأداء. يمكن تطبيق تغييرات السياسة على مستوى الأسطول أو على نطاق مجموعات وكلاء محددة. تتبع عمليات نشر الوكلاء مسارًا قياسيًا يتضمن الاختبار الآلي، والفحص الأمني، والتحقق من صحة السياسة، والطرح المرحلي. تدعم إدارة الإصدارات عمليات نشر Canary حيث يتعامل إصدار الوكيل الجديد مع نسبة صغيرة من حركة المرور بينما يتعامل الإصدار السابق مع الباقي، مما يتيح التكرار الآمن دون المخاطرة بتعطيل الأسطول بأكمله.