Bir multi-agent orkestrasyon planı rolleri kâğıt üzerinde ayırabiliyor. Koordinasyon maliyetini hak etmesi için her rolün ayrı bir işi, sınırlı yetkisi ve izlenebilir aktarımı olması, birleşik sonuçtan da adı belli bir kişinin sorumlu olması gerekiyor.

Bazı işler araştırmadan bir araç aksiyonuna, oradan değerlendirmeye geçer ve tek bir agent bütün yolu bitiremez. Bu işler için sınırlı bir sistem geliştiriyor, sonra eski durumu, rol çatışmasını, takılan işi, bütçe baskısını ve bir insana dönüş yolunu ekibiniz yayınlamadan önce test ediyoruz.

Elinizde yeniden çalıştırılabilen bir orkestrasyon planı, test edilmiş çatışma karşılıkları, bütçe sınırları ve birleşik sonucu durduracak ya da kabul edecek sorumlu kişi kalıyor.

Çoklu Agent Sistemi Geliştirme illüstrasyonu: bir yapay zeka ajanının araçlarını ve karar sınırlarını test eden ekip

Birlikte çalıştığımız 500'den fazla markadan birkaçı

Tüm referansları gör
  • Hyundai
  • İyzico
  • Otsimo
  • Desa
  • Teyit.org
  • Vispera

Roller arasındaki dikiş yerlerinden başlıyoruz. Geliştirme her aktarımda neyin taşındığını, paylaşılan durumu kimin sahiplendiğini ve sistemin bir anlaşmazlığı, takılan bir görevi veya biten bir bütçeyi nasıl kontrol altına aldığını göstermek zorunda.

  1. Her uzman için dar bir iş

    Workflow sorumlusuyla birlikte rolün girdisini, bağlamını, araçlarını, yetki tavanını, beklenen çıktısını, bütçesini, bitiş koşulunu ve işin başka bir agent'a veya insana geçtiği tam noktayı tanımlıyoruz.

    Yapay zeka desteği
    Model, gönderilen workflow kanıtından aday rol ayrımlarını ve bütçe varsayımlarını inceleme için grupluyor.
    İnsan onayı
    Her rol ayrı bir yetenek katıyor ve net bir bitiş koşulu taşıyor mu? Her rolün amacını, yetki tavanını, bütçesini ve bitiş koşulunu workflow sorumlusu belirliyor.
  2. Aktarım bir sözleşmeye dönüşüyor

    Yönlendirmeyi, paylaşılan durumu, bağımlılıkları, çatışma kurallarını ve eskalasyonu bağlıyoruz. Her aktarım neyin taşındığını, hangi rolün sağladığını, kimin değiştirebileceğini ve birleşik sonucu kimin sahiplendiğini adlandırıyor.

    Yapay zeka desteği
    Model paylaşılan durum bağımlılıklarını, eksik kaynak bilgisini ve kullanılabilir alıcısı olmayan aktarımları işaretliyor.
    İnsan onayı
    Her aktarım ve durum değişikliği onu sağlayan role kadar izlenebiliyor mu? Yönlendirme, durum sahipliği, çatışma kuralları ve eskalasyon workflow sorumlusunun onayını gerektiriyor.
  3. Çatışma testin içinde yer alıyor

    Normal ve olumsuz işi çelişen çıktılardan, eksik sonuçlardan, eski durumdan, yinelenen görevlerden, yarım aktarımlardan ve token, zaman, araç ve eşzamanlılık bütçeleri üzerindeki baskıdan geçiriyoruz.

    Yapay zeka desteği
    Model çatışma ve bütçe baskısı vakaları öneriyor. İncelenen test setine neyin gireceğini bir insan seçiyor.
    İnsan onayı
    Hangi kritik koordinasyon hataları yayından önce çözülmeli, durmalı veya bir insana ulaşmalı? Her kritik koordinasyon hatası karşılık kararı için workflow sorumlusuna gidiyor.
  4. Tek sorumlusu olan bir sistem el değiştiriyor

    Test edilen izleri izlemeye, bütçe tavanlarına, müdahale kurallarına, işletim sorumlularına ve bir inceleme tarihine bağlıyoruz. Teslim hangi istisnaların kaldığını ve sistemi kimin durdurabileceğini kaydediyor.

    Yapay zeka desteği
    İncelenen izler modele müdahale ve hata rehberi taslağı için kaynak malzeme veriyor.
    İnsan onayı
    Birleşik sonucu kabul edin, koşula bağlayın, durdurun veya reddedin ve müdahale yetkisini atayın. Tamamlanma sorumlusu yayın kararını, müdahale yetkisini ve inceleme sıklığını kabul ediyor.

Teslim orkestrasyonu incelenebilir bırakıyor. Operatörler kararlarını yeniden çalıştırabiliyor, her sınırın nerede durduğunu görebiliyor ve sistem durduğunda sorumlu kişiyi bulabiliyor.

  • Playbook

    Multi-agent orkestrasyon ve müdahale planı

    Uygulanan rol haritası, yönlendirme ve paylaşılan durum akışı, çatışma yolları, bütçe tavanları, müdahale kuralları ve testte çalıştırılan karşılıklar.

  • Risk kaydı

    Paylaşılan durum ve bütçe koşulları envanteri

    Her rolün bağlamı ve araçları hakkındaki varsayımlar, ayrıca paylaşılan durum bağımlılıkları, bütçe koşulları ve açık koordinasyon soruları.

  • Test kanıtı

    Koordinasyon hatası ve istisna raporu

    Normal koordinasyondan ve rol çatışmasından, eksik işten, eski durumdan, tekrardan, bütçe baskısından ve yarım aktarımlardan gözlenen sonuçlar.

  • Karar kaydı

    Birleşik sonuç kabulü ve müdahale listesi

    Tamamlanma ölçütleri, kalan istisnalar, işletim sorumluları, müdahale yetkisi ve kanıtın yeniden inceleneceği tarih.

Bize gerçekten farklı iş türlerini kesen ve tek bir agent'tan bütün yolu taşıması beklendiğinde tökezleyip duran bir iş getirin.

Şu durumlarda iyi bir seçim

  • Tek agent işin ortasında bağlam ya da araç sınırına ulaşıyor, bu yüzden kalan değerlendirme ve aksiyonlar ilerleyemiyor.
  • Aktarımlar paylaşılan durumu uzman roller arasında taşıyor, ama kaynak bilgisi ve çatışma kuralları eksik kaldığında birleşik sonuca güvenilemiyor.
  • Birleşik sonuç adı belli tamamlanma sorumlusuna ulaşıyor, ama koordinasyon bozulduğunda devralacağı nokta hâlâ açık görünmüyor.
  • Her uzman rolünde bağlam, araçlar, yetki tavanı, bütçe ve bitiş koşulu değişiyor, bu yüzden ayrı bir rol sözleşmesi gerekiyor.
  • Paylaşılan durum roller arasında ilerliyor, ama onu kimin sağladığı, kimin değiştirebildiği ve birleşik sonucu kimin üstlendiği izlenemiyor.
  • Token, zaman, araç ve eşzamanlılık bütçeleri belirleniyor, ama sistemin durma ve insan müdahalesi koşulları açık kalıyor.
  • Normal iş demo sırasında tamamlanıyor, ama olumsuz tekrarlar eski durumu, yinelenen görevleri, çatışmayı veya yarım aktarımları ortaya çıkarıyor.

Şu durumlarda başka bir çalışma daha doğru

  • Tek agent ya da daha basit bir workflow işi zaten tamamlıyor, bu yüzden multi-agent koordinasyonu ayrı bir yetenek katmadan aktarım sayısını artırıyor.
  • Rollerin kendi kapsamını büyütmesini veya sınırsız görev devretmesini istiyorsunuz, ama bu geliştirmede yetki tavanı ve tamamlanma kararı insanlarda kalıyor.
  • Sürekli production işletimi veya kararlaştırılan workflow dışındaki agent geliştirmelerini arıyorsunuz, çünkü teslim yalnızca test edilen orkestrasyonu kapsıyor.

Bunlardan biri sizin durumunuza daha yakınsa, buradan başlayın: Ana agent hizmetine göz atın

Zeo'nun kod yazıp teslim eden tarafı burası. Kıdemli mühendislerimiz agent, chatbot ve RAG sistemleri geliştiriyor, çevrelerindeki otomasyon ve veri işlerini üstleniyor, sistemler canlıya çıktıktan sonra da işletmeyi sürdürüyor. 2011'den beri 500'den fazla markayla çalıştık.

  • LangGraph

    Uzmanlar arası devri tanımlı bir sözleşmeye dönüştüren durum grafiği altyapısı

  • CrewAI

    Her uzmana sınırları net tanımlanmış görevler veren rol odaklı yapı

  • Agno

    Agent çalışma yükünü ve aksamaları tespit eden hafif mimari

  • Letta

    Uzun süren işlerde agent durumunu güncel tutan kalıcı hafıza

  • Modal

    Uzmanları bütçe baskısı altında bağımsız ölçekleyen hesaplama katmanı

  • Langfuse

    Çoklu agent adımlarını tek akışta gösteren uçtan uca izlenebilirlik

Faydalı bir ilk konuşma işle, işin el değiştirdiği noktalarla ve tamamlanmadan sorumlu kişiyle başlar. Oradan bir uzman sisteminin geliştirmeyi hak edip etmediğini görebiliriz.
Rol ayrımını inceleyin

Bir rol, eklediği koordinasyonu hak etmek zorunda. Diğer rollerin devralmaması gereken ayrı bir bağlam, araç seti veya değerlendirme kuralı arıyoruz, sonra önerilen ayrımdan temsili işi geçiriyoruz. Tek agent veya daha basit bir workflow yine daha iyi tasarım olabilir. Öyleyse basit tutuyoruz.