In het veranderende landschap voor meerdere agenten zijn agenten het meest effectief wanneer ze specifieke, fijnmazige taken krijgen toegewezen. Dit vereist een divers netwerk van herbruikbare, gespecialiseerde agenten. De kernuitdaging is echter het coördineren van deze talrijke, heterogene agenten, die afkomstig kunnen zijn uit verschillende bronnen, om effectief samen te werken aan gemeenschappelijke bedrijfsdoelstellingen. Zonder een uniform platform leidt deze complexiteit tot wildgroei van agenten en een kritiek gebrek aan governance.

Deze AI-agenten vermenigvuldigen zich snel, zijn ingebed in SaaS-platforms, zijn intern ontwikkeld of zijn verpakt in populaire LLM's. Deze vermenigvuldiging leidt tot losgekoppelde organisatorische silo's. Hoewel een agent taken optimaliseert binnen zijn eigen toepassingen, ontbreekt het vaak aan een holistische ondernemingsweergave. Dit gebrek aan zichtbaarheid verhindert agenten om acties in verschillende domeinen en systemen effectief te organiseren, beveiligen en beheren.

MuleSoft Agent Fabric richt zich op de uitdaging om "agent sprawl" te beheren en de naadloze doeltreffende combinatie van verschillende agenten mogelijk te maken, ongeacht hun herkomst. Het stelt best practices voor architectuur vast en biedt de nodige tooling om het Agentennetwerk te maken. Een Agentennetwerk verwijst naar een gecoördineerde verzameling AI-agenten, tools en resources die samenwerken om complexe bedrijfsprocessen met meerdere stappen uit te voeren.

MuleSoft Agent Fabric is een gecombineerd platform dat elke onderneming een eenvoudige manier biedt om agenten te ontdekken, te organiseren, te besturen en te observeren, ongeacht waar ze zijn samengesteld.

Ontdekken: Agentenregister biedt een gecentraliseerde catalogus van alle AI-agenten en tools in de hele organisatie. Het maakt ontdekking en hergebruik van intern samengestelde, in SaaS ingebedde en externe activa mogelijk. Door één bron van waarheid te bieden voor alle agentische activa, elimineert Agentregister redundantie en zorgt het ervoor dat ontwikkelaars bestaande mogelijkheden op grote schaal kunnen benutten.

Orkestreren: MuleSoft Agent Broker is een intelligente routeringsoplossing die taken dynamisch koppelt aan de best passende agent of tool. Aangedreven door een LLM van uw keuze, coördineert het tussen agenten en tools om ervoor te zorgen dat complexe verzoeken en bedrijfsprocessen met hoge betrouwbaarheid en traceerbare uitkomsten worden uitgevoerd.

Besturen: MuleSoft Agent Governance maakt gebruik van Flex Gateway en de ondersteuning ervan voor het Model Context Protocol (MCP) en Agent2Agent (A2A) protocol. Met Flex Gateway kunnen ondernemingen beveiligings- en nalevingsbeleid afdwingen voor elke interactie tussen agenten en tools.

Let op: Agent Visualizer biedt real-time observatie door middel van een dynamische, interactieve kaart van agentinteracties. Het traceert beslissingen en bewaakt de systeemtoestand, waardoor continue optimalisering en betrouwbaar overzicht over het gehele ecosysteem van agenten mogelijk wordt.

Agent Fabric pleit voor een specificatie-eerst-benadering (YAML) waarbij gebruikers agentnetwerken definiëren via een metagegevensdescriptor (het "YAML-bestand"). Dit YAML-bestand is agnostisch voor MuleSoft en ontkoppelt de definitie van het agentnetwerk van de uitvoering ervan.

Elk agentnetwerk (YAML) definieert een specifiek functioneel gebied met de bijbehorende agentische activa, inclusief hun operationele regels en beleidsvormen. De YAML wordt gebruikt voor het inschakelen van de vier Agent Fabric-pijlers:

1. Ontdekken: Vul het Agentenregister in met bestaande Agentische activa zoals:
   1. Agenten geïmplementeerd op verschillende platforms (MuleSoft of andere)
   2. MCP-servers
   3. LLM-leveranciers
2. Orkestreren: Agentmakelaars maken voor doeltreffende combinatie
3. Regeren: Beleid toepassen op de activa voor beveiliging en governance
4. Observeren: Definieer en hergebruik verbindingen met de gedefinieerde activa. Ook zijn observatie- en bewakingsmogelijkheden beschikbaar voor agentnetwerken.

De gebruikersjourney begint in Anypoint Codesamensteller. Gebruik de nieuwe opdracht die beschikbaar is via het opdrachtpalet genaamd "MuleSoft: Een Agentennetwerkproject maken" om een nieuw project te maken. Deze opdracht maakt een nieuw project (het 'Agent Network') met daarin twee bestanden.

• agent-network.yaml: Dit bestand definieert de configuratie voor het multi-agentsysteem, waarbij doeltreffende combinatie van AI-agenten met externe tools (via MCP) en agenten (via het A2A-protocol) wordt ingeschakeld. Deze notatie biedt een declaratieve manier om agentmogelijkheden, afhankelijkheden en integraties te definiëren.

• exchange.json: Alle agentnetwerkprojecten hebben ook een bestand exchange.json. Dit bestand bevat activummetagegevens die beschikbaar zijn in Anypoint Exchange nadat de netwerkactiva van uw agent zijn gepubliceerd.

De ontwikkeling van uw Agentennetwerk verloopt volgens een standaard Software Development Lifecycle (SDLC) die bestaat uit vier hoofdfasen:

1. Omgeving instellen: Set-up run-time omgeving en gateways
2. Project maken en ontwerpen: Projectspecificatie Agentennetwerk maken
3. Opbouw en publicatie: Activa samenstellen en publiceren naar het Agentenregister
4. Implementatie: Het agentennetwerk implementeren of promoveren naar een bepaalde omgeving

Nadat u het project hebt samengesteld en de vereiste MuleSoft-toepassing en -activa hebt gegenereerd, maakt u deze beschikbaar in Exchange. Activeer binnen Anypoint Codesamensteller het proces voor samenstellen en publiceren met behulp van de "MuleSoft: Opdracht Agent Broker-project publiceren naar Exchange" beschikbaar via opdrachtenpalet.

De publicatiestap transformeert elk agentisch activum in het YAML-bestand naar een A2A-, MCP- of LLM-specificatie en publiceert dit naar Exchange.

Daarnaast publiceert het systeem de YAML naar Exchange door middel van een nieuw activumtype agent-netwerk. U kunt dit activum weergeven in de UI van Agentregister en ernaar zoeken via de Exchange-API.

Raadpleeg een agentennetwerkbestand dat een agentennetwerk voor een onderneming definieert. Dit agentennetwerk activeert het netwerk voor orderlevering binnen Salesforce, Stripe, een andere orderleveringsagent en voorraad-MCP-server met één beleidsgestuurde ervaring.

• Ontdekken
  Publiceer bestaande agenten en tools (zoals Salesforce, Stripe, Orderuitvoering en Voorraad) als Exchange-activa voor hergebruik. Ook de orderleveringsdefinitie (YAML), die versiegewijs en deelbaar is, waardoor snelle aanpassing voor rollen, regio's of dochterondernemingen mogelijk is zonder stromen opnieuw samen te stellen.
• Orkestreren
  Een agentmakelaar gebruikt een LLM om het orderuitvoeringsproces te ontbinden in een reeks taken, zoals het verifiëren van klantgegevens, het toewijzen van voorraad en het berekenen van verzendkosten. Deze werkstroom wordt vervolgens uitgevoerd door MCP- en A2A-agenten aan te roepen, zodat goedkeuringen van mensen in de lus worden aangevraagd wanneer dat nodig is.
• Govern
  Anypoint Flex Gateway dwingt authenticatie, toegang met de minste rechten en vangrails af. Beleidsvormen voor API-manager zorgen voor consistente controles voor alle gesprekken en gegevensuitwisselingen.
• Observeren
  Bewaking en tracering bieden end-to-end zicht op voortgang, mislukkingen en latentie. Visualisatie toont welke agenten interactie hadden en waar bottlenecks zijn opgetreden.
• Trust en naleving
  Gecentraliseerde inloggegevens, controletrajecten en polisovername ondersteunen beveiligings-, privacy- en wettelijke vereisten (verwerking van persoonsgegevens, goedkeuringen en scheiding van taken).

Het diagram toont de verschillende knooppunten van het Agentennetwerk (metagegevens) die zijn gedefinieerd in de YAML.

• Doel: Exchange is de catalogus voor agenten, tools en andere activa. Het primaire doel is om "agent sprawl" op te lossen door één catalogus te bieden voor het ontdekken, beheren en levenscyclusbeheer van heterogene agenten. Ontwikkelaars kunnen agenten vinden en hergebruiken, platformeigenaars kunnen zichtbaarheid behouden en orchestrators kunnen mogelijkheden ontdekken.
• Heterogeen door ontwerp: Anypoint Exchange ondersteunt nu drie nieuwe activa: agenten, MCP's en LLM's. Exchange is ontworpen als een universele catalogus voor het registreren en beheren van elk type agent. Het ondersteunt A2A-compatibele agenten, MCP-servers en LLM-leveranciers uit elke bron, inclusief externe, Agentforce en aangepaste MuleSoft-agenten.
• Kernmetagegevens: Elk geregistreerd activum heeft een basisset onveranderbare metagegevens, waaronder Unieke naam en versie, Eigendom en Uitgever. Levenscyclusstatussen (ontwikkeling, fasering, productie, vervallen) worden ook bijgehouden.
• Discovery:
  • Ontwerptijd: Ontwikkelaars kunnen geregistreerde agenten ontdekken via de bestaande Exchange-UI of via zoekopdrachten met natuurlijke taal met Vibes binnen de Anypoint Codesamensteller.
• Tags en classificatie: Activa kunnen worden geclassificeerd op type (agent, MCP, LLM, makelaar) en domein (bijvoorbeeld HR, weer) door middel van een basaal systeem voor het gebruik van tags met sleutelwaarden, waardoor dynamisch koppelen, zoeken en selectiebeleid wordt ingeschakeld.
• Catalog: De opslagplaats ondersteunt zowel privé- als interne catalogusmodellen voor agenten voor delen binnen een organisatie.
• Visualisering: Biedt een visuele tool voor de ondersteuning van netwerkweergaven, die verbindingen toont voor afzonderlijke activa of de gehele kaart van knooppunten en koppelingen binnen de organisatie, met filtermogelijkheden.

Makelaars binnen een agentennetwerk kunnen verwijzen naar geregistreerde agenten, MCP-servers en LLM-leveranciers die zijn opgeslagen in Anypoint Exchange. Maar als ze nog niet zijn geregistreerd, kunnen ze worden gedeclareerd in de metagegevens van Agent Network (YAML) en worden ze automatisch geregistreerd. In het voorbeeld worden meerdere agenten, MCP-servers en LLM-leveranciers gedeclareerd en geregistreerd in Anypoint Exchange.

Een agentmakelaar is een intelligente routeringsagent die taakdelegatie coördineert tussen gespecialiseerde agenten in een onderneming. Het wordt gedefinieerd door de agenten en MCP-servers die het gebruikt om taken uit te voeren.

Een makelaar is een gespecialiseerde agent die wordt weergegeven in Anypoint Exchange na het publiceren van een activum van het agentennetwerk en hergebruik door andere makelaars.

Makelaars worden gedefinieerd in de sectie makelaars van de YAML. De gedefinieerde makelaars worden transparant “gecompileerd” in een applicatie, zonder enige Knowledge over Mule. Deze gegenereerde toepassing wordt geïmplementeerd naar CloudHub 2.0 (CH2) en maakt gebruik van de robuuste CH2-infrastructuur.

Dit betekent dat de Agentmakelaars profiteren van de gevestigde prestatiekenmerken van CloudHub 2.0, inclusief de mogelijkheden voor vastleggen en meetgegevens. Operationele aspecten, zoals "Kosten om te werken" en "Bewaking/Waarschuwing/Tooling", zijn hetzelfde als alle andere werkbelasting.

Voor scenario's die menselijke interventie vereisen (Human-in-the-Loop), wordt de status van elke interactie gehandhaafd met behulp van MuleSoft Object Store, een gedistribueerde oplossing die is ontworpen voor effectief statusbeheer in zeer gelijktijdige omgevingen.

Een brokerdefinitie bestaat uit twee secties: kaart en specificatie.

De kaartsectie volgt de Agent-naar-Agent-specificatie (A2A). Het beschrijft onder andere het contract, de vaardigheden en de mogelijkheden van de makelaar. De kaart-URL wordt automatisch ingevuld met de waarde ${ingressgw.url} / broker-naam. Bij implementatie wordt de plaatshouder ${ingressgw.url} automatisch vervangen door de url van de Anypoint Flex Gateway die de verzoeken om toegang van agenten vooraan plaatst.

De specificatiesectie configureert de "broncode" van de makelaar. Hier kan de ontwikkelaar de te gebruiken LLM opgeven, instructies, beschikbare tools, foutafhandeling en, belangrijker nog, de verschillende agenten en MCP-tools die beschikbaar zijn voor deze makelaar.

LLM-leveranciers

Deze sectie maakt deel uit van de specificatie in elke makelaar. Dit is een verwijzing naar een van de LLM's die zijn gedefinieerd in de sectie services. We kunnen kiezen of we één LLM willen delen over alle makelaars, of dat we indien nodig verschillende makelaars de LLM willen laten gebruiken die beter bij hun taken past.

Makelaars kunnen verwijzen naar LLM-leveranciers. We kunnen modellen van deze aanbieders kiezen, afhankelijk van onze behoeften.

Instructies

Deze sectie is optioneel en u kunt deze gebruiken om instructies op te geven die specifiek zijn voor deze makelaar. Deze instructies richten zich vaak op specifieke bedrijfsgerichte zaken. Stel u bijvoorbeeld een klantenserviceagent voor die het beheer coördineert voor door de klant gemelde incidenten:

U hoeft geen expliciete instructies te geven, zoals 'splits de aanwijzing in taken' of 'selecteer de beste tool', aangezien de makelaar dat zelf afhandelt. Deze instructies zijn alleen nodig bij het beschrijven van specifieke bedrijfsprocessen.

Tools-configuratie

Tools bieden agenten externe mogelijkheden. Wanneer een makelaar toegang nodig heeft tot een extern systeem (dat niet een andere agent is, bijvoorbeeld een bestaande API of een SaaS-service), neemt deze contact op met een MCP-server (Model Context Protocol):

Naar de MCP-server wordt verwezen door de naam van het beursactivum. De connectiviteitsdetails ervan worden opgegeven in de sectie services.

Standaard heeft de makelaar toegang tot alle tools die beschikbaar zijn op de MCP-server. Volgens onze observatie kunnen de modernste LLM's slechts ongeveer 20 - 25 tools per context verwerken voordat ze onnauwkeurigheden beginnen te genereren (of context verliezen). Daarom is het over het algemeen een goede gewoonte om de beschikbare tools te beperken tot het strikt noodzakelijke minimum. U kunt dat filteren toepassen door middel van de toegestane lijsten.

Agentkoppelingen

Deze sectie is het belangrijkste onderdeel van de gehele definitie. De sectie Koppelingen maakt communicatie tussen agenten en doeltreffende combinaties mogelijk. Dit betekent dat deze makelaar vertrouwt op de agenten die hier zijn gekoppeld om de juiste acties uit te voeren om het doel van de gebruiker te voltooien.

In feite definieert deze sectie een agent-netwerk voor samenwerking.

Agent Governance is een essentiële pijler voor het Agent-weefsel en is essentieel voor het opbouwen van een vertrouwd agentennetwerk en het waarborgen van beveiliging en naleving.

Voor governance zijn er in totaal twee Flex Gateways (1 ingang en 1 uitgang) vereist binnen uw privéruimte.

Governance stelt de nodige structuren, controles en bewijzen vast om de gehele levenscyclus van agentische ontwikkeling (ADLC) veilig op te schalen. Met name governance implementeert belangrijke processen zoals agentcertificering, catalogisering, levenscyclusbeslissingen en het afdwingen van run-time beleid.

• Catalogiseren:
  • Uitwisseling: Ondersteunt het vastleggen van agentdoeleinden, eigenaars, omgevingen en gegevens- en classificatiegrenzen. Het registreert ook mogelijkheden, tools, resources, aanwijzingen en externe afhankelijkheden met versies.
• Versie en levenscyclus:
  • Documenteer en beheer semantische versiebeheer van agenten, tools en activa tijdens de volledige levenscyclus van Agentontwikkeling.
  • Versiebeheer helpt bij het beheren van tijdlijnen voor het afschrijven van agenten en ondersteunt dubbele uitvoering (waar mogelijk) om soepele migraties te garanderen.
• Beleidshandhaving:
  • Agentische AI-architectuur breidt het aanvalsoppervlak uit (gespreksinterface, aanwijzingen en nieuwe protocollen zoals MCP). Elk compromis met componenten kan leiden tot trapsgewijze effecten op meerdere systemen die componenten leveren zoals protocol, aanwijzing, API of tool.
  • Het beveiligen van agentische AI-implementaties voor de onderneming vereist een gespecialiseerde aanpak, aangezien deze autonome en onvoorspelbare omgevingen inherent het aanvalsoppervlak verbreden via agent-naar-agent-interacties. Hoewel bestaande beveiligingstools voor statische systemen essentieel zijn, zijn ze op zichzelf niet meer voldoende. Ondernemingen moeten proactief vier specifieke beveiligingsoplossingen plannen en implementeren, waarbij elke oplossing een kritiek bedrijfsrisico aanpakt dat is gekoppeld aan agentische AI.
  • Flex-gateway: Al het A2A- en MCP-verkeer wordt gerouteerd via Flex Gateway, zelfs als het doelsysteem niet is beveiligd, om ervoor te zorgen dat beleidsvormen op elk eindpunt worden toegepast. Deze routering is cruciaal voor het beveiligen van communicatie met agenten en het integreren met autorisatieservers.
  • Polisbundels: Gebruikers kunnen bundels vooraf gedefinieerde beleidsvormen definiëren en toepassen op werkstromen vóór uitvoering, waardoor een consistente set beveiligings- en operationele beleidsvormen wordt afgedwongen.
  • Typen polissen: Het platform ondersteunt diverse inkomende en uitgaande beleidsvormen, waaronder:
    • A2A-beleidsvormen: Agentkaart, PII-detector, Aanwijzingsontwerper, Schemavalidatie.
    • MCP-beleidsvormen: Op kenmerken gebaseerde toegangscontrole, schemavalidatie, MCP-ondersteuning.
    • LLM/AI-beleid: AI Prompt Decorator, AI Prompt Guard (filteren van schadelijke inhoud), AI Prompt Template (toepassen van vooraf gedefinieerde sjablonen), AI Basic Token Rate Limiting.
    • Telemetriebeleid: A2A- en MCP-telemetrie voor het uitbreiden van Open Telemetry-oplossingen voor het verzamelen en exporteren van logboekgegevens.
• Vastleggen: Dankzij automatische tracering zijn logboeken binnen het Agentennetwerk beschikbaar om elke interactie van agenten bij te houden, gedrag uit te leggen en Trust op te bouwen.

Het voorbeeld toont een beleid voor het vastleggen van berichten, dat wordt geconfigureerd met behulp van de metagegevens van het agentennetwerk. Orderfullfillment-makelaar verwijst naar een bestaande agent met de naam Salesforce-agent en het beleid voor het berichtenverkeer wordt geconfigureerd met behulp van de metagegevens. Agent Fabric configureert automatisch alle beleidsvormen die worden vermeld onder de sectie "specificaties" voor Flex Gateway. U hebt geen extra stappen nodig.

Gezien de niet-deterministische aard en complexiteit van LLM-agenten en implementaties voor meerdere agenten, zijn observatie en bewaking van cruciaal belang.

• Basislogboeken en -traceringen: Redenering en tracering van de uitvoering van tools worden geleverd via logboeken. Logboeken en traceringen van werkstroomuitvoeringen kunnen na uitvoering worden weergegeven in Runtime Manager.
• Meetgegevens: In de eerste fase publiceert het platform a2a_total_calls en mcp_total_calls als tellers met labels (zoals pad, status, methode, tool) om het totale aantal, geslaagde en mislukte aanroepen te bepalen. Deze meetgegevens worden gepubliceerd vanuit beleidscode met behulp van de native stats-interface van Envoy (Flex Gateway), bij voorkeur via bestaand beleid zoals mcp_support_policy en a2a_agent_card_policy.
• Verbeterde observatie (toekomst): Plannen omvatten het gebruik van Open telemetrie voor gedistribueerde tracering in toekomstige versies. Meer geavanceerde observatie omvat:
  • Gedetailleerde verzoektracering: End-to-end zichtbaarheid verkrijgen in verzoeken, inclusief aanwijzingen, plannerprocessen, aangeroepen acties en interacties met subagenten.
  • Gezondheidsbewaking van agenten: Uptime van agenten, reactielatentie, doorvoer, foutpercentages en onderliggende resource-inzet (CPU, geheugen, netwerk, GPU) bewaken.
  • Coördinatiebewaking voor meerdere agenten: Succes- en mislukkingspercentages van agent-naar-agent interacties vastleggen, circulaire aanroeppatronen (lussen) detecteren en meetgegevens per agent bijhouden, zoals taakvoltooiing en telling van aanroepen.
  • Kosten bijhouden: Tokengebruik en gekoppelde kosten bijhouden voor elk LLM-gesprek, idealiter per agent, met dashboards en waarschuwingen.
  • Cognitieve tracering: Vastleggen en weergeven van een gedetailleerd spoor van de sessie van een agent, inclusief interne denkprocessen en alle toolaanroepen, die als een onveranderbaar controletraject fungeren.
  • Afspelen van agentsessie: Een UI waarmee de cognitieve tracering van een agent stap voor stap visueel opnieuw kan worden afgespeeld voor diepgaande foutopsporing.
  • DAG Visualisatie: Het bieden van een DAG-visualisatie (Directed Acyclic Graph) van de uitvoering van de agentwerkstroom voor complexe interacties met meerdere agenten.

Agent Visualizer wordt gebruikt om de onderdelen van uw agentennetwerk te identificeren en te zien hoe ze samenwerken.

• Onderscheid knooppunttypen (agenten en MCP-servers).
• Bekijk de randen om gedeclareerde en run-time interacties te zien.
• Lagen gebruiken om weergaven te richten op specifieke omgevingen
• Open detailkaarten om metagegevens en meetgegevens te inspecteren op knooppunten en logboeken en traceringen te openen
• Controleer governance-indicatoren zoals Flex Gateway-bescherming en toegepast beleid.

Hier vindt u details over de componenten van Agent Visualizer.

Met deze vier pijlers bij elkaar breidt MuleSoft Agent Fabric de beveiliging en controle uit naar elke agent met ingebouwde governance. Agenten kunnen overal actie ondernemen door middel van nieuwe protocollen zoals A2A (Agent to Agent) en MCP (Model Context Protocol) om de bedrijfsprocessen samen te stellen en uit te breiden. We verbinden alles - toepassingen, gegevens en systemen - om agenten in staat te stellen en te besturen terwijl ze handelen binnen het gehele bedrijf. Intelligente tooling ondersteunt het maken en uitbreiden van bedrijfsprocessen of API's door AI native te gebruiken of door AI-tools van derden in te brengen.

Het gebruik van alle vier de pijlers samen is niet verplicht, maar wordt wel aanbevolen. U kunt naar behoefte onafhankelijk pijlers kiezen. Zo kunt u Agent Fabric gebruiken voor register en governance, zonder de doeltreffende combinatielaag te gebruiken. Op soortgelijke wijze kunt u de makelaar gebruiken om agenten te organiseren die via een ander platform worden beheerd.

Het diagram toont de manier waarop alle vier componenten met elkaar werken:

1. Publiceer de agentische activa naar Anypoint Exchange voor ontdekking en hergebruik nadat u het agentennetwerk (makelaars, agenten, MCP-servers) hebt gedefinieerd in het agentennetwerk YAML in Anypoint Codesamensteller.
2. Implementeer de agentische activa naar CloudHub 2.0 (beheerd in Runtime Manager).
3. Dwing beleid af voor inkomend verkeer naar het netwerk met een Flex Gateway voor inkomend verkeer, die zich vóór makelaars- en API-eindpunten bevindt.
4. Dwing beleidsvormen af, beheer verbindingen en zend telemetriegegevens uit met een uitgaande Flex Gateway. Deze gateway bevindt zich op uitgaande paden van makelaars en agenten naar externe services.
5. Verzamel logboeken, meetgegevens en traces van Flex Gateway en run-times in Anypoint Monitoring.

Het is verleidelijk om elke gespecialiseerde agent onmiddellijk toegankelijk te maken in een platte, onbeperkte architectuur, met één orchestrator die elke taak kan uitvoeren door toegang te hebben tot elk beschikbaar AI-activum. Deze aanpak blijkt echter al snel schadelijk voor de algehele efficiëntie en betrouwbaarheid van het systeem. Net als het principe dat wordt toegepast op een overmaat aan afzonderlijke tools, introduceren veel agentopties aanzienlijke ruis en complexiteit voor de centrale makelaar (of orchestrator). Deze toegenomen complexiteit leidt direct tot een merkbare daling in zowel de nauwkeurigheid van de besluitvorming van de makelaar (het selecteren van de juiste agent voor de taak) als het determinisme van de reactie van het systeem (voorspelbare, consistente uitkomsten voor soortgelijke query's). De makelaar lijdt effectief aan optieverlamming, wat leidt tot een tragere en minder betrouwbare routering.

In plaats van een platte structuur pleiten we sterk voor een hiërarchische aanpak op meerdere niveaus voor het structureren van het Agentennetwerk. Dit organisatieprincipe biedt talrijke kritieke voordelen. Ten eerste is het inherent gunstig voor traceerbaarheid en beheer. Een hiërarchische structuur weerspiegelt bestaande best practices van de organisatie, waardoor het gemakkelijker wordt om de stroom van een verzoek te controleren, problemen op te lossen door de laag van mislukking te bepalen en de implementatie en intrekking van specifieke agenten of subnetwerken te beheren.

Ten tweede, en cruciaal in de context van grote taalmodellen (LLM's) die deze agenten aansturen, helpt een hiërarchie dramatisch om contextgrootten onder controle te houden. Door het segmenteren van het agentlandschap houdt de makelaar op een bepaalde laag alleen rekening met de beperkte set agenten of submakelaars er direct onder. Deze structuur voorkomt dat de primaire orchestrator de beschrijving, mogelijkheden en historische context van elke agent in het werkgeheugen laadt, waardoor het risico wordt vermeden dat de contextvensterlimieten van de LLM snel worden overschreden en er buitensporige kosten en latentie ontstaan.

Het agentennetwerk kan op meerdere manieren worden geïmplementeerd. Twee daarvan zijn:

1. Conway's Law - Intuïtieve manier om het toe te wijzen aan de hiërarchische structuur in de echte wereld.
2. Domeingestuurd ontwerp - Meer gericht op bedrijfsdomeinen

Optie 1: Toewijzen met hiërarchische structuur in de praktijk

In een hiërarchische organisatie stroomt de communicatie verticaal - van managers naar ondergeschikten - en worden beslissingen vaak gecentraliseerd. Volgens de wet van Conway:

• De systemen of softwarearchitecturen die door dergelijke organisaties worden gebouwd, zijn meestal ook gelaagd en hiërarchisch.
• Elk team heeft de neiging subsystemen te ontwerpen die hun eigen grenzen en autoriteiten weerspiegelen.
• De interfaces tussen systemen weerspiegelen de communicatiekanalen tussen de afdelingen.

Het Agentennetwerk kan ook intuïtief worden toegewezen aan de reële hiërarchische structuur van een grote onderneming volgens de wet van Conway.

• Het conceptuele model: Net zoals een bedrijf verschillende divisies, afdelingen en managementlagen heeft (bijvoorbeeld C-suite, onderdirecteuren, directeuren, managers), kan een agentennetwerk dat binnen een specifiek domein actief is, worden gemodelleerd als een parallel organisatiediagram.
• De knooppunten en bladeren: In deze hiërarchie:
  • De bladeren van de boomstructuur zijn de gespecialiseerde agenten of MCP's. Dit zijn de functionele eenheden die het feitelijke werk uitvoeren (bijvoorbeeld een "Database Query Agent", een "Customer Authentication Agent" of een "Sentiment Analysis Agent"). Ze vertegenwoordigen de afzonderlijke bijdragers of werkeenheden van de organisatie.
  • Alle andere knooppunten in de hiërarchie, inclusief de root- en tussenlagen, zijn makelaarsagenten (of suborkesten). Deze agenten voeren niet de laatste taak uit, maar zijn verantwoordelijk voor routering, delegatie, aggregatie en conflictoplossing binnen hun specifieke domein of laag. Een makelaar op hoog niveau delegeert een taak aan een "Verkoopdomeinmakelaar", die op zijn beurt delegeert aan een "Opportunitybeheermakelaar", die de taak uitvoert via een "Opportunitystatusupdateagent" (het blad).

Deze structuur zorgt ervoor dat complexiteit lokaal wordt beheerd, context wordt beheerst en het systeem voorspelbaar en betrouwbaar wordt geschaald. U kunt nieuwe gespecialiseerde agenten introduceren in specifieke, geschikte vertakkingen van de organisatiestructuur.

Kijk eens naar de analogie van een organisatiediagram voor digitale arbeid. Elk YAML-bestand vertegenwoordigt elk van de interne organisaties (Succes van medewerkers, Beveiliging, Financiën, enzovoort). Binnen elke organisatie (agent-netwerk) kunt u een hiërarchische structuur hebben waardoor actoren samenwerken, taken worden opgesplitst in taken en toegewezen. In het vorige diagram verloopt de communicatie van boven naar beneden. En de bladeren worden niet beperkt voor consumptie alleen door een set makelaarsagenten.

Het modelleren van agentnetwerken op basis van het menselijk organisatiediagram brengt het risico met zich mee dat regelmatig opnieuw moet worden ontworpen, met name in bedrijven die regelmatig opnieuw worden georganiseerd. Een alternatieve benadering is om agenten te ordenen op functioneel domein. Deze groepering vereist mogelijk het overschrijden van traditionele menselijke organisatorische grenzen. Zo omvat onboarding van nieuwe medewerkers IT-bewerkingen voor hardware en gebruikersprofielen, terwijl een verkoopbeweging zowel bewerkingen als marketing vereist.

Nikhil Aggarwal is hoofdarchitect bij Salesforce, waar hij architectuur leidt voor MuleSoft en Salesforce Automation Clouds. Nikhil heeft meer dan 18 jaar ervaring met het leveren van grootschalige producten en heeft een passie voor schaalbare architectuur, intuïtieve ontwikkelaarservaringen en het samenstellen van goed presterende teams. Voorafgaand aan Salesforce leidde hij meerdere initiatieven in Microsoft Power Platform, Dataverse en Office 365 van concept tot introductie. Zijn werk vormt nog steeds de manier waarop moderne ondernemingen systemen verbinden, werkstromen automatiseren en bedrijfswaarde ontsluiten in het AI-eerste tijdperk.

Mariano Gonzalez trad in 2011 toe tot MuleSoft en specialiseerde zich in missiekritieke gedistribueerde systemen, integratie, PaaS en cloud computing. Vandaag richt Mariano zich op het bevorderen van AI-platforms, met bijzondere aandacht voor governance, doeltreffende combinatie, ontdekking en observatie. Met meer dan 20 jaar ervaring in de IT-industrie is Mariano werkzaam geweest als softwarearchitect en teamleider, die BPM-, ERP- en integratieoplossingen ontwerpt en levert in de sectoren landbouw, energie, overheid, IT, telecom en content management.

Pedro Colunga is een Software Engineer Architect bij Salesforce, gespecialiseerd in API- en metagegevensarchitectuur. Met een focus op de volledige levenscyclus van het platform speelt Pedro een belangrijke rol bij het vormgeven van de manier waarop organisaties omgaan met systeemintelligence, semantiek en metagegevensgestuurde oplossingen. Pedro's 20-jarige carrière, die ervaring als ondernemer omvat, omvat bedrijven zoals Fuego, BEA Systems, Oracle en TekGenesis, een bedrijf dat later is overgenomen door MuleSoft, waar hij consistent platformgebaseerde architectuur heeft ontwikkeld en diepgaande expertise heeft geleverd op gebieden zoals BPM, RAD en Integrations.

Gulal Kumar is Software Engineering Architect bij Salesforce, met een focus op data- en integratiearchitectuur. Met meer dan 20 jaar ervaring in integratie en API's, moderniseringsprogramma's, beveiliging en AIML-initiatieven brengt hij een schat aan expertise met zich mee. Gulal zet zich in voor het bevorderen van bedrijfstransformatie-initiatieven, het verbeteren van beveiliging en veerkracht, het bevorderen van architectuurexcellentie en het leiden van AIML-initiatieven binnen verschillende domeinen.