Vad händer egentligen när en AI-agent använder ett verktyg?

Vad som händer när ni ber en agent göra något

När en medarbetare skriver ”lista mina öppna uppföljningar och flytta de som är äldre än en vecka” händer inte allt på en gång. Det sker i flera varv, och det hjälper att förstå dem för att kunna bedöma vad som kan gå fel och var ni ska sätta spärrar. Här är förloppet utan jargong.

Förloppet i sex steg

1. Uppgiften kommer in. Användaren skriver på vanlig svenska i en klient, till exempel Claude.
2. Modellen ser vilka verktyg som finns. Den får en lista med namn, beskrivningar och vilka indata varje verktyg tar. Det är allt den vet om era system.
3. Modellen väljer ett verktyg och fyller i indata. Till exempel ”lista uppföljningar” med filtret ”öppna”.
4. Verktyget körs hos er. Er server tar emot anropet, kontrollerar vem som frågar och vad den får göra, utför arbetet och returnerar ett svar.
5. Modellen läser svaret och bestämmer nästa steg. Kanske behövs ett verktyg till, till exempel ”uppdatera uppföljning”. Då upprepas steg 3 och 4.
6. Modellen sammanfattar för användaren. Den berättar vad som gjorts, och vad som väntar på godkännande.

Det kallas att modellen gör verktygsanrop. En agent är i grunden en modell som får göra anrop i en slinga tills uppgiften är klar. Se Vad är en AI-agent?.

Var olika saker händer

• Modellen resonerar och väljer. Den ändrar ingenting själv.
• Verktyget gör själva jobbet. Det är kod som ni har skrivit eller godkänt.
• Reglerna sitter i er server, i verktygen: vem får göra vad, vad köas och vad loggas. De ska inte sitta i modellen.

Det är därför skyddet för agenter handlar om verktygen och inte om modellens ”vilja”. Se Hur låter man en AI-agent uppdatera ett CRM utan att den förstör något?.

Vad det betyder för er

Beskrivningarna avgör valet

Modellen väljer verktyg utifrån beskrivningarna. Otydliga eller likadana beskrivningar ger fel val. Se Hur ser ett bra MCP-verktyg ut?.

Det blir flera anrop per uppgift

En enkel fråga kan kräva flera anrop, och varje anrop kostar tid och användning hos modellleverantören. En uppgift som kräver tjugo anrop är långsammare och dyrare än en som kräver tre. Se Vad ska en kalkyl för ett AI-projekt innehålla?.

Samma anrop kan komma två gånger

Modellen kan försöka igen om svaret verkar oklart. Verktyg som skapar saker bör därför tåla det. Se Varför får vi dubbletter när en integration försöker igen?.

Svaret är också indata

Det verktyget returnerar läses av modellen. Innehåller det text som skrivits av någon utanför bolaget, till exempel ett mejl, kan den texten försöka styra modellen. Se Vad är prompt injection?.

Behörigheten följer personen

Anropet ska köras som den person som frågade, med dennes rättigheter. Se OAuth och AI-agenter och Roller och behörigheter för AI-agenter.

Ett enkelt sätt att tänka

Ni kan se agenten som en ny kollega som aldrig varit i era system. Verktygen är de knappar ni visar, beskrivningarna är hur ni förklarar dem och reglerna är vad kollegan får göra utan att fråga. Ju tydligare det är, desto bättre arbete.

Frågor att ställa

• Vilka verktyg ser modellen, och vad står i deras beskrivningar?
• Var kontrolleras behörigheten, och mot vem?
• Vad händer om samma anrop körs två gånger?
• Hur många anrop kräver en typisk uppgift?

Mer om hur det byggs finns i MCP för svenska bolag. Vill ni se hur det fungerar i praktiken? Hör av er.