Agenten gjorde fel – hur tar man reda på varför? Sex steg

Gustav Brochmann

När en AI-agent har gjort fel: börja med loggen, avgör om felet låg i instruktionen, verktyget, datan eller reglerna, återskapa det, rätta i det lager där det uppstod, reparera skadan och lägg till en kontroll så att det fångas nästa gång. Att bara skriva om instruktionen är oftast fel åtgärd, eftersom en regel som bara står i texten kan tolkas annorlunda nästa gång.

Börja med loggen, inte med modellen

När en agent har gjort något fel är första impulsen att skriva om instruktionen. Det är oftast fel ordning. Ta först reda på vad som faktiskt hände. Ett fel kan ligga i fyra lager, och varje lager rättas på sitt sätt.

Sex steg

1. Säkra spåren

Hämta ur loggen vem som bad om uppgiften, vilka verktyg agenten anropade, med vilka indata och vad som blev före- och efterläge. Utan en sådan logg går det inte att svara på något av det som följer, och den ska finnas från dag ett. Se Hur låter man en AI-agent uppdatera ett CRM utan att den förstör något?.

2. Avgör i vilket lager felet låg

  • Instruktionen. Uppgiften var otydlig, eller agenten tolkade den på ett sätt som var rimligt men inte avsett.
  • Verktyget. Beskrivningen var vag, så agenten valde fel verktyg eller fyllde i fel värde. Se Hur ser ett bra MCP-verktyg ut?.
  • Datan. Källan innehöll fel, eller var motsägelsefull, och agenten förde bara vidare det den såg.
  • Behörigheten eller reglerna. Agenten tilläts göra något som systemet borde ha stoppat.

Fråga: skulle en noggrann människa som fått samma instruktion, samma verktyg och samma data ha gjort likadant? Är svaret ja ligger felet inte hos agenten.

3. Återskapa felet

Kör uppgiften igen med samma indata, helst i en kopia eller testmiljö. Går det fel varje gång, eller bara ibland? Ett fel som bara kommer ibland pekar oftare på otydliga verktyg än på ett bestämt fel i logiken.

4. Rätta i rätt lager

Rätta där felet uppstod, inte där det syntes. Är verktygsbeskrivningen vag, skriv om den. Är datan fel, rätta källan. Gick agenten förbi en regel, flytta regeln in i systemet. En regel som bara står i instruktionen kan modellen alltid tolka annorlunda nästa gång.

5. Reparera skadan

Titta i godkännandekön och loggen efter andra poster som berörts av samma fel. Avslå förslag som ligger kvar, och återställ det som gick igenom med hjälp av före-värdena i loggen. Därför är det värt att logga även det som godkändes.

6. Lägg till en kontroll

Lägg det som gick fel till i de exempel ni testar agenten på. Då fångas samma fel nästa gång någon ändrar något. Läs gärna hur ni skrivit kraven i Hur skriver man en kravspecifikation för en AI-agent? och komplettera med det ni lärt er.

Vanliga mönster

  • Agenten skrev över ett värde. Reglerna släppte igenom en ändring av befintlig data. Det ska gå till en godkännandekö.
  • Agenten valde fel verktyg. Två verktyg liknar varandra. Slå ihop eller förtydliga.
  • Agenten hittade på en uppgift. Den saknade data och fyllde i luckan. Kräv källhänvisning, och låt den svara att den inte vet.
  • Agenten gjorde det den fick höra i ett mejl. Läs Vad är prompt injection?.

Behöver ni hjälp med att lägga logg och kontroller på en agent som redan körs? Hör av er.