Vem ansvarar när en AI-agent gör fel?
Gustav Brochmann
Ansvaret ligger alltid hos bolaget som använder agenten. Utse en ägare per agent, bestäm vad den får göra på egen hand och vad som kräver godkännande, och spara en logg över vad den gjort.
Agenten ersätter inte ansvaret
En AI-agent kan utföra uppgifter i era system, men det är fortfarande ni som svarar mot kunder och myndigheter för resultatet. Därför behöver ansvaret vara bestämt innan agenten börjar arbeta.
Fyra saker att avgöra
- Vem äger agenten? En namngiven person som följer upp och kan stänga av den.
- Vad får den göra själv? Läsa, föreslå, skriva eller radera. Börja smalt.
- Vad kräver godkännande? Ändringar som är svåra att ångra bör gå via en person. Se Hur ser en bra godkännandekö ut?.
- Vad loggas? Så att ni kan se vad som hände och varför. Se Felsök en AI-agent.
När något går fel
Stäng av eller begränsa agenten, rätta uppgifterna, och ta reda på orsaken. Skriv ner vad ni lärt er så att samma fel inte upprepas.
Se också
Roller och behörigheter för AI-agenter.
Nästa steg
Altu bygger agenter med godkännandekö och logg som standard, se Claude och MCP. Hör av er.