Vart tar datan vägen när en AI-agent arbetar? Rita dataflödet i fyra steg

Gustav Brochmann

Det enklaste sättet att bedöma en AI-agent ur ett dataskyddsperspektiv är att rita dataflödet i fyra steg: var datan ligger, vad som lämnar systemet i verktygens svar, var modellen körs och på vilka villkor, och vad som sparas i logg, konversation och index. Det är inte juridisk rådgivning, men det är underlaget som jurist eller dataskyddsombud behöver.

Frågan bakom frågan

När någon undrar om AI-agenter är förenliga med GDPR handlar det i praktiken om en enklare sak: vart tar datan vägen? Kan ni rita upp det kan ni också bedöma riskerna, och ni kan svara när en kund, en revisor eller en medarbetare frågar. Den här texten är en metod för att rita dataflödet, inte juridisk rådgivning. Har ni frågor om rättslig grund, avtal eller personuppgiftsbiträden, ta dem med er jurist eller ert dataskyddsombud.

Fyra steg

1. Var ligger datan från början?

Lista de system agenten ska nå: CRM, ekonomi, kalender, mejl, dokument. Markera vilka som innehåller personuppgifter, och vilka som innehåller sådant som är känsligt av andra skäl, till exempel priser eller avtalsvillkor.

2. Vad lämnar systemet när agenten arbetar?

Varje gång agenten anropar ett verktyg får den ett svar, och det svaret går till modellen som ska formulera något. Det är den punkten ni ska titta på. Frågan är vilken data som finns i verktygens svar, och om agenten kan be om mer än den behöver. Ett verktyg som returnerar hela kundkortet skickar mer än ett som returnerar namn och status. Se Hur ser ett bra MCP-verktyg ut?.

3. Var körs modellen, och på vilka villkor?

Det finns två vanliga lägen. I det ena körs resonemanget hos användaren, i en klient som Claude Desktop, och er server levererar bara verktyg och data. Så har vi byggt vårt eget system: vi har ingen modell på vår server, och kunddata lämnar systemet först när en användare själv ber agenten om något. I det andra läget anropar ert system en modell via ett API. Villkoren för hur leverantören behandlar data skiljer sig mellan privata konton, företagskonton och API-användning, så läs dem för den variant ni faktiskt använder. Se Claude eller ChatGPT i företaget.

4. Vad sparas, och var?

Fyra ställen kan innehålla kopior:

  • Loggen över agentens anrop. Den behövs, men innehåller före- och efter-värden, alltså ofta personuppgifter. Bestäm hur länge den sparas.
  • Konversationen hos modellens leverantör, beroende på produkt och avtal.
  • Index för sökning, om ni använder RAG. Ett borttaget dokument ska också försvinna ur indexet.
  • Utkast och exporter som användarna sparar på egen hand.

Rita det

Ta ett papper och rita fyra lådor: källsystem, verktyg, modell, lagring. Dra pilar för vart data går och skriv vilken data som följer med. Har ni svårt att fylla i en pil har ni hittat en fråga att ställa till leverantören.

Frågor att ta med

  • Vilka personuppgifter kan nå modellen genom ett enda verktygssvar?
  • Kör agenten som den inloggade personen, så att den inte når mer än hen gör? Se OAuth och AI-agenter.
  • Hur länge sparas loggen, och vem kan läsa den?
  • Finns ett personuppgiftsbiträdesavtal med varje leverantör som berörs?
  • Vad står i bolagets AI-policy om vilken data som får användas?

Vad ni får ut av det

Ett dataflöde på ett papper räcker inte som juridisk analys, men det är det underlag jurist och dataskyddsombud behöver för att kunna bedöma något. Utan det blir frågan ”är det säkert?” obesvarbar.

Vill ni gå igenom dataflödet för en agent ni planerar? Hör av er.