Vilka risker ska in i ett AI-projekts riskregister?

Gustav Brochmann

Ett riskregister för ett AI-projekt bör ta upp åtta sorters risker: fel svar, felaktiga ändringar i data, för stor åtkomst, manipulation via text utifrån, personuppgifter, beroende av en leverantör, kostnad som växer och att ingen använder det. För varje risk anger ni vad som kan hända, hur troligt och allvarligt det är, vad ni gör åt det, vem som ansvarar och hur ni märker det. En kort lista som används slår en lång som ligger kvar.

Ett riskregister är en lista, inte en rapport

Ett riskregister behöver inte vara avancerat. Det är en lista över sådant som kan gå fel i ett projekt, hur troligt och hur allvarligt det är, vad ni gör åt det och vem som ansvarar. Den hjälper er att prata om riskerna i förväg och att se när något börjar hända. Här är åtta sorters risker som hör hemma i ett AI-projekt, med frågan att ställa för var och en.

Åtta risker

1. Fel svar

Agenten ger ett svar som låter rimligt men är fel. Fråga: vad händer om ett svar här är fel, och hur snabbt upptäcker vi det? Se Hur hanterar man att AI hittar på saker i affärsflöden?.

2. Felaktiga ändringar i data

Agenten skriver över något som var rätt. Fråga: vilka ändringar går direkt, och vilka kräver godkännande? Se Hur låter man en AI-agent uppdatera ett CRM utan att den förstör något?.

3. Åtkomst som är för stor

Agenten når mer än användaren, eller en nyckel läcker. Fråga: kör agenten som en person, och kan kopplingen återkallas? Se OAuth och AI-agenter och API-nycklar: sju vanliga misstag.

4. Manipulation

Text utifrån, som ett mejl eller en webbsida, styr agenten. Fråga: vilket externt innehåll läser agenten, och vad är det värsta den kan göra om den blir lurad? Se Vad är prompt injection?.

5. Personuppgifter

Data hamnar där den inte borde, eller sparas för länge. Fråga: vart går datan, och vilka avtal finns? Se Vart tar datan vägen när en AI-agent arbetar?. Ta frågor om rättslig grund och avtal med jurist eller dataskyddsombud.

6. Beroende av en leverantör

Av modellleverantören, byggaren eller ett köpt system. Fråga: vad skulle ett byte kosta, och vem äger det som byggts? Se Hur inlåsta är vi hos vår leverantör?.

7. Kostnad som växer

Användningen blir större än beräknat, eller projektet tar längre tid. Fråga: vad kostar det per användare och månad, och vilket tak finns? Se Vad ska en kalkyl för ett AI-projekt innehålla?.

8. Ingen använder det

Verktyget byggs men används inte, eller används på sidan om. Fråga: vem äger det, och hur mäter vi användningen? Se Hur får vi medarbetarna att faktiskt använda det nya systemet? och Medarbetare använder AI utan att vi vet om det.

Så ser raderna ut

För varje risk, fem kolumner i ett kalkylark eller en tabell:

  • Vad kan hända, i en mening.
  • Hur troligt, och hur allvarligt. Låg, medel eller hög räcker.
  • Vad gör vi åt det, konkret: en spärr, ett test, en regel.
  • Vem ansvarar.
  • Hur märker vi det, till exempel ett mått eller en logg.

Gör ingen siffermässig riskberäkning. Poängen är att de som beslutar får samma bild.

Hur ni använder det

  • Före start. Gå igenom de åtta med de som ska besluta och de som ska använda. Lägg till det som är specifikt för er.
  • Vid varje steg i en pilot. Titta på listan, och ändra den utifrån vad ni lärt er. Se Så planerar ni en avgränsad AI-pilot.
  • Efter ett fel. Lägg till det, och bestäm vad som ska fånga det nästa gång.

Det som går fel med riskregister

  • De skrivs en gång och läses aldrig mer.
  • Alla risker får samma vikt.
  • Ingen äger dem.
  • De innehåller bara sådant som ni redan har hanterat.

Hellre en kort lista som används än en lång som ligger kvar. Fem risker som ni följer upp slår tjugo som ni inte gör det.

Vill ni ha hjälp att gå igenom riskerna i ett projekt ni planerar? Hör av er.