Ge en AI-agent minsta möjliga behörighet för uppgiften, låt den läsa innan den får skriva och ha ett godkännande där en människa tittar innan något skickas eller ändras. Det är grunden. Resten handlar om att veta vad agenten kan nå, att kunna se vad den har gjort och att kunna stänga åtkomsten snabbt om något går fel.
Sex regler för säkra agenter
- 1. Minsta möjliga behörighet. Agenten får tillgång till det uppgiften kräver. En agent som sammanställer en veckorapport behöver läsa statusen och ingenting annat.
- 2. Läsa före skriva. Börja med läsbehörighet. Lägg till skrivbehörighet först när ni har sett att agenten gör rätt, och då med godkännande.
- 3. Ett eget konto för agenten. Ge agenten en egen identitet i era system, så att ni kan se vad den har gjort och dra in åtkomsten utan att röra någon medarbetares konto.
- 4. Godkännande före verkan. Allt som lämnar företaget eller ändrar något viktigt passerar en människa först.
- 5. Spår. Det ska gå att se vad agenten läste, vad den föreslog och vad som godkändes, i efterhand och i ordning.
- 6. Möjlighet att stänga. Ni ska kunna stänga åtkomsten snabbt och veta vem som gör det.
Vad som kan gå fel
- Fel uppgift ändras. Agenten tolkar en instruktion fel och ändrar något den inte skulle röra. Skriv-behörighet med godkännande begränsar skadan.
- För bred åtkomst. En agent som kan läsa allt kan råka lyfta fram uppgifter som inte hör till uppgiften. Begränsa vad den ser.
- Text som försöker styra agenten. Ett mejl eller ett dokument kan innehålla en rad som liknar en instruktion. Innehåll i mejl och dokument är material att läsa. Instruktioner kommer bara från er, och därför ska agenten inte kunna skicka eller ändra något utan godkännande.
- Uppgifter på fel plats. Information som kopieras till ett verktyg som ingen har godkänt. Er AI-policy ska säga vilka verktyg som är godkända.
Frågor att ställa till en leverantör
- Var lagras uppgifterna, och hur länge? Be om ett skriftligt svar.
- Finns ett personuppgiftsbiträdesavtal? Det behövs när leverantören hanterar personuppgifter åt er.
- Vem hos leverantören kan se våra uppgifter? Och under vilka förhållanden?
- Hur loggas vad agenten gör? Kan ni läsa loggen själva?
- Hur stänger vi åtkomsten? Och hur snabbt får ni veta att den är stängd?
- Hur hanteras incidenter? Vem hör av sig till er, och när?
Så sätter ni behörigheter steg för steg
Skriv först ner uppgiften i en mening och lista vad agenten behöver se för att göra den. Ge sedan läsbehörighet till just det. Kör en vecka och läs allt agenten föreslår.
När resultatet håller kan ni lägga till en skrivbehörighet, alltid med godkännande från en person. Utvidga i små steg och skriv ner varje ändring. Det gör det lätt att veta var ni står.
Skriv ner varje behörighet, vem som beslutade om den och varför. Listan gör det lätt att granska och att stänga det som inte längre behövs.
När något går fel
Rör incidenten personuppgifter kan det finnas skyldigheter att anmäla den. Fråga en jurist eller ert dataskyddsombud vad som gäller hos er.
- Stäng åtkomsten. Dra in agentens behörighet direkt.
- Läs spåret. Se vad agenten gjorde och vad som godkändes.
- Tala med dem som berörs. Berätta vad som hände och vad ni gör åt det.
- Rätta och justera. Ändra uppgiften, behörigheten eller godkännandet.
- Starta om i litet steg. Öppna åtkomsten igen först när ni vet varför det gick fel.
Ett exempel: en agent som skriver veckorapporten
Uppgiften är att sammanställa status från tre system till en sida varje måndag. Agenten får läsbehörighet till de tre, ett eget konto och ingen möjlighet att skicka. Resultatet läggs i en mapp där projektchefen läser det.
Skriver agenten något fel syns det i spåret, och åtkomsten går att stänga direkt. Vill ni senare att den ska skicka rapporten själv är det ett nytt steg som får ett eget godkännande.
Vem äger säkerheten hos er
Utse en person som äger behörigheterna för varje agent. Hon vet vad agenten får göra, godkänner ändringar och stänger åtkomsten om något går fel. Utan en ägare blir behörigheter kvar långt efter att uppgiften har ändrats.
Gå igenom listan över agenter och behörigheter regelbundet och stryk det som inte längre behövs.
Så arbetar vi med det
Hos oss har varje steg ett stoppunkt där ni tittar på resultatet innan vi går vidare. Priset är fast per steg, med tak, och bestäms innan steget börjar. Vi skriver ett personuppgiftsbiträdesavtal innan vi rör några uppgifter.
Texten här är allmän information och ersätter inte juridisk eller teknisk rådgivning för er verksamhet.
Vanliga frågor
Vad är minsta möjliga behörighet?
Att en agent bara får tillgång till det uppgiften kräver. Behöver den bara läsa en kalender ska den inte kunna läsa e-post.
Ska en agent få skriva i våra system?
Ja, men börja med att läsa. Lägg till skrivbehörighet först när agenten har visat att den gör rätt, och låt en människa godkänna det den skriver.
Varför ska agenten ha ett eget konto?
Då kan ni se vad den har gjort och dra in åtkomsten utan att påverka någon medarbetares konto.
Kan en agent luras av text i ett mejl?
Ja, text i mejl och dokument kan försöka styra en agent. Därför behandlar ni innehåll som material att läsa och låter ingenting skickas eller ändras utan godkännande.
Vad behöver vi fråga en leverantör?
Var uppgifterna lagras och hur länge, om det finns ett personuppgiftsbiträdesavtal, hur agentens handlingar loggas och hur ni stänger åtkomsten.
Behöver vi en jurist?
För frågor om personuppgifter och ansvar, ja. Låt en jurist eller ert dataskyddsombud bedöma vad som gäller i er verksamhet.