3 AI-risker ditt företag behöver hantera ASAP

När jag pratar med en företagsledning om AI brukar nästan alltid tre orosmoment komma på tal: tre risker som de flesta är exponerade för men alltför få insatta i – och ännu färre har agerat på.

Vilka är de, varför är de så viktiga och vad kan du göra för att minska dem?

Häng med så får du veta!

1. Känslig företagsinformation på avvägar

Den första (och största) risken handlar om dataläckage. Medarbetare som använder icke sanktionerade AI-verktyg läcker oavsiktligt känsliga data i sin strävan att spara tid och hitta genvägar i sitt jobb. Ofta inser de inte att datan de matar LLM:erna med kan hamna fel – eler att de till och med bryter mot både företagets säkerhetspolicys och dataskyddslagen på samma gång.

Cybersäkerhetsföretaget Harmonic analyserade dataläckaget i tiotusentals prompter till ChatGPT, Copilot, Gemini, Claude och Perplexity under Q4 2024. Resultatet visade att 8,5 procent av de anställdas prompter innehöll känsliga uppgifter fördelade på följande sätt:

• Kunddata stod för 46 procent (fakturor, autentiseringsuppgifter och försäkringsanspråk med mera)
• Medarbetardata 27 procent (exempelvis lönedata)
• Juridiska och finansiella uppgifter 15 procent (budgetar, prognoser med mera)
• Säkerhetsinformation 7 procent (resultat från penetrationstester, nätverkskonfigurationer och incidentrapporter och liknande)

Alltså: Information som bara inte får hamna i fel händer.

Större delen av läckaget kom från kostnadsfria generativa AI-appar, som tränas kontinuerligt genom varje ställd fråga. Framför allt ChatGPT som stod för 54 procent av den känsliga inputen.

Företagshemligheter och personuppgifter på villovägar kan snabbt få konsekvenser för företagets säkerhet, integritet och efterlevnad, för att inte tala om rättsliga påföljder.

Som exempel fick ett försäkringsbolag för en tid sedan böta för att en anställd skickade en Excelfil med kundinformation till någon utanför företaget. Samma sak skulle kunna hända om någon visar sig ha laddat upp en liknande Excelfil till ChatGPT.

Så vad kan du göra?

En CISO har sällan full koll på hur många som använder icke sanktionerade verktyg på företaget och vilka de är. Det första som behöver göras är då att identifiera och blocka dem för att täta läckorna. Det kan göras med säkerhetsprodukter som Defender for Cloud eller Cloud Apps.

Men att bara täta läckorna löser inte problemet. Vissa drivna anställda skulle troligen hitta nya riskabla verktyg medan andra helt enkelt slutar använda AI – och kanske till och med söker sig till en konkurrent där de får lov att utveckla sin AI-kompetens. Därför är det oerhört viktigt att erbjuda användarna bra möjligheter att använda sanktionerade AI-modeller.

Och minst lika viktigt: utbilda personalen i hur de ska och inte ska använda dem.

2. Alternativa fakta

Risk nummer två beror på AI:s berömda otillförlitlighet – alltså det faktum att LLM:er med jämna mellanrum fortfarande hallucinerar och ger felaktiga svar.

Till exempel, den 11 december 2024 låg ChatGTP:s hallucination rate på 1,5 och 1,9 (beroende på version) enligt Vectara. Det kanske låter lite, men med tanke på att AI-modellerna ibland drar fel slutsatser, använder irrelevant information och ger partiska resultat, är det tillräckligt för att det ska utgöra en risk. Att de till på köpet ljuger så övertygande gör det ännu svårare att upptäcka ”alternativa fakta” mitt i jobbstressen.

Större AI-användning ökar risken för felbeslut, felinvesteringar och förlorade affärer. Samtidigt är det kostsamt att inte använda generativ AI, eftersom AI kan ersätta allt fler arbetsmoment, blixtsnabbt dra fram insikter ur stora datamängder och servera ledningsgruppen beslutsunderlag de annars aldrig hade sett röken av.

Det lämnar företag i en balansakt mellan risken att använda AI och risken att inte använda AI.

Så vad kan du göra?

Det något otillfredsställande svaret är: vänta in bättre modeller. Inom kort kommer Chat-GPT5 och en rad andra modellers nästa versioner, som kommer att kunna resonera med sig själv och skapa betydligt mer korrekta och relevanta svar.

Gillar du inte att vänta finns det en del knep att ta till. Som grounding (jordning) där AI-modellen enbart får tillgång till specifik, verifierad information som sen kopplas till dess output. En jordad modell kan generera mer exakt, korrekt och kontextuellt relevanta svar.

Istället för att lita blint på din LLM kan du också granska dess svar och verifiera källorna den anger. Ett annat tips är att föra egna anteckningar av viktiga uppgifter för att kunna stämma av informationen mot verkligheten.

OBS! Se till att de data din AI har tillgång till är korrekta, så du inte får en så kallad ”shit in, shit out”.

3. Lättantändlig information hamnar hos obehöriga anställda

Slutligen har jag märkt en viss oro i många ledningsgrupper över internt informationsläckage. De frågar:

”Kan en AI-modell hitta känsliga data om våra anställda eller andra konfidentiella uppgifter och inkludera dem i sina svar till obehöriga?”

Om vi tar Copilot som exempel använder verktyget visserligen dina behörigheter när den letar efter data, så att den inte ska kunna se data du inte ska se. Men det kan finnas data vars behörighet konfigurerats fel, eller data som har sparats på ”öppna ytor” som alla kommer åt.

Tänk bara på alla personuppgifter och all känslig information som finns på löneavdelningen. Eller på hemliga projekt och omorganisationer med uppgifter om uppsägningar… Föreställ dig anställda som i mitt under omorganisationen frågar AI:n: ”Hur ser planerna ut för vår nya organisation?” och ”Vilka kommer att vara kvar?”.

När svaren får spridning kan det vara för sent.

Så vad kan du göra?

Börja med att gå igenom dataytor med känsligt material, säkra upp dem och verifiera att det inte finns säkerhetsluckor. Det finns bra verktyg för detta, som Microsoft Purview och Sharepoint Advanced Management.

Och du… mitt tips är att göra det redan idag. Lycka till!

Mikael Roos,
Principal Architect AI