AI har inte gått någon förbi. Nya innovationer kommer dagligen, ”alla jobb kommer ersättas av AI” och de stora AI-bolagen plöjer ner biljoner i processorkraft. Samtidigt förändras världen och ord som datasuveränitet och autonomitet börjar bli vanligare i press och på politikernas tungor. Det är helt klart så att AI kommer att prägla allas tillvaro framöver.
AI är inte en feature, inte en produkt. AI-teknologin är en horisontell förändring som kommer att påverka, om inte allt, så väldigt mycket. Det finns en del intressanta jämförelser att göra med revolutionerande teknikhopp i forn- och närhistorisk tid. Man kan se på kostnaden för tokens lite som mobilsamtalsminuter i början av 00-talet. Då kostade det 5 kr per minut att ringa, idag får du obegränsade samtal för 99 kr/månad. Troligen kommer AI att uppleva samma kostnadsutveckling. Effektivitetshöjningen för verksamheter kan jämföras med elektrifieringen av världen, eller införandet av förbränningsmotorn. Effektiviteten kommer att öka mångfalt. Flexibilitet och snabbhet i analyser, programmering, förmåga etc. kan kanske jämföras med tiden före och efter Internet. Idag kan vi ta del av all världens kunskap, information och underhållning bara vi är kopplade till nätet. I morgon, med AI, kommer vi kunna skapa precis vad vi vill med ett enkelt röstkommando till vår framtida AI-apparat.
Kort sagt: AI kommer att påverka allt, göra oss mer effektiva och öka flexibiliteten otroligt. Samtidigt som vi då också delar med oss av all information. Vilket inte är oproblematiskt.
På Basalt är vi fokuserade på säkerhetsskydd och att bygga och förvalta it-system som kan godkännas för att bära information upp till och med säkerhetsskyddsklass Hemlig. Även i miljöer som kräver väldigt hög säkerhet måste vi som företag, och som nation, nyttja AI-teknik för att uppnå alla fördelar, samtidigt som vi undviker nackdelarna med exempelvis informationsläckage.
Kopplat till att implementera AI-teknologi i luftgapade system som hanterar känslig eller säkerhetsskyddsklassificerad information uppstår en hel del frågor som behöver besvaras, och konsekvenser som behöver hanteras:
- Hur kan man lita på informationen? Hur kan man verifiera källan? Hur skapa assurans i en teknologi som har en bieffekt i att genererad output blir typiskt icke-deterministisk och bryter assurans i flera avseenden, även om inte alltid?
- Hur kan sekretess bevaras? Hur kan man driftsätta AI-modeller utan att öka risken för informationsläckage?
- Hur ska en on-premmodell förvaltas och uppdateras? Hur kan man säkerställa att modellen inte manipuleras över tid att vinkla resultat i en viss riktning? Vilka modeller kan man lita på?
- Hur validerar man modellernas förmåga att lösa domänspecifika uppgifter? Hur validerar man dess träningsdata?
Dessa och många andra utmaningar behöver undersökas. Vissa svar kanske till och med behöver forskas fram.
Vi kommer i några artiklar att försöka belysa detta ämne ur perspektivet att AI-teknologin ska kunna användas tryggt i verksamheter som hanterar känslig information eller information som är av vikt för Sveriges säkerhet.
