Det är som bekant besvärligt att navigera i ny terräng med gamla kartor. En AI-lösning är inte ett vanligt it-system och vi kan i flera avseenden inte följa våra gamla arbetssätt och metoder. Men kompassen som vi på Basalt använt för att förvalta system som hanterar säkerhetskänslig information fungerar fortfarande. Den pekar i rätt riktning! Kompassnålen har styrt oss mot att minimera risk, den har hjälpt oss att få mekanismer och metoder på plats som skapar en kontrollerad förvaltning, tankar och arbetssätt som hjälper oss i förvaltningen av våra lokala AI-lösningar som hanterar säkerhetskänslig information.
Som bekant är det efter implementationen som det stora arbetet börjar. När lösningen ska driftas och förvaltas: monitorering, loggning, spårbarhet, livscykelhantering, etc.
Förvaltning och livscykelhantering
En AI-lösning är inte bättre än den senaste modellen. Utvecklingen rör sig snabbt framåt och inom förvaltningen behöver man planera för regelbundna releaser där man under kontrollerade former uppgraderar (eller byter ut) den lokala språkmodellen, indexerar om vektordatabaser, optimerar konfigurationer, etc.
Det är många steg och mycket arbete i en releaseprocess och här gäller det att hitta en kadens som passar verksamheten. En kadens där man noga balanserar nyttan med arbetet. Inte i en för långsam takt så att AI-lösningen blir inaktuell eller öppen för sårbarheter, men inte heller i en för hög takt så att man inte hinner med och tappar kontrollen.
Samma förmågor som redan finns i förvaltningen av Basalts övriga system som hanterar säkerhetskänslig information kan återanvändas i förvaltningen av den lokala AI-lösningen, till exempel:
- Kontrollerad import där riktigheten i ny kod, konfigurationer och nya modeller granskas och verifieras.
- En teststrategi som beskriver hur man validerar krav med en hög grad av automation och hur man metodiskt låter förändringar verifieras och röra sig framåt i en staging-miljö för att slutligen tas in i ett referenssystem (virtuellt eller fysiskt) och senare produktionssätts.
- Omvärldsbevakning och effektiva processer för hantering av nya säkerhetshot, inte bara hot i form av inbyggda sårbarheter i kod utan också bevakning av kvalitetsutmaningar i algoritmerna för språkmodellerna, etc.
- Monitorering och loggning som är skalbar i både volym och funktionalitet. Precis som den existerande förvaltningen för säkerhetskänsliga system så strävar man efter att tidigt få larm om anomalier och fånga upp problem med prestanda eller upptäcka hot, men för AI-lösningar behövs en utökad monitorering av datakvalitet (som beskrivs i förra artikeln).
Och eftersom det skapas ännu mer logginformation från AI-lösningen så behöver arkiveringsmetoderna kunna skala upp för att hantera fler användarfall och mer data.
- Plan för kompetensförsörjning. En plan som säkrar att personalen är utbildad och har kompetens att förvalta de aktuella teknologierna, teknologier som snabbt ändras och utvecklas.
Labbet
Experimentering med AI bör ske i en skyddad miljö, ett separerat labb med testmiljöer, med tvättad testdata och med en blandning av medarbetare som har djup förståelse för såväl teknik som verksamhet. I labbet valideras nya releaser men det är också en säker plats för innovation och utveckling av förbättrade arbetsmetoder, innan de under kontrollerade former tas in i verksamheten.
Med den nya tekniken kommer många nya idéer att födas och när en medarbetare har förslag på nya användningsområden är det hit man går.
Drift – måste all exekvering ske under kontorstid?
I takt med att verksamheten anpassas och lär sig använda den nya teknologin så behöver du ha en strategi för att hantera ökad belastning. Räkna med en ökande användning och med en hög belastning under kontorstid, det behöver finnas mekanismer som verkar för att distribuera belastningen och skapa ett jämnt utnyttjande av hårdvaran. Beroende på verksamhet kan ett utökat produktionsfönster ställa nya krav på övervakning, beredskap, etc.
Många komponenter för AI-system är bristvaror. Hur ser egentligen din logistikkedja ut? Är dina beroenden och risker kartlagda? Mer om det i nästa artikel!
