AI behöver ingen silver bullet – den behöver styrning

Tänk om vi kunde lösa AI-säkerheten med en enda produkt. En säker exekveringsmiljö, en utvärderare eller ett governance-ramverk som ger oss kontroll. Det vore förstås fantastiskt. Men efter snart 30 år inom cybersäkerhet har jag lärt mig en sak: så enkelt är det aldrig.

Under årets World Summit AI i Amsterdam blev det tydligt hur mycket av diskussionen som fortfarande kretsar kring jakten på just enskilda lösningar. Samtidigt präglades många samtal av en påtaglig oro inför vad AI-utvecklingen innebär.

Alla de säkerhetstekniker och kontrollmekanismer som nu diskuteras är viktiga. Men ingen av dem räcker ensam. Varför skulle AI vara det första området inom IT där vi faktiskt hittar en silver bullet?

Under åren har jag sett många teknologier och säkerhetsmodeller presenteras som lösningen på våra säkerhetsproblem. Brandväggar, antivirus, intrångsdetektering, EDR och Zero Trust. Alla har bidragit med viktiga förmågor, men ingen har ensam löst problemet.

Vi har lärt oss att säkerhet uppstår genom samspelet mellan teknik, människor, processer och ett tydligt ansvar.

En säker exekveringsmiljö kan begränsa vad en AI-agent får göra, men avgör inte om slutsatserna är riktiga. En utvärderare kan bedöma resultat, men skapar ingen ansvarsfördelning. Ett governance-ramverk kan beskriva hur organisationen ska styras, men garanterar inte att styrningen fungerar. Vi behöver alla dessa delar. Framför allt behöver vi förstå hur de ska fungera tillsammans.

Rädslan för det vi inte förstår

Det är förståeligt att AI-utvecklingen väcker osäkerhet. Vi ser system som klarar uppgifter som för bara några år sedan ansågs kräva mänsklig intelligens. Samtidigt tillskriver vi gärna systemen mänskliga egenskaper. Vi talar om att AI tänker, förstår och fattar beslut. Det är ibland praktiska beskrivningar, men riskerar också att ge oss en missvisande bild av vad vi faktiskt har byggt.

Det finns en scen i filmen Good Will Hunting som jag ofta tänker på i det här sammanhanget. Robin Williams spelar psykologen Sean Maguire, som försöker få den unge Will Hunting att förstå skillnaden mellan kunskap och erfarenhet.

Will kan berätta allt om Michelangelo, men har aldrig stått i Sixtinska kapellet och känt hur det luktar där. Han kan beskriva kärlek genom litteraturen, men har aldrig själv upplevt den sårbarhet som följer med att älska någon. Han har kunskapen, men saknar erfarenheten.

Jag tycker att det är en träffande liknelse för dagens stora språkmodeller. Vi har byggt system som kan resonera om nästan vad som helst. De kan beskriva sorg, kärlek, ledarskap och moraliska dilemman med övertygande säkerhet. Men de har inte själva levt de liv som deras kunskap beskriver.

Det gör inte deras kunskap mindre användbar. I vissa uppgifter presterar systemen bättre än människor. Men vi behöver skilja mellan förmågan att ge ett övertygande svar och den mänskliga erfarenhet som vi förknippar med förståelse och omdöme. Att kunna beskriva ett ansvar är inte samma sak som att kunna bära det. Den skillnaden blir särskilt viktig när vi låter AI-system inte bara ge oss svar, utan också agera på dem.

Vi förbjöd inte kylskåpen

En av konferensens mer tänkvärda reflektioner kom från Audrey Tang, Taiwans Cyber Ambassador och tidigare digitaliseringsminister. Tang använde en liknelse med kylskåp. När vi insåg att de innehöll freoner som skadade ozonlagret blev inte slutsatsen att förbjuda kylskåp. I stället utvecklade vi alternativ och skapade internationella överenskommelser för att fasa ut de skadliga ämnena.

Vi slutade inte använda kylskåp. Vi byggde dem bättre.

Det krävdes forskning, teknikutveckling och gemensamma regler. Ingen enskild åtgärd var tillräcklig. Jag tycker att det är ett perspektiv vi behöver mer av i AI-debatten. När en teknik innebär risker behöver inte svaret vara att vi ska sluta använda den. Men vi kan inte heller ignorera riskerna. Vi måste förstå vad som orsakar problemen och förändra hur tekniken byggs och används.

Det är också en påminnelse om att säkerhet och innovation inte behöver vara varandras motsatser. Tvärtom kan arbetet med att hantera riskerna göra det möjligt att använda tekniken i större skala.

När tekniken förändrar organisationen

Vi försöker fortfarande förstå och kontrollera AI som om det vore ytterligare en teknikkomponent i vår IT-miljö. Men när AI-agenter börjar utföra arbetsuppgifter, samarbeta och fatta beslut förändrar vi inte bara tekniken. Vi förändrar hur organisationen arbetar. I mitt eget arbete med AI-agenter har jag sett att den svåra frågan inte är hur mycket vi kan automatisera, utan hur mycket självständighet vi kan ge agenterna och samtidigt verifiera deras arbete.

Det väcker frågor som går långt utöver traditionell IT-säkerhet. Vem avgör vad en agent får göra? Hur vet vi att den håller sig inom sitt mandat? Vem verifierar resultatet och vem bär ansvaret när något går fel?

Därför måste styrning vara mer än policydokument. Det räcker inte att en agent följer sina instruktioner. Styrningen behöver fungera i praktiken, med tydliga mandat, tekniska begränsningar, oberoende verifiering och en fungerande mekanism som säkerställer att avvikelser når en ansvarig människa som kan ingripa.

När vi kan verifiera och kontrollera agenternas arbete kan vi också ge dem större självständighet. Bra styrning är inte ett hinder för utvecklingen. Den är en förutsättning för att kunna accelerera den.

Det finns ingen genväg

Efter dagarna i Amsterdam är jag ännu mer övertygad om att vi behöver undvika två ytterligheter i AI-debatten. Den ena är att se AI som något närmast magiskt och okontrollerbart. Den andra är att betrakta AI som vilken IT-produkt som helst, där tillräckligt många säkerhetsfunktioner till slut löser problemen.

 Lärdomen från cybersäkerheten, att ingen enskild kontroll räcker, är minst lika relevant nu. Men när tekniken börjar utföra arbete med växande självständighet måste även vårt sätt att organisera, delegera och ta ansvar utvecklas. Den viktigaste frågan är därför inte vilken säkerhetsprodukt vi behöver för våra AI-agenter, utan hur vi bygger organisationer som kan använda dem och samtidigt behålla kontrollen, omdömet och ansvaret.

Kanske är den verkliga utmaningen inte att AI utvecklas för snabbt, utan att vårt sätt att styra den utvecklas för långsamt.

Emanuel Lipschütz,
Cybersäkerhetsexpert på Navis Mater