Författaren och säkerhetskonsulten Åsa Schwarz kammade hem utmärkelsen Årets Säkerhetsprofil 2017. Här delar hon med sig av sina tankar om artificiell intelligens och framtiden.
Under hela mitt liv har jag hört diskussioner om artificiell intelligens. Jag har läst böcker, sett filmer och läst forskningsrapporter. Men nu är det i hög hastighet på väg in i vårt samhälle. Det kommer att leda till många positiva förändringar men vi som arbetar med säkerhet måste vara med. Skynet kanske inte uppstår imorgon, men frågor som integritet och säker utveckling har aldrig varit så aktuella som nu.
I slutet av februari träffades nobelpristagare och forskningstoppen i Tokyo för att diskutera framtidens intelligens och hur den kommer att förändra världen. Redan på vägen till konferenslokalen märktes utvecklingen. När jag skulle köpa en adapter, hälsade roboten Pepper mig välkommen till varuhuset istället för butikspersonal. Det är den första roboten som är utvecklad för att läsa av känslor och göra dig glad.
Senare på dagen berättade professor Mariko Hasegawa att den stora skillnaden mellan människor och robotar är att de inte har medvetande, känslor eller kognitivt språk. Men när det gäller Pepper så upplevde jag att det var så även om det egentligen inte är sant.
AI kommer höja vår levnadsstandard
Det finns en rad positiva följder med artificiell intelligens, AI, som kommer höja vår livskvalitet. Vår hälsa ökar samtidigt som föroreningar i våra städer kommer minska. Företagen kan bli mer produktiva och den offentliga sektorn effektivare.
En anledning är att vi med AI kan förbättra våra beslutsprocesser. Ju längre människor tänker på ett problem, desto sämre beslut fattar vi. Där kan AI vara ett stort stöd, förklarade George F. Smoot, nobelpristagare i fysik, under konferensen. De har även helt andra möjligheter att bearbeta stora mängder av data.
Vad händer just nu?
Vi har precis kommit till den punkt där maskiner har samma felprocent när det gäller foto- och ljudigenkänning som människor. Men vi har fortfarande bättre känsel än robotar, därför är människor fortfarande överlägsna inom vissa områden i industrin. Datorer slår människor i schack, Jeopardy och poker.
Det som är gjort att utvecklingen gått så snabbt de senaste åren är maskininlärning, enligt Tom M. Mitchell, professor på Carnegie Melon. Det innebär att vi lär datorerna med hjälp av frågor och svar istället för att programmera dem statiskt. Bolag som är experter på AI går ihop med eller slår ut traditionella företag inom till exempel bank och försäkring.
Hur ser framtiden ut?
Utvecklingen kommer gå allt snabbare. En sak som gör att tempot höjs ytterligare, är att vi snart kommer kunna programmera våra mobiltelefoner genom att prata med dem. Då är en stor del av jordens befolkning med och utvecklar systemen. Ett annat stort utvecklingssteg är när datorer börjar förstå vad de läser istället för att bara söka på sökord. Då kommer din dator sammanställa information till just det du behöver med alla värdens källor som underlag. Andra intressanta områden är.
Supermänniskor
Eftersom vi redan nu har kommit till det stadium där datorer är lika bra på att avläsa ljud och bild som människor, är det inte otroligt att de gått om oss om några år. Då kan till exempel polis och säkerhetsvakter ta hjälp av tekniken. De blir en slags supermänniskor med bättre sinnen.
Smarta städer
Våra städer kommer att förändras med självkörande bilar, planering av sjukvårdsplatser, energihantering och mycket mer. Vi kommer t ex att ha möjlighet att förutsäga rörelsemönster i trafik och bland människor och på så sätt t ex hjälpa ambulanser och poliser att ta sig fram. Ett annat exempel är automatiserade vertikala odlingar av grönsaker som redan nu är verklighet i t ex Japan där hylla på hylla med plantor odlas och hanteras av robotar i närheten av var de ska säljas och konsumeras.
Intelligenta molekylärmaskiner
Jean-Pierre Sauvage, som fick nobelpriset i kemi 2016 för att han lyckats bygga maskiner av molekyler, tror att dessa kommer spela en stor roll när det gäller att bearbeta information. Det är på många sätt relaterat till AI. De är mycket små och om vi kombinerar dem med vad vi idag kallar datorer, kan de till exempel på ett intelligent sätt angripa cancer inne i kroppen.
Vad finns det för risker och säkerhetsproblem?
AI är fortfarande traditionella datorer eller internet of things. Det innebär att vi har samma utmaningar som tidigare inom säkerhetsområdet. Om vi däremot ser på de specifika säkerhetsfrågorna för AI så kan man dela upp dem i fyra områden enligt Professor Jeanette M. Wing:
1. Rättvisa
Anledningen att maskininlärning är så framgångsrikt är för att systemen analyserar och lär sig av stora mängder data. Men om data inte är rättvis? Hur ska vi hantera det? Ett uppmärksamt exempel var när Googles rekryteringsannonser för arbeten med hög lön i större utsträckning visades för män.
2. Ansvar
Om vi tar exemplet ovan med Googles rekryteringsannonser är det svårt att veta vem som är ansvarig. Är det Google? Är det hela ekosystemet bakom annonseringen? Eller är det algoritmen eller den som programmerade den?
Ett annat intressant fall är när det inte längre är personer som kör bilar och tåg, vem har då det juridiska ansvaret för säkerheten? I dag är det fortfarande personen som kör medan staten kontrollerar bilars säkerhet. Jeanette M. Wing undrade under konferensen om de i framtiden även kommer kontrollera deras AI? Eric S Maskin, nobelpristagare i ekonomi, tycker däremot att det är leverantörerna som ska få det juridiska ansvaret. Här krävs en översyn av rättsväsendet. Värt att notera är att Volvo som första billeverantör tagit på sig ansvaret för säkerheten i sina självkörande bilar.
3. Transparens
Automatisering av beslut är bra så länge de inte är självbestämmande. Många ser AI som det optimala sättet att fatta beslut. Men stoppar du in fel målsättning och data, blir det fel beslut. Det finns en stor risk för övertro på resultatet. Därför måste det finnas sätt för människor att kontrollera och överklaga datorernas beslut, enligt Erik Maskin.
En annan problematik är att det ur ett forskningsperspektiv är svårt att visa varför maskininlärning ger ett visst resultat. Det leder till att det till exempel är svårt att förklara för individer hur deras personuppgifter hanteras vilket är ett krav inom EU:s nya lagstiftning för personuppgifter, GDPR.
4. Etik
Även om många av de etiska frågeställningarna är gamla blir vi tvungna att ta ny ställning till dem när vi ska instruera datorer. Ett exempel är hur en bil ska kunna välja om den ska köra på den gamla mannen som går mitt i gatan eller barnen på vägrenen. Med andra ord är Science fiction-författaren Asimovs tre robotlagar från 1940-talet mer aktuella än någonsin och det kan krävas ett globalt regelverk över hur robotars och andra AI: s beteende.
En annan intressant utmaning är när flera bolag vill samköra sin information utan att lämna ut den till varandra. De kan då använda en tredje part och på så sätt ställa frågor på ett mycket större informationsunderlag än sitt eget och få bättre beslutsunderlag. Det här innebär att stort fokus måste läggas på integritet och säkerhet.
Slutligen så tänker många, på actionfilmen Terminator och Skynet som tar över världen, när vi pratar om AI. Men kan det här bli verklighet? Nobelpristagaren Susumu Toneawa tror inte att människan blir visare, hur mycket AI vi än utvecklar. Han har lyckats identifiera specifika hjärnceller för minnen och har även lyckats plantera in falska minnen hos möss. Han menar att när vi kartlagt de exakta mönstren för överlevnadsinstinkt i hjärnan hos människor, kommer någon försöka kopiera över dem till artificiell intelligens.
/Åsa Schwarz, Knowit
Se film från Säkerhetsgalan 2017 här
