AI-instruktioner – den körbara logik som styr hur AI-system agerar i organisationer – riskerar att bli en ny och svårupptäckt attackyta. Det uppger TrendAI, en affärsenhet inom Trend Micro, som varnar för konsekvenser inom bland annat säkerhetsoperationer, finans, sjukvård och industriella system.
I ett pressmeddelande lyfter TrendAI fram riskerna med att AI-instruktioner får en allt mer central roll i företags operativa miljöer. AI-instruktioner beskrivs som de körbara instruktioner som används för att omsätta AI i praktiken, exempelvis genom att styra beslutslogik, automatiserade arbetsflöden och hur system responderar på olika händelser.
Enligt bolaget kan dessa instruktioner innehålla känslig information om hur organisationer upptäcker hot, prioriterar varningar och hanterar incidenter. Om obehöriga får tillgång till dem kan det ge insyn i verksamheters interna processer och säkerhetsstrategier.
Martin Fribrock, Country Manager för Sverige, Finland och Baltikum på TrendAI, uppger i pressmeddelandet att AI-instruktioner omvandlar information till körbar kod, vilket gör dem särskilt värdefulla för angripare. Han menar att tillgång till denna logik kan ge en strategisk fördel genom att avslöja hur organisationer tänker, fattar beslut och reagerar vid incidenter.
Enligt TrendAI kan tillgång till AI-instruktioner bland annat avslöja logiken bakom sortering och prioritering av varningar, korrelationsregler och responsmanualer i säkerhetsmiljöer som SOC. Det kan i sin tur möjliggöra att angripare stänger av varningar, undviker upptäckt eller manipulerar allvarlighetsgrader. Liknande risker beskrivs inom finanssektorn, där handelströsklar kan påverkas, samt inom hälso- och sjukvården, där kliniska beslutsprocesser kan manipuleras.
Bolaget framhåller att traditionella säkerhetsverktyg i många fall inte är utformade för att upptäcka hot riktade mot AI-instruktioner, eftersom dessa ofta består av ostrukturerad text som kräver semantisk analys snarare än signaturbaserad detektering.
TrendAI rekommenderar därför att organisationer behandlar AI-instruktioner som känslig immateriell egendom och inför riskbedömning under hela livscykeln. Vidare föreslås tydlig separering mellan funktionslogik och extern data, begränsning av behörigheter enligt principen om minsta möjliga åtkomst, testning mot potentiella konfliktscenarier samt omfattande övervakning, loggning och granskning av AI-baserade processer.
Enligt bolaget är det avgörande att organisationer anpassar sina säkerhetsstrategier i takt med att AI-automatisering får en mer central roll i affärskritiska miljöer.
Aktuell Säkerhet jobbar för alla som vill göra säkrare affärer och är därför en säker informationskälla för säkerhetsansvariga inom såväl privat som statlig och kommunal sektor. Vi strävar efter förstahandskällor och att vara på plats där det händer. Trovärdighet och opartiskhet är centrala värden för vår nyhetsjournalistik
Anmäl dig till vårt nyhetsbrev!
Genom att klicka på "Prenumerera" ger du samtycke till att vi sparar och använder dina personuppgifter i enlighet med vår integritetspolicy.
