Dessa sajter, som drivs nästan helt utan mänsklig inblandning, publicerar nyhetsartiklar som vid första ögonkastet verkar trovärdiga, men som vid närmare granskning visar sig vara en del av en större desinformationskampanj. Det finns flera typer av AI-genererade nyhetssajter. Vissa är relativt enkla och primitiva, som exempelvis ”Nyheter SVT”, en sida som inte har någon koppling […]
Dessa sajter, som drivs nästan helt utan mänsklig inblandning, publicerar nyhetsartiklar som vid första ögonkastet verkar trovärdiga, men som vid närmare granskning visar sig vara en del av en större desinformationskampanj.
Det finns flera typer av AI-genererade nyhetssajter. Vissa är relativt enkla och primitiva, som exempelvis ”Nyheter SVT”, en sida som inte har någon koppling till den riktiga SVT. Här används en bot för att ta innehåll direkt från andra nyhetssajter, göra små ändringar i texten, och sedan publicera. Ofta publiceras hundratals artiklar per dag, men de är fyllda med felaktigheter, blandningar av olika språk, märkliga stavningar och dåligt formaterade stycken. Det finns också mer avancerade sajter som använder AI-verktyg som ChatGPT för att skriva om nyhetsartiklar tagna från andra källor. Dessa artiklar blir språkligt bättre och svårare att genomskåda, vilket gör dem mer trovärdiga för läsare.
Organisationen Newsguard, som granskar och värderar trovärdigheten hos nyhetssajter, har observerat en explosiv ökning av sådana AI-genererade plattformar. McKenzie Sadeghi från Newsguard berättar för SVT Nyheter att när organisationen började spåra dessa sajter i maj 2023, fanns det 49 identifierade fall. Men i februari 2024 hade siffran skjutit i höjden till hela 713 opålitliga AI-genererade nyhets- och informationssajter.
Syftet bakom dessa sajter varierar. I vissa fall handlar det om att tjäna pengar på reklamintäkter genom att locka till sig besökare med till synes legitima nyhetsartiklar. Men i många andra fall handlar det om att skapa trovärdiga plattformar för att smyga in rysk desinformation, som sedan sprids vidare i sociala medier. Desinformationen får då ökad spridning och kan till och med citeras av andra AI-botar, som exempelvis Microsofts Copilot, vilket förstärker effekten och skapar en loop av felaktig information.
SVT har tidigare undersökt hur prorysk desinformation tvättas och sprids via nyhetssajter, bland annat genom användning av egyptiska plattformar. De AI-genererade nyhetssajterna fyller en liknande funktion och använder liknande metoder. En av dessa sajter är ”Miami Chronicle”, som SVT har identifierat som en central plattform för att sprida desinformation. Genom att analysera sidans struktur och innehåll kunde SVT dessutom identifiera två ”systersajter” som använder identiska webbmallar och delvis samma material, vilket visar på en systematisk strategi för att sprida felaktig information över flera plattformar.
Den här utvecklingen visar hur avancerad teknologin kring AI och automatisering har blivit, och hur den nu används som ett kraftfullt verktyg för att manipulera informationsflödet på global nivå. Cyberkriminella och statligt styrda aktörer har snabbt anammat dessa verktyg för att skala upp sina kampanjer och öka sin räckvidd, vilket gör det allt svårare för vanliga användare att skilja mellan trovärdig information och desinformation.
Aktuell Säkerhet jobbar för alla som vill göra säkrare affärer och är därför en säker informationskälla för säkerhetsansvariga inom såväl privat som statlig och kommunal sektor. Vi strävar efter förstahandskällor och att vara på plats där det händer. Trovärdighet och opartiskhet är centrala värden för vår nyhetsjournalistik
Anmäl dig till vårt nyhetsbrev!
Genom att klicka på "Prenumerera" ger du samtycke till att vi sparar och använder dina personuppgifter i enlighet med vår integritetspolicy.
