Expected IT utmanar dagens arkitektur för AI-datacenter

Expected IT utvecklar tekniken LPOOL, som ska göra det möjligt att koppla samman processorer och resurser i ett serverrack så att det i praktiken kan fungera som en sammanhängande beräkningsenhet. Klas Moreau presenterade tekniken under IT Press Tour #69 i Ljubljana. Han beskriver bakgrunden som ett behov av att modernisera en serverarkitektur som i stora delar bygger på samma grundprinciper som under flera decennier.

I dagens datacenter är processorer, minne, lagring och andra resurser i hög grad knutna till enskilda servrar. Om en arbetslast kräver mer resurser än en server kan erbjuda måste den i stället delas upp och kommunicera med andra servrar över nätverket. Expected IT vill ta bort den gränsen.

Med LPOOL ska flera servrar kunna uppfattas som en större, sammanhängande dator. En arbetslast skulle exempelvis kunna tilldelas åtta processorer och en terabyte minne och därefter lämna tillbaka resurserna när jobbet är klart, så att de kan användas av en annan arbetslast.

AI driver fram nya krav

Bakgrunden är bland annat den snabba utvecklingen inom AI. Klas Moreau beskriver hur datacenter hittills varit starkt GPU-orienterade, eftersom grafikprocessorer varit centrala för både träning och inferens av stora AI-modeller.

När AI-agenter och mer avancerade arbetslaster växer förändras dock balansen. Mer arbete behöver hanteras av CPU för att koordinera processer, verktyg och datatrafik runt AI-modellerna. Det skapar i sin tur ett behov av större och mer flexibla beräkningsmiljöer.

Expected IT lösning bygger på en switchstruktur som kopplar samman CPU och gör det möjligt att dela resurser som minne, lagring och nätverkskapacitet. Tekniken ska kunna användas tillsammans med olika processorfamiljer och är enligt Klas Moreau inte begränsad till AI. En viktig del av argumentet är resurseffektivitet. Om exempelvis en GPU står och väntar på data utnyttjas inte den dyra beräkningskapaciteten fullt ut. Expected IT bedömer att den egna arkitekturen i vissa tillämpningar kan öka utnyttjandet av befintlig hårdvara betydligt.

Infrastruktur blir en säkerhetsfråga

För säkerhetsansvariga är utvecklingen relevant även om LPOOL i sig inte är en cybersäkerhetslösning. Ju mer verksamheter bygger sin kapacitet på AI och molnbaserad infrastruktur, desto större betydelse får den underliggande hårdvaran och leveranskedjan.

Expected IT är ett tyskt bolag, men de komponenter som behövs för att realisera tekniken är beroende av en global halvledarindustri. Bolaget tittar bland annat på tillverkning genom TSMC och Samsung och har ännu inte valt någon tillverkningspartner. Samtidigt lyfter Klas Moreau Europas behov av att bygga upp en starkare egen halvledarsektor. Expected IT har fått stöd från EU genom ett EIC-anslag och deltar i europeiska program för så kallade fabless chipbolag – företag som utvecklar halvledare men låter externa aktörer stå för tillverkningen. Det handlar om mer än industriell konkurrenskraft. För organisationer och stater som vill minska strategiska beroenden blir kontrollen över kritisk digital infrastruktur en del av motståndskraften.

Behöver stora partners

Expected IT är fortfarande ett litet bolag. Teamet består av omkring 20 personer och bolaget befinner sig i arbetet med att ta fram den första fysiska versionen av tekniken. För att nå marknaden krävs samtidigt samarbete med stora aktörer. Bolaget för dialog med processortillverkare, serverleverantörer, hyperscalers och AI-aktörer. Klas Moreau beskriver relationerna med de stora aktörerna som avgörande för att tekniken ska kunna få genomslag.

– Vi är en liten men innovativ aktör. Vi vet att vi inte kommer att lyckas om vi inte har stora samarbetspartners, säger Klas Moreau.

Expected IT har enligt Klas Moreau redan verifierat delar av tekniken i simuleringar och testmiljöer och har fört diskussioner med bland andra Microsoft och Meta. Bolaget har också ett licensavtal som gör det möjligt att använda Intels UPI-gränssnitt i den fortsatta utvecklingen. Den stora återstående prövningen är dock fysisk hårdvara.

Första generationen kräver nya moderkort som är förberedda för LPOOL-tekniken. Det går alltså inte att lägga till lösningen i befintliga servrar genom en enkel mjukvaruuppdatering. Planen är att gå mot tape-out efter den kommande finansieringsrundan och därefter ta fram provexemplar. Om tidsplanen håller är målet att de första systemen ska kunna utvärderas av partners under 2027, med en möjlig marknadsintroduktion från 2028.

För Expected IT återstår därmed den kanske viktigaste frågan: om tekniken fungerar lika bra i verklig hårdvara som den gör i utvecklings- och verifieringsmiljöerna.

– Det är en chansning. Det verkar finnas ett växande intresse, men jag vet inte säkert förrän vi har stängt finansieringsrundan och börjar tillverka, eftersom det är då det stora beviset kommer, säger Klas Moreau.