Billigare AI på gång – ny modell tänker utan att bränna pengar

En ny AI-arkitektur kan komma att sänka kostnaden för avancerade AI-tjänster dramatiskt. I en färsk forskningsrapport visar AI-företaget Pathway att deras modell BDH-CQ klarar svåra resonemangstester till en bråkdel av priset jämfört med dagens ledande modeller.

Modellen löste nästan tre av tio pussel i det tuffa testet ARC-AGI-1, som mäter icke-verbal intelligens – samma typ av resonemang som människor använder när vi känner igen mönster och lär oss nya regler. Det anmärkningsvärda är inte bara resultatet, utan prislappen: en jämförbar modell kostade ungefär elva gånger mer per användning.

Dagens stora AI-modeller bygger på så kallade transformatorer, en teknik som har varit standarden sedan 2017. De fungerar genom att skriva ut långa interna textkedjor för varje resonemang, och varje textbit kostar datorkraft och minne. Ju svårare frågan är, desto dyrare blir svaret.

Pathways modell fungerar annorlunda. I stället för att resonera i text lagrar den regler och samband som siffermönster, och tänker i interna loopar som inte kräver mer minne eller datorkraft – oavsett om den tänker i tjugo eller två hundra varv.

BDH-CQ är tränad på bara 150 miljoner parametrar, en bråkdel av de största modellerna som räknar i hundratals miljarder. Färre parametrar betyder att modellen är både snabbare att träna och billigare att köra – och forskarna tror att förmågan kan skalas upp ordentligt när modellen växer.

Resultaten är inte bara Pathways egna ord. Modellens prestationer har verifierats och återskapats av framstående oberoende forskare, bland annat Łukasz Kaiser, en av författarna bakom den ursprungliga forskningsartikeln som lade grunden för transformator-tekniken 2017.

– Pathway visar att arkitekturen i sig, inte bara storleken, kan driva nästa stora språng i AI-resonemang, säger Kaiser.

Pathway planerar nu att bygga upp tekniken till 600 miljarder parametrar och utveckla en fullfjädrad språkmodell baserad på den. Siktet är inställt på avancerade tillämpningar inom bland annat cybersäkerhet och industriell drift.

Om tekniken håller vad den lovar kan den göra avancerad AI billig nog att användas långt bredare – av fler företag, i fler produkter, och till slut även i vardagstjänster som i dag är för dyra att erbjuda alla.