Hoppa till innehållet
Helgkaffet

Ett veckomagasin om AI, varje lördag

Ur arkivet, Morning Brew AI Hela arkivetHelgkaffet

NaiveAI lovar extremt snabb inferens – men håller kodkvaliteten?

Latent Space

NaiveAI påstår sig kunna leverera 2 100 tokens per sekund, vilket potentiellt skulle placera dem i topp på Artificial Analysis hastighetsmätningar. Praktiska tester indikerar att kodkvaliteten håller sig i nivå med DeepSeek – intressant att ett okänt namn konkurrerar med etablerade modeller på båda fronterna.

Djupdykning

NaiveAI har dykt upp med ett löfte om 2 100 tokens per sekund – för att sätta det i perspektiv genererar de snabbaste modellerna idag runt 300-500 tokens per sekund, så det handlar om en hastighetsökning på flera storleksordningar. Tokens är helt enkelt de textbitar AI-modeller producerar, ungefär som orddelar, och fler per sekund betyder kortare väntetid vilket är avgörande när du sitter och kodar och inte vill tappa fokus. Det som ofta missas i hastighetsdiskussionen är att råhastighet är nästan värdelöst om kvaliteten inte håller – en modell som spottar ur sig felaktig kod i rekordfart sparar ingen tid. Att NaiveAI verkar matcha DeepSeek på kodkvalitet är därför den verkliga nyheten här, eftersom DeepSeek satte en ny ribba för vad öppen och kostnadseffektiv kodgenerering kan åstadkomma tidigare i år. Om NaiveAI verkligen kan leverera på båda fronterna samtidigt förflyttas konkurrensen från "vem är smartast" till "vem är snabbast och tillräckligt smart" – och det är en helt annan kapplöpning.