LLMON: Ett nytt märkspråk inbyggt direkt i Granites språkmodeller
Hugging Face presenterar LLMON, ett märkspråk (ungefär som HTML fast för AI-modeller) som är designat specifikt för hur stora språkmodeller fungerar inifrån. Det är nu inbyggt i IBMs Granite 4.1 i storlekarna 3 miljarder och 8 miljarder parametrar – vilket är intressant eftersom det antyder att hur modeller 'läser' instruktioner kan standardiseras på ett helt nytt sätt.
Djupdykning
IBM:s Granite-modeller har fått stöd för något som kallas LLMON – ett märkspråk (tänk HTML, fast designat specifikt för hur språkmodeller faktiskt läser och tolkar instruktioner) byggt inifrån och ut för AI. Tanken är att istället för att proppa in vanlig text i en modell och hoppas att den förstår strukturen, ger LLMON ett gemensamt "språk" där modellen och systemet som kör den pratar samma dialekt från start. Det låter tekniskt, men problemet det löser är konkret: dagens AI-system tappar ofta kontexten när uppgifter blir komplexa, och mycket av det beror på att instruktioner och data skickas in på ett sätt som modellen aldrig tränats att hantera optimalt. Granite 4.1 3B och 8B är relativt kompakta modeller – "3B" och "8B" syftar på tre respektive åtta miljarder parametrar, ungefär ett mått på modellens komplexitet – vilket gör det här extra relevant för företag som vill köra AI lokalt utan gigantisk infrastruktur. Det de flesta missar i rapporteringen om AI-modeller är att prestanda sällan handlar om råstyrka i antal parametrar, utan om hur väl kommunikationslagret mellan modell och applikation är designat. LLMON är IBM:s svar på att det lagret hittills har varit en eftertanke, och att standardisera det kan ge mindre modeller ett oproportionerligt lyft i verkliga driftsscenarier.