Ny metod minskar giftigt innehåll från AI-modeller med upp till 69%
Forskare har utvecklat TARGRS, en teknik som vid körtid (utan att träna om modellen) styr AI-språkmodeller bort från toxiskt innehåll genom att manipulera deras interna representationer. I tester på 10 olika språkmodeller minskade metoden toxicitet med upp till 69,38% och fungerar även på AI-modeller som kombinerar bild och text. Det smarta är att systemet lär sig exakt var gränsen går mellan giftigt och ogiftigt innehåll – och navigerar bort därifrån med minimal påverkan på modellens övriga förmågor.
Djupdykning
Varje gång du ber ChatGPT eller en annan AI om något, omvandlas din text till ett slags matematiskt rum – ett "latent space" – där ord och begrepp existerar som koordinater. Problemet med dagens metoder för att rensa bort toxiskt innehåll är att de liknar att sätta en bred filterlapp över den här kartan: trubbigt och ofta på bekostnad av modellens förmåga att faktiskt vara användbar. TARGRS gör något smartare – istället för att blockera efteråt lär sig systemet var gränsen mellan giftigt och icke-giftigt innehåll går inne i modellens eget tänkande, och navigerar sedan bort därifrån i realtid under varje svar som genereras. Det de flesta missar här är att problemet med AI-säkerhet sällan handlar om att modellen "vet" att något är fel men gör det ändå – det handlar om att toxicitet och normalspråk delar representationer djupt inne i nätverket, som ådror av malm i sten. En 69% minskning av toxicitet utan nämnvärd prestationsförlust är ett tecken på att det faktiskt går att separera dessa ådror kirurgiskt, snarare än att spränga hela berget. Att metoden dessutom fungerar på bildtolkande modeller antyder att fenomenet är strukturellt – det är inte ett språkproblem, det är ett representationsproblem som dyker upp oavsett indata.