Anthropic bygger system för att verifiera AI-modellers identitet
Anthropic utvecklar ett system kallat FlashProve som ska göra det möjligt för vem som helst att bekräfta att ett AI-svar verkligen kommer från den modell det påstår sig komma från. Det handlar i grunden om ett autentiseringsproblem – i takt med att fler AI-modeller används i känsliga sammanhang blir det allt viktigare att kunna lita på att du faktiskt pratar med den modell du tror dig prata med.
Djupdykning
Anthropic bygger alltså ett system kallat FlashProve som fungerar ungefär som ett digitalt fingeravtryck – en kryptografisk signatur som bevisar att ett svar faktiskt kom från just den AI-modell den påstår sig vara. Tanken är att vem som helst ska kunna verifiera detta, vilket adresserar ett problem som växt i takt med att AI-modeller blivit billigare att kopiera och distribuera: vem garanterar att du faktiskt pratar med Claude och inte en billig kopia som poserar som Claude? Det här handlar mindre om användarna och mer om ett växande ekosystem av företag som bygger produkter ovanpå AI-modeller och behöver kunna lita på att det de får levererat är det de betalat för. Det flesta missar att detta egentligen är ett infrastrukturproblem – samma typ av problem som SSL-certifikat löste för hemsidor på 2000-talet, och som nu behöver lösas för AI-svar i realtid. Om det lyckas lägger det grunden för en slags AI-provenienskedja, där varje svar kan spåras tillbaka till sin källa – vilket skulle förändra hur AI-ansvar och upphovsrätt hanteras juridiskt.