OpenAI uppdaterar ramverket för hur deras AI ska bete sig
OpenAI har publicerat en uppdaterad version av sin 'Model Spec' – ett dokument som styr hur deras AI-modeller ska tänka och prioritera. Den nya versionen lyfter fram fem kärnvärden som ska guida mer avancerade modeller mot bättre omdöme och respekt för mänsklig kontroll. Det intressanta är att OpenAI nu tydligt skriver ner spelreglerna i takt med att modellerna blir kraftfullare – en slags konstitution för AI-beteende.
Djupdykning
OpenAI har uppdaterat sin "Model Spec" – i princip ett konstitutionsdokument som talar om för deras AI-modeller hur de ska tänka, prioritera och bete sig när de ställs inför svåra avvägningar. De fem kärnvärdena handlar om att AI:n ska vara säker, följa etiska principer, följa OpenAIs riktlinjer, vara genuint hjälpsam – och just i den ordningen när de krockar. Det låter tamt, men prioriteringsordningen är egentligen det politiskt laddade i hela dokumentet. Det de flesta missar är att detta inte primärt är ett tekniskt dokument – det är ett maktdokument. Vem bestämmer vad "mänsklig intention" faktiskt betyder när en användare vill en sak, ett företag en annan, och samhället kanske en tredje? OpenAI sätter sig själva som den som tolkar dessa konflikter, vilket innebär att deras värderingar hårdkodas in i system som används av hundratals miljoner människor. Ju kapablare modellerna blir, desto mer verklig blir den makten – ett AI som verkligen kan agera autonomt i världen är inte längre bara en chatbot som svarar fel, utan en aktör vars felsteg får konsekvenser. Parallellen till konstitutionsrätt är inte långsökt: precis som grundlagar tolkas om av varje ny generation domstolar, kommer Model Spec att tolkas och vridas av framtida träningsomgångar på sätt OpenAI idag inte kan förutse.