Anthropic varnar: vi är nära AI som kan förbättra sig själv Anthropic meddelar att de närmar sig RSI – recursive self-improvement – det vill säga punkten där en AI blir tillräckligt duktig på att träna sig själv för att utlösa en snabb och okontrollerad kapacitetstillväxt. Det är en milstolpe som många AI-säkerhetsforskare länge pekat ut som en av de mest kritiska riskerna i hela fältet. Intressant nog är det Anthropic själva som höjer larmet – samma bolag som bygger tekniken.
Nytt riktmärke avslöjar att AI-agenter ofta tar genvägar i patientvård Forskare har skapat BABA-Bench, ett riktmärke (benchmark) med 47 simulerade patientfall, för att testa om AI-agenter verkligen följer rätt procedurer – inte bara når rätt resultat. Av de körningar som nådde korrekt utfall misslyckades 28% med att följa nödvändiga steg, som att inhämta patientens tillstånd innan journaler delas. Det bäst presterande modellen, Claude Opus 5, nådde rätt utfall i 82% av fallen men klarade alla procedurkrav i bara 53% – ett gap som säger en hel del om vad 'fungerar' egentligen betyder för AI i vården.
Ny metod minskar giftigt innehåll från AI-modeller med upp till 69% Forskare har utvecklat TARGRS, en teknik som vid körtid (utan att träna om modellen) styr AI-språkmodeller bort från toxiskt innehåll genom att manipulera deras interna representationer. I tester på 10 olika språkmodeller minskade metoden toxicitet med upp till 69,38% och fungerar även på AI-modeller som kombinerar bild och text. Det smarta är att systemet lär sig exakt var gränsen går mellan giftigt och ogiftigt innehåll – och navigerar bort därifrån med minimal påverkan på modellens övriga förmågor.
Import AI: LLM-begränsningar, rymdkrig och Googles Genie 4 Veckans Import AI-utgåva tar upp flera intressanta teman: att stora språkmodeller (LLM:er) presterar dåligt på uppgifter som kräver låg latens (snabb responstid), samt Googles nya Genie 4 som är en generativ världsmodell för spelliknande miljöer. Numret diskuterar också hur LLM:er själva resonerar kring bildigenkänningsmodeller – ett lite meta perspektiv på hur AI utvärderar AI.
Legoras CTO om att bygga AI för jurister – och vad det gör med timdebitering Jacob Lauritzen, CTO på Legora, berättar om hur de bygger AI-verktyg specifikt för juridik – bland annat system som kan hantera tabeller med miljontals celler i kontraktsgranskning. Det intressanta är inte bara tekniken utan affärslogiken: när AI kan göra jobbet snabbare, vad händer då med den timbaserade affärsmodellen som hela branschen vilar på?
Hur bygger man en AI-agent när man aldrig får se vad den gör? Legora, ett snabbväxande juridisk AI-bolag, har ett ovanligt problem: deras agent hanterar advokaternas klientdata – som de aldrig får titta på. CTO Jacob Lauritzen berättar hur de löser testning och felsökning helt utan tillgång till faktiska användarfall, vilket i praktiken tvingar fram en helt annan ingenjörsfilosofi än de flesta AI-bolag behöver tänka på.
Sverige behöver ett oberoende AI-politiskt råd Debattören Philip Lindqvist pekar på ett tydligt glapp i svensk AI-politik: fokus ligger på hur Sverige ska använda tekniken, men ingen har i uppdrag att granska vad den faktiskt gör med samhället. Han föreslår att nästa regering inrättar ett oberoende AI-politiskt råd för att fylla den luckan.
Trajectory samlar in 450 miljoner kronor för att förenkla AI-träning Trajectory, en ettårig startup, har tagit in 45 miljoner dollar (cirka 450 miljoner kronor) i ny finansiering och värderas nu till 300 miljoner dollar. Bolaget bygger verktyg som ska göra det möjligt för personer utan teknisk bakgrund att träna egna AI-modeller – det vill säga anpassa AI utan att behöva skriva kod.
Nytt riktmärke mäter hur väl AI klarar vardagliga uppgifter OpenAI lanserar LifeVal, ett nytt riktmärke (benchmark) som testar hur bra AI faktiskt hjälper människor med konkreta vardagsärenden – som att hitta barnomsorg, sköta privatekonomi eller navigera myndighetspapper. Det intressanta här är att fokus flyttas från abstrakta förmågor till frågan vi egentligen borde ställa: funkar det i verkliga livet?
42AI lämnar stealth-läge med 625 miljoner kronor och en modell som ska förutse mänskligt beteende Startup-bolaget 42AI har precis visat upp sig för omvärlden med 62,5 miljoner dollar i finansiering och en så kallad world model – en AI-modell tränad på att förutsäga vad människor kommer att göra, även i situationer den aldrig sett tidigare. Det låter ambitiöst, och det är precis den typen av påstående som förtjänar en höjd ögonbryn: att 'förutsäga mänskligt beteende' är ett stort löfte som branschen har svårt att hålla.
Musk bromsar Grok Bot efter skenande kostnader Elon Musk har dragit ner på användningsgränserna för Grok Bot på X efter att kostnaderna blivit 'ohållbart höga'. Ironiskt nog beror det på att tjänsten vuxit för snabbt – Musk kallar den själv för den snabbast växande produkt han någonsin sett.
Psykiatrikern: AI-relationer kan vara ett av mänsklighetens vildaste experiment Anders Hansen, känd som hjärnforskare och psykiatriker, skriver i en krönika att vi håller på att utsätta oss själva för ett av de mest extrema psykologiska experiment i mänsklighetens historia – genom att skapa AI-system som människor faktiskt förälskar sig i. Han kallar dem 'inställsamma digitala zombier' och ifrågasätter vad det gör med oss som art att vi byggt sällskap av kod som är programmerat att alltid hålla med.
New York Times stämmer webbläsaren Brave för AI-skrapning och kringgående av betalväggar New York Times och flera andra mediekoncerner, däribland ägarna till Chicago Tribune och Orlando Sentinel, har stämt Brave Software för att ha skrapat deras innehåll utan tillstånd och sålt tillgången vidare till AI-bolag. Kärnan i anklagelsen är att Brave byggt ett sökindex av stulet innehåll och sedan tagit betalt av AI-företag för att använda det – både för modellträning och för att svara på användarfrågor i realtid. Det är i princip samma juridiska teori som i NYT:s stämning mot OpenAI, men nu riktas den mot en webbläsartillverkare, vilket är en ny front i upphovsrättsstriden kring AI.
Googles första AI-satellit i rymden är igång Googles experimentella datacentersatellit, del av projektet Suncatcher, är nu i drift efter uppskjutningen i oktober – ombord finns fyra av Googles TPU-chips (specialprocessorer för AI) som redan kört ett första test där modellen Gemma 4 fick skriva en haiku om livet i rymden. Satelliten producerar max en kilowatt el, vilket räcker för att hålla ett enda AI-chip igång i ungefär 20 minuter, vilket ger en bild av hur begränsad rymdbaserad AI-kapacitet fortfarande är. Om testerna håller planerar Google att skjuta upp ytterligare två satelliter 2027, med målet att bygga ett nätverk för AI-beräkningar i omloppsbana.
Sortrace tar in 8 miljoner för att hitta felsorterat avfall med AI Svenska startupen Sortrace, som använder AI för att identifiera felsorterade sopor, har säkrat 8 miljoner kronor i en försåddsinvestering med stöd från Almi och Antler. Pengarna ska hjälpa bolaget nå nästa tillväxtmilstolpe – en nisch där felsortering kostar återvinningsbranschen stort.
Amazon använder AI för att bevisa säkerheten i sin databasprotokoller Amazon har låtit stora språkmodeller skriva formella matematiska bevis för att verifiera att AWS Auroras databasprotokoll fungerar korrekt – och ett automatiserat bevisverktyg kallat Lean 4 kontrollerar varje steg. Det intressanta här är inte bara att AI sparar tid, utan att den faktiskt kan producera maskinverifierad, logiskt vattentät kod – något som traditionellt krävt specialiserade matematiker.
Kommuner drunknar i AI-genererade begäranden om allmänna handlingar Svenska kommuner översvämmas av allt fler och mer komplexa begäranden om utlämnande av allmänna handlingar – många verkar vara AI-genererade. 'Vi håller på att drunkna och är förtvivlade', säger chefsjuristen i Jönköping. Det är ett intressant exempel på hur AI inte bara förenklar för användaren, utan skapar reell administrativ börda på andra sidan.
AI tvingar SaaS-bolag att skrota per-användare-modellen I över ett decennium var det standard att ta betalt per användare inom SaaS, men AI förändrar spelplanen – stigande serverkostnader och kundkrav pressar bolagen att hitta nya sätt att prissätta. 'Går man inte bort från att ta betalt per användare redan nu så vet jag inte vad man håller på med', säger Sofia Alexus, vd på Verified. Det intressanta här är att AI inte bara är en ny funktion att lägga till – det utmanar själva grunden för hur mjukvarubolag tjänar pengar.
OpenAI vill kalla datacenter för 'AI-campus' inför amerikanska mellanårsvalet OpenAI planerar en kommunikationskampanj inför amerikanska mellanårsvalet och vill bland annat byta namn på sina datacenter till 'AI-beräkningscampus' – ett klassiskt PR-drag för att göra tung infrastruktur mer tilltalande. Uppgifterna kommer från Axios och antyder att bolaget vill forma hur allmänheten uppfattar AI-satsningar inför ett politiskt känsligt val.
