AI-styrning bör begränsa tillgång och kontroll – inte intelligens Forskare argumenterar för att det farligaste med kraftfulla AI-agenter inte är hur smarta de är, utan hur mycket de kan lära sig och kontrollera i omvärlden. Genom simuleringar visar de att intelligensdriven acceleration har ett naturligt tak – den begränsas av förhållandet mellan konkurrerande intelligensnivåer, oavsett hur svår uppgiften är. Det praktiska rådet: sätt upp institutionella flaskhalsar (obligatoriska godkännandesteg) och begränsa AI-systemens tillgång till information och fysiska system, snarare än att försöka begränsa intelligensen i sig.
Anthropic tar in Claude som mötesdeltagare i videosamtal Anthropic lanserar Claude Meetings, där AI:n dyker upp som en vanlig deltagare i videosamtal – kan svara på frågor, hämta information och hjälpa med planering under mötet. Funktionen är till en början tillgänglig för betalande Team- och Enterprise-användare och kompletteras av Claude Whiteboards och Claude Sheets för samarbete och kalkylark.
AI-agenter misslyckas ofta med att ställa rätt frågor innan de fattar beslut En ny studie visar att AI-agenter (LLM-baserade system som planerar och fattar beslut) har stora svårigheter att hämta in den information de faktiskt saknar – deras initiala planer är omöjliga att genomföra i 58–98% av fallen när information är ofullständig. Det kluriga är att agenterna inte är bättre på att fråga efter fakta som verkligen förändrar det optimala beslutet än fakta som inte spelar någon roll alls. Studien introducerar ett nytt testramverk kallat Ask2Decide med 43 planeringsuppgifter, och avslöjar också att riktiga människor är mycket sämre på att spontant ge korrigerande information än simulerade användare (43% jämfört med 7% utelämnar avgörande fakta).
AI-robotar lär sig samarbeta vid räddningsinsatser med hjälp av naturligt språk Forskare har byggt ett system där drönare och markrobotar koordinerar räddningsinsatser genom att tolka vanliga talinstruktioner via en stor språkmodell (LLM). I simulerade katastrofmiljöer räddade systemet 20–30% fler offer jämfört med tidigare metoder, lärde sig 2,3 gånger snabbare och förbättrade undvikandet av faror med 31%. Det intressanta är att robotarna spontant började specialisera sina roller utan att det var explicit programmerat – ett tecken på att koordinationen faktiskt fungerar på riktigt.
Plurai vill träna AI-agenter som självkörande bilar Startup Plurai använder samma träningsmetodik som låg bakom självkörande bilar för att göra AI-agenter mer tillförlitliga. Tanken är att båda systemen är probabilistiska – de fattar beslut under osäkerhet – och därför kan dra nytta av liknande testning i simulerade miljöer. Det är ett intressant perspektivskifte: istället för att lappa på problemen i efterhand, byggs robustheten in från grunden.
Anthropics grundare kan tjäna 2,5 miljarder kronor var på börsnotering Anthropics sju grundare väntas sälja aktier för upp till 2,5 miljarder kronor styck i samband med att AI-bolaget noteras på börsen. Noteringen kan värdera Anthropic – skaparna av AI-assistenten Claude – till hela 13,77 biljoner kronor, vilket skulle göra det till en av de största AI-börsnoteringarna hittills.
Gartner: AI skapar fler jobb än det slår ut fram till 2030 Analysföretaget Gartner spår att AI globalt skapar 10,6 miljoner jobb men tar bort 8,9 miljoner – en nettovinst på 1,7 miljoner tjänster till 2030. Det intressanta är fördelningen: tekniksektorn får 1,5 miljoner nya jobb trots att 70 procent av de anställda är starkt exponerade för AI, medan offentlig sektor tappar 500 000 jobb netto. Utöver direkta förluster räknar Gartner med att företag fram till 2030 skjuter upp rekrytering till hela fem miljoner planerade tjänster – utan att klassas som 'förlorade jobb'.
Google lanserar Gemini Decisions API Google har släppt ett API kallat Gemini Decisions, som låter utvecklare bygga in Geminis beslutsfattande förmågor direkt i egna applikationer. Detaljer om exakt vad API:et gör och vilka begränsningar som gäller är ännu inte helt tydliga utifrån källan, men det rör sig om ett verktyg för att integrera AI-driven logik i externa system. Det är ett litet men konkret steg i Googles strategi att göra Gemini tillgängligt som infrastruktur snarare än bara som en chattbot.
Anthropic förbereder börsnotering Anthropic har släppt en roadshow-video inför en kommande börsnotering (IPO), vilket ger en sällsynt titt in i hur bolaget presenterar sig för potentiella investerare. Simon Willison har dykt ner i materialet – intressant nog handlar det lika mycket om hur ett AI-bolag berättar sin historia för Wall Street som om tekniken i sig.
Databricks byggde en AI-agent som vågar säga emot chefen Databricks har utvecklat en intern AI-agent vars huvuduppgift är att ge vd Ali Ghodsi ärlig och obekväm återkoppling – utan att mjuka upp budskapet. Det är ett intressant grepp: i stället för att använda AI för att effektivisera processer används den här för att motverka det klassiska problemet att ingen vågar ifrågasätta chefen.
United Airlines blockerar AI-agenter från att boka biljetter United Airlines meddelade på onsdagen att de aktivt kommer att blockera AI-agenter från att genomföra flygbokningar i deras system. Det är ett tidigt tecken på att traditionella branscher börjar sätta upp murar mot automatiserade AI-verktyg – intressant nog just när tech-industrin satsar hårt på att göra just den typen av agenter till nästa stora grej.
OpenAI värvar nyckelperson från svenska AI-labbet Tzafon Simon Koser lämnar det svenska AI-labbet Tzafon för ett nytt jobb på OpenAI. Tzafon väckte stor uppmärksamhet förra sommaren när bolaget drog in nästan 100 miljoner kronor kort efter starten – så det är inte vem som helst som rycker vidare.
AI är både frälsaren och tidstjuven Dagens Samhälles chefredaktör Yasmine Winberg lyfter fram att debatten om AI är skev: vi pratar mest om hur tekniken sparar tid, men sällan om de nya bördor och utmaningar den samtidigt skapar. Det är en relevant påminnelse om att effektivitetsvinster sällan är gratis.
AI-datacenter planerar egna gaskraftverk på 181 gigawatt Långa kötider för elnätsanslutning får allt fler datacenterutvecklare att planera egna gasdrivna kraftverk – Bloomberg NEF har identifierat planerade anläggningar med en sammanlagd kapacitet på 181 gigawatt, varav över 90 procent i USA. Om alla byggs och används skulle de släppa ut 345 miljoner ton koldioxidekvivalenter per år, vilket är 152 miljoner ton mer än om elen tagits från det vanliga elnätet. Det intressanta är att kraftverken är tänkta som tillfälliga lösningar, men Bloomberg NEF påpekar att det kan bli ekonomiskt fördelaktigt att behålla dem permanent.
LLM-verktyget uppdateras till version 0.37.2 Simon Willisons kommandoradsverktyg LLM har fått en ny uppdatering, version 0.37.2. Artikeln saknar tillräcklig detaljinformation för att sammanfatta specifika förändringar i den här versionen.
Expert: AI-sajter kan stärka demokratisk insyn – men medborgare riskerar drunkna i information AI-drivna sajter som bevakar kommunpolitik kan fylla ett demokratiskt tomrum på orter där lokaljournalistiken har tappat mark, enligt offentlighetsexperten Nils Funcke. Han ser ett genuint värde i att fler medborgare får tillgång till vad som händer i kommunfullmäktige – men pekar på en central risk: när allt blir lättillgängligt kan vi paradoxalt nog bli sämre på att sålla det viktiga från bruset.