Plurai vill träna AI-agenter som självkörande bilar
Startup Plurai använder samma träningsmetodik som låg bakom självkörande bilar för att göra AI-agenter mer tillförlitliga. Tanken är att båda systemen är probabilistiska – de fattar beslut under osäkerhet – och därför kan dra nytta av liknande testning i simulerade miljöer. Det är ett intressant perspektivskifte: istället för att lappa på problemen i efterhand, byggs robustheten in från grunden.
Djupdykning
Plurai bygger infrastruktur för att testa och förbättra AI-agenter – de här automatiserade systemen som inte bara svarar på frågor utan faktiskt utför uppgifter, bokar möten, skriver kod, hanterar e-post. Analogin till självkörande bilar är träffande: precis som Tesla och Waymo behövde simulera miljoner mil körning för att hitta kantfall som "vad händer när ett barn springer ut bakom en parkerad bil?", behöver AI-agenter exponeras för tusentals konstiga, oväntade scenarion innan de sätts i produktion. Det de flesta missar i agentdiskussionen är att felet sällan ligger i att agenten är "dum" – det ligger i att ingen systematiskt testat vad som händer när ett steg i kedjan går snett och agenten improviserar vidare på fel grund. Plurai vill alltså lösa inte intelligensproblemet utan tillförlitlighetsproblemet, vilket är den tråkigare men mer akuta flaskhalsen för företag som faktiskt försöker driftsätta agenter idag.