Hur bygger man en AI-agent när man aldrig får se vad den gör?
Legora, ett snabbväxande juridisk AI-bolag, har ett ovanligt problem: deras agent hanterar advokaternas klientdata – som de aldrig får titta på. CTO Jacob Lauritzen berättar hur de löser testning och felsökning helt utan tillgång till faktiska användarfall, vilket i praktiken tvingar fram en helt annan ingenjörsfilosofi än de flesta AI-bolag behöver tänka på.
Djupdykning
Legora bygger AI-agenter för jurister, men har ett fundamentalt problem som de flesta AI-startups aldrig behöver tänka på: de får aldrig se vad deras produkt faktiskt gör. Allt som en advokat matar in – klientdokument, avtal, känslig korrespondens – är skyddat av advokatsekretess och tillhör klienterna, inte Legora. Det innebär att man inte kan göra det som annars är standard i AI-utveckling: logga, analysera och felsöka med riktiga användardata. Jacob Lauritzen och teamet tvingas alltså bygga testmiljöer med syntetisk data och förlita sig på indirekt feedback – typ om advokaten faktiskt använder outputen eller kastar den – istället för att direkt se var agenten misslyckas. Det de flesta missar när de hör om "AI för jurister" är att regulatoriska och etiska begränsningar inte är ett hinder som man löser med bättre teknik – de formar fundamentalt hur man överhuvudtaget kan bygga produkten. Det är skillnaden mellan att bygga en bil med öppna dörrar och en ubåt: du behöver tänka om allt från grunden, inte bara lägga på ett lager säkerhet i slutet. Företag i sjukvård, finans och juridik lever i den här verkligheten varje dag, men det är sällan det pratas om när AI-hype dominerar konversationen.