System One: en ny modellkategori på Berget AI

Idag lanserar vi System One, en ny modellkategori på Berget API. Du skickar ett tillstånd och en uppsättning typerade frågor; varje svar kommer tillbaka som ett strukturerat omdöme – ett val med sina sannolikheter, en nivå på en skala, eller en ja/nej-sannolikhet. Ingen prosa att tolka. Vår första modell i kategorin, Laya, finns nu för utvärdering, körande på infrastruktur i Sverige.

Vad en System One-modell gör

Mjukvara tillbringar sina dagar med att fatta små omdömen. Vilket team äger det här ärendet? Finns det en nyckel i den här filen? Finns den här posten redan? Det vanliga greppet är att prompta en chattmodell och tolka svaret som fri text. Det fungerar tills beslutet hamnar i en requests väg: prosan måste tolkas, promptar bränner tokens, och omförsök lägger latens på en operation som borde vara över på millisekunder.

System One gör det till en typerad request: ett tillstånd – ett chattmeddelande, en post, ett skalkommando – plus valfritt antal frågor:

• choice – välj ett av namngivna kriterier; returnerar vald nyckel, ett konfidensvärde och sannolikheten för varje alternativ.
• noul – en ja/nej-fråga; returnerar en sannolikhet mellan 0 och 1.
• score – en nivå på ordnade kriterier; returnerar nivån med sina sannolikheter.

En request bär många frågor, besvarade i ett svep. Varje svar innehåller ett usage-fält, så mätare och budgetar uppför sig som för chattkompletteringar.

curl https://api.berget.ai/v1/systemone \
  -H "Authorization: Bearer $BERGET_API_KEY" \
  -H 'Content-Type: application/json' \
  -d '{
    "model": "laya-latest",
    "state": "I was charged twice.",
    "questions": {
      "route": {"type": "choice", "instructions": "Which team?",
                "criteria": {"billing": "Payments", "technical": "Bugs"}},
      "refund": {"type": "noul", "instructions": "Does the customer ask for a refund?"}
    }
  }'

Byggd för den snabba änden

Laya är för frågor där ett snabbt, avgränsat svar slår ett långsamt och briljant: hitta information, dirigera ärenden, avduplicera poster, förhandsfiltrera högvolymsströmmar. Ett internt experiment visar mönstret: en agent som söker i en kodbas, där Laya väljer nästa steg – ls, grep eller cat, och mot vilket mål – på ungefär 25 ms per beslut. En tio-stegs-sökning klarades på 2,1 sekunder, varav det mesta gick åt att läsa filerna modellen pekade ut, i stället för filerna en chattmodell gissade sig fram till.

För bedömningar med verkliga konsekvenser – compliance-omdömen, nyanserade avvägningar – använd en av de större modellerna. Alla Bergets modeller ligger bakom samma API och nyckel, så ett vanligt upplägg är att låta Laya filtrera högvolymen och skicka de svåra eller riskabla fallen vidare till en större modell.

Kompatibel med Jev från dag ett

TypeSafe AI myntade kategorin System One och lanserade Jev tidigare den här månaden. Laya betjänar Jev-kontraktets request- och svarsformat, usage-fält och batchbeteende – 24 av 25 konformanskontroller går igenom; den som fallerar (val bland ett enda alternativ) är ett kantfall som fixas. Om du redan anropar Jev via TypeSafe:s SDK:er är bytet till System One en konfigurationsändring:

from typesafe_sdk import TypeSafeClient  # typesafe-sdk 0.7.1

client = TypeSafeClient(
    base_url="https://api.berget.ai",
    api_key=key,
    model="laya-latest",
)

import { TypeSafeClient } from '@typesafe-ai/sdk'; // 0.6.0

const client = new TypeSafeClient({
  baseURL: 'https://api.berget.ai',
  apiKey: process.env.BERGET_API_KEY,
  defaultModel: 'laya-latest',
});

Snabb, och mätt

Vi tidtog motorerna på fyra sviter – fasta uppsättningar testfrågor, var och en riktad mot en typ av omdöme, som att hitta en nyckel i en fil eller välja nästa steg i en uppgift. Tre motorer svarade: Jev på TypeSafe AI:s hostade API (jev-1.13.0), och en Qwen 3.5-4B och Laya, som båda körde på våra servrar i Sverige. Anropet till Jev över internetet lade på en rundtripp på cirka 178 ms, så den rättvisa jämförelsen är motoruppskattningen – total tid minus nättid:

Under belastning, Laya mot en Qwen 3.5-2B med samma jobb och samma förutsättningar – tre repliker per motor, åtta frågor per request, en servicenivå på 500 ms:

Noll fel, och varje svar inom 500 ms-servicenivån, för båda motorerna på alla samtidighetsnivåer.

Tidig i träffsäkerhet – och vi säger det

Hastighet är värt lite om svaren är fel, så här kommer den del vi hellre publicerar än försvarar senare: på samma sviter ligger Laya efter de större motorerna. På kärnsviten har den rätt i 56,4 % av frågorna, mot 88,5 % för Jev på TypeSafe:s API och 84,6 % för Qwen 3.5-4B – och den är översäker på sina egna svar. Laya idag är den öppna flerspråkiga beslutsmodellen från ConvAI Innovations, serverad som den är. Den luckan är därför Laya bara släpps för utvärdering, bakom kvalitetsportar, medan vi märker upp vår egen beslutsdata för att finjustera den. Det finns tidiga ljuspunkter: på frågor om två poster är dubbletter når Laya 75 %, samma som Jev och Qwen. Vi publicerar fullständiga tabeller, metod och dataset i ett separat benchmark-inlägg.

Tills siffrorna flyttar på sig: behandla Layas sannolikheter som antydan, och skicka omdömen med verkliga konsekvenser till en modell som förtjänar sin konfidens.

Där datan bor

System One körs på våra servrar i Sverige, under EU-jurisdiktion, med nollretention: tillstånd, frågor och svar lagras aldrig, analyseras aldrig och används aldrig för träning – samma policy täcker hela plattformen. För alla som lägger känslig data framför en modell sitter motorn som dömer inom samma jurisdiktion som datan själv. Inget att konfigurera, ingen residensväxel att komma ihåg. Datan lämnar aldrig landet.

Prova själv

Laya är öppen för utvärdering nu och faktureras med €0,50 per miljon input-tokens – svaren bär inga output-tokens. Skapa en API-nyckel i Bergets konsol, peka TypeSafe:s SDK mot https://api.berget.ai och skicka din första request till /v1/systemone – curlen ovan är komplett. Hittar du kantfallen där Laya har fel vill vi hellre höra om dem från dig än upptäcka dem i produktion.