Temperatur er en innstilling som styrer hvor forutsigbart en språkmodell velger neste ord. Med lav temperatur velger modellen nesten alltid det mest sannsynlige ordet. Svarene blir stabile og nøkterne, og samme spørsmål gir omtrent samme svar hver gang.
Med høy temperatur tør modellen å velge mindre opplagte ord. Svarene blir mer varierte og kreative, men også mindre presise. Navnet er lånt fra fysikken, der høyere temperatur gir mer uro i et system. Det samme skjer i teksten.
Hvorfor det betyr noe for din bedrift
Mange opplever at et AI-verktøy enten svarer kjedelig eller finner på for mye. Ofte er temperaturen synderen, ikke modellen. Vet du at innstillingen finnes, kan du be leverandøren sette den riktig for hver oppgave: lav der presisjon teller, høyere der dere vil ha ideer å velge mellom.