Hva er en parameter?
Inne i en modell ligger et enormt antall tallverdier som avgjør hvordan den reagerer på det den får inn. Disse kalles parametere. Under trening justeres de bittelitt for hvert eksempel, helt til svarene treffer godt nok. En ferdig modell er i praksis denne samlingen av innstilte verdier.
Antall parametere brukes ofte som mål på størrelse, og de største språkmodellene har mange milliarder. Flere parametere gir mer kapasitet, men også høyere kostnad per svar, tregere svar og større strømforbruk.
Det viktigste å vite er at flere ikke automatisk er bedre for din oppgave. En liten modell trent på riktige opplæringsdata slår ofte en gigant på en avgrenset jobb.
Eksempel fra hverdagen
Tenk på et miksebord i et lydstudio med hundrevis av skyveknapper. Hver knapp gjør lite alene, men sammen avgjør de hvordan lyden blir. Treningen av en modell er lydteknikeren som tålmodig justerer alle knappene til det sitter. Parameterne er knappene.
Hvorfor det betyr noe for en mindre bedrift
Når en leverandør skryter av modellstørrelse, spør heller om det som faktisk angår deg: svartid, kostnad per oppgave og treffsikkerhet på deres egne dokumenter. Størrelse er et middel, ikke et mål.