Når du tegner flere videnskabelige datapunkter, ønsker du måske at passe en kurve, der passer bedst til dine point ved hjælp af software. Kurven matcher imidlertid ikke dine datapunkter nøjagtigt, og når den ikke gør det, kan du eventuelt beregne rod-middelkvadratfejl (RMSE) for at måle, i hvilket omfang dine datapunkter varierer fra din kurve. For hvert datapunkt beregner RMSE-formlen forskellen mellem den faktiske værdi af datapunktet og værdien af datapunktet på den bedste fit-kurve.
Find den tilsvarende y-værdi på din best fit-kurve for hver værdi af x svarende til dine originale datapunkter.
Træk den faktiske værdi af y fra værdien af y på din bedst egnede kurve for hvert datapunkt, du har. Forskellen mellem den faktiske værdi af y og værdien af y på din bedst egnede kurve kaldes den resterende. Kvadratér hver rest, og summer derefter dine rester.
Del summen af dine rester med det samlede antal datapunkter, du har, og tag kvotientens firkant. Dette giver den gennemsnitlige firkantede fejl ved rod.