Restsom van kwadraten (RSS) is een veelgebruikt concept in de statistiek en regressieanalyse dat de som van kwadraatverschillen tussen waargenomen waarden en voorspelde waarden uit een regressiemodel vertegenwoordigt. Dit impliceert de duidelijke betekenis van residuen: residuen verwijzen naar de verschillen of afwijkingen tussen waargenomen waarden en voorspelde waarden uit het regressiemodel. Ze geven de mate van mismatch aan tussen de werkelijke waarden en het model.

In de regressieanalyse gebruiken we een wiskundig model om de relatie tussen onafhankelijke variabelen en afhankelijke variabelen te beschrijven. Via het regressiemodel kunnen we de waarden van de afhankelijke variabele voorspellen op basis van de waarden van de onafhankelijke variabelen. Vanwege verschillende redenen, zoals willekeurige fouten en onnauwkeurigheden in de modelaannames, zullen er echter verschillen zijn tussen de voorspelde waarden en de werkelijk waargenomen waarden, d.w.z.: Resterend = Waargenomen waarde - Voorspelde waarde

Residuen kunnen positief of negatief zijn, waarbij positieve residuen aangeven dat de waargenomen waarden hoger zijn dan de voorspelde waarden, en negatieve residuen aangeven dat de waargenomen waarden lager zijn dan de voorspelde waarden. Residuen kunnen worden gebruikt om de goede pasvorm van het model op de gegevens en de nauwkeurigheid van voorspellingen te meten.

De berekening en analyse van residuen zijn cruciaal voor de evaluatie en diagnose van regressiemodellen. Door de verdeling, statistische eigenschappen en patronen van residuen te analyseren, kunnen we de aannames van het regressiemodel testen, de goedheid van de pasvorm van het model evalueren en uitschieters, invloedrijke punten of niet-lineariteit in het model identificeren. Voor een geschikt regressiemodel moeten residuen kenmerken vertonen zoals willekeurige verdeling, gemiddelde dicht bij nul en constante variantie.

Samenvattend dienen residuen als kwantitatieve indicatoren voor het meten van de verschillen tussen waargenomen waarden en voorspelde waarden uit een regressiemodel, en ze hebben significante implicaties voor het begrijpen van de nauwkeurigheid van het model, de goedheid van de pasvorm en het identificeren van abnormale situaties.

Restsom van kwadraten, zoals de naam al doet vermoeden, is de berekening van het kwadraat van elk restant voor elke waargenomen waarde, en deze vervolgens optellen. De specifieke berekeningsstappen zijn als volgt:
Bereken het residu voor elke waargenomen waarde (trek de voorspelde waarde af van de waargenomen waarde).

Kwadraat elke restwaarde.
Som alle kwadraatrestwaarden op om de restsom van kwadraten te verkrijgen.
De restsom van kwadraten kan de goedheid van de pasvorm van het regressiemodel op de gegevens meten. Als de resterende som van kwadraten klein is, geeft dit aan dat de verschillen tussen de voorspelde waarden en de werkelijk waargenomen waarden minimaal zijn, wat suggereert dat het model goed bij de gegevens past. Aan de andere kant, als de resterende som van kwadraten groot is, geeft dit aan dat de verschillen tussen de voorspelde waarden en de werkelijk waargenomen waarden significant zijn, wat wijst op een slechte aanpassing van het model aan de gegevens.
In regressieanalyse zoeken we meestal naar de best passende lijn of curve die de resterende som van kwadraten minimaliseert om het optimale model te vinden. Dit kan worden bereikt door middel van methoden zoals de kleinste kwadraten methode. Het doel van het minimaliseren van de restsom van kwadraten is om de voorspellingen van het model zo dicht mogelijk bij de werkelijk waargenomen waarden te brengen, waardoor de nauwkeurigheid en betrouwbaarheid van het model worden verbeterd.