Markus Rehnström stod för Kristbergs avgörande mål efter 62 minuter.
Gästerna Vikingstad började bäst och gjorde 0-1 redan i matchupptakten. Efter bara tre minuter slog Axel Carlheim till.
Vikingstad ökade ledningen till 0-2 tidigt i matchen, genom Milos Antic, i nionde minuten.
I 26:e minuten slog Sebastian Egnell till, och reducerade åt Kristberg.
Kristberg kvitterade till 2-2 efter en dryg halvtimmes spel, genom Chris Jaakkola.
Kristberg tog ledningen bara sju minuter senare genom Markus Rehnström. Med en halvtimme kvar att spela fick Linus Siverholm träff och kvitterade för Vikingstad.
Med en knapp halvtimme kvar att spela nätade Markus Rehnström på nytt och avgjorde matchen. Det fastställde slutresultatet till 4-3.
Vikingstad har haft en tuff start på serien och har bara två poäng efter fem spelade matcher. Kristberg har sju poäng.
I nästa match möter Vikingstad Västerlösa borta på lördag 4 september 12.00.