De op 1 november 1978 geboren aanvaller begon zijn voetbalcarrière bij de Schiedamse amateurclub Excelsior '20. Op vrij late leeftijd werd Koevermans ontdekt door Sparta en mocht hij uitkomen voor het tweede elftal. Al snel mocht hij zijn debuut maken bij het eerste elftal van Sparta, dat op dat moment in de Eredivisie speelde. In het seizoen 2001-2002 degradeerde Sparta echter en Koevermans vervolgde zijn loopbaan in de eerste divisie.

Totdat in het seizoen 2004-2005 Sparta promoveerde en Koevermans naar AZ werd gehaald. Zijn eerste seizoen bij deze club was hij vooral bankzitter, maar zijn tweede seizoen mocht hij meer spelen en liet hij zien waar hij goed in is: goals maken. Hierop kon een uitnodiging van het Nederlands elftal niet meer wachten en in maart 2007 werd hij opgeroepen.

Op 30 augustus maakte Koevermans de overstap van AZ naar PSV, hier maakte hij op 1 september 2007 zijn debuut.