Erwin Koeman maakte zijn debuut in het betaald voetbal bij FC Groningen. Na één seizoen vertrok hij naar PSV. Hier speelde hij een aantal seizoenen en vertrok weer naar FC Groningen.

In 1985 ging Koeman naar België en ging voor KV Mechelen spelen. Hier behaalde hij de landstitel en de Europa Cup II. Na vijf jaar in Mechelen keerde Koeman terug bij PSV. Hier speelde hij nog vier jaar en de laatste vier jaar van zijn carrière speelde hij voor FC Groningen.

Koeman speelde in totaal 472 wedstrijden in het betaalde voetbal en wist hierin 92 te scoren.

Na zijn voetballoopbaan werd Koeman assistent-trainer bij PSV. In 2004-2005 werd hij hoofdcoach van RKC Waalwijk, maar na één seizoen vertrok hij hier. Hij werd per 1 juli 2005 hoofdtrainer bij Feyenoord. Na de laatste competitiewedstrijd van seizoen 2006-2007 besloot hij zijn contract direct op te zeggen. Dit omdat de resultaten erg tegenvielen.