Coster begon in de jeugd te voetballen bij amateurclub Alphense Boys. Hier werd hij opgemerkt door betaaldvoetbalclub ADO Den Haag, dat hem in het seizoen 2000/2001 in de jeugdopleiding opnam. In de jeugd van ADO Den Haag heeft Coster deel uitgemaakt van diverse Nederlandse jeugdselecties. Coster maakte op 4 maart 2007 zijn debuut in het betaald voetbal. In de wedstrijd ADO Den Haag tegen Heracles Almelo, viel Coster in de 79ste minuut in voor Eljero Elia.
Coster kwam in de zomer van 2008 over van ADO Den Haag, waar hij geen basisspeler was, naar FC Dordrecht, waar hij eerst op amateurbasis kwam te spelen. In dienst van FC Dordrecht speelde hij in het seizoen 2008/2009 35 wedstrijden, waarin hij één keer scoorde. Kleine Coster maakte vooral na de winterstop van datzelfde seizoen een sterke indruk waarna FC Dordrecht zijn contract met 2 jaar verlengde tot de zomer van 2011. Wederom werd zijn contract met een jaar verlengd tot 2012. In de zomer van 2012 maakt Coster de overstap naar FC Volendam waar hij basisspeler was in het eerste team. In juni 2014 is Coster door RKC Waalwijk voor twee jaar ingelijfd. In 2016 verruilde hij RKC Waalwijk voor DOVO.