Harper debuteerde in 1993 op het hoogste niveau in het eerste team van Newcastle United. Hij keepte daarnaast op huurbasis voor Bradford City, Gateshead, Stockport County, Hartlepool United en Huddersfield Town. Voor Harper eerste keus werd in het doel van Newcastle, was hij er reservekeeper achter achtereenvolgens Pavel Srníček (1993-'98), Shaka Hislop (1995-'98) en Shay Given (1997- januari 2009). Gedurende Givens laatste seizoenen bij Newcastle kwam Harper regelmatig aan spelen toe door blessures van eerstgenoemde. Als eerste doelman werd Harper in het seizoen 2009/10 met Newcastle kampioen in de Championship, waarop promotie naar de Premier League volgde.