Høegh werd geboren in Odense en sloot zich aan in de jeugdopleiding van Odense BK. Op 30 augustus 2010 debuteerde hij in de Superligaen tegen FC Midtjylland.[3] Op 19 mei 2011 maakte hij zijn eerste competitietreffer tegen AC Horsens.[4] In totaal speelde de centrumverdediger 105 competitiewedstrijden voor de club uit zijn geboortestad.
FC Basel
In 2015 maakte hij voor anderhalf miljoen euro de overstap naar FC Basel. Op 19 juli 2015 debuteerde hij in de Zwitserse Super League tegen FC Vaduz.[5] Hij werd echter geen onbetwist basisspeler in Zwitserland en na twee jaar vertrok Høegh.
SC Heerenveen
Op 14 juni 2017 werd bekend dat Høegh voor twee seizoenen had getekend bij SC Heerenveen.