Johanns toimi Lincolnin pormestarina 1991–1998 sekä Nebraskan kuvernöörinä 1999–2005.[2] Hän erosi virastaan kuvernöörinä noustuaan Ann Venemanin seuraajaksi Yhdysvaltain maatalousministeriksi tammikuussa 2005.[3] Syyskuussa 2007 Johanns jätti ministerin tehtävät ja ilmoitti lokakuussa pyrkivänsä senaattoriksi.[4] Hänet valittiin Yhdysvaltain senaattiin marraskuun 2008 vaaleissa.[5] Helmikuussa 2013 hän ilmoitti, ettei pyri jatkokaudelle vuoden 2014 vaaleissa.[6]