Rolff debuterade i västtyska landslaget 1983 och var med i truppen till både EM 1984 och EM 1988 där han spelade två matcher i både mästerskapen. Han spelade även två matcher i VM 1986 där Västtyskland förlorade mot Argentina i finalen.[2]
Tränarkarriär
1997 blev Rolff anställd hos Hamburger som assisterande tränare till Felix Magath. 1998 blev han huvudtränare för SV Meppen men lämnade efter att klubben åkte ur 2. Bundesliga. Han återgick till att agera assisterande tränare till Karlsruher SC, VfB Stuttgart, Bayer Leverkusen samt Kuwait. Sedan 2004 är han assisterande tränare i Werder Bremen.