Han startede sin professionelle karriere i Cannes FC (1993-1995). Han kom til AC Milan (1995-1996) men spillede kun to ligakampe, inden han blev købt af Arsenal F.C. for 4 millioner pund.
Faktisk var købet af Vieira et krav fra Arsène Wengers side for at overtage trænerjobbet i Arsenal.
Han har vundet tre Premier League-titler (1998, 2002, 2004) og fire FA Cup-titler (1998, 2002, 2003, 2005) med Arsenal, og blev betragtet som én af de bedste defensive midtbanespillere i Premier League. 2005-2006 spillede han for Juventus, men skiftede i 2006 til Inter.