Sarr werd geboren in Nice en sloot zich op vijfjarige leeftijd aan bij de grootste club uit zijn geboortestad. Op 14 augustus 2016 volgde zijn debuut voor OGC Nice op zeventienjarige leeftijd in het competitieduel tegen Stade Rennais. Hij speelde de volledige wedstrijd centraal achterin aan de zijde van aanvoerder Paul Baysse. Na 60 minuten maakte de centrumverdediger het enige doelpunt van de wedstrijd.[2] Ook de week erna mocht Sarr opnieuw in de basiself starten in het uitduel tegen Angers SCO.[3] In augustus 2020 verhuisde Sarr naar Chelsea FC, in de Premier League. Hij mocht van de Londenaren direct ervaring opdoen bij FC Porto op huurbasis.