V roce 2001, přibližně v pěti letech, se Leroy připojil k mládežnickému týmu "SG Wattenscheid 09". V něm hrál někdy do roku 2005, než se v tomto roce připojil k mládežnické akademii Schalke ("Nachwuchsleistungszentrum"). Poté v roce 2008 začal hrát za Bayer Leverkusen a v roce 2011 se vrátil do Schalke 04. Za jeho mládežnický tým hrál až do začátku roku 2014. Svou seniorskou klubovou kariéru zahájil v klubu Schalke 04 21. března 2014, kdy s ním podepsal tříletou profesionální smlouvu. Smlouva byla prodloužena do 30. června 2017. Svůj debutový zápas v bundeslize odehrál 20. dubna 2014. Svůj první gól v sezóně vstřelil 13. prosince 2014 proti '1. FC Köln' a svůj první gól v zápase 'Ligy mistrů' vstřelil 11. března 2015 proti 'Realu Madrid'. Poté 2. srpna 2016 podepsal pětiletou smlouvu s klubem Premier League Manchester City. Přestupová částka údajně činila 37 milionů liber, s příplatky na základě výkonů by se mohla pohybovat kolem 46,5 milionu liber.
Manchester City
V klubu debutoval 10. září téhož roku v manchesterském derby proti Manchesteru United. Dne 18. prosince téhož roku vstřelil svůj první gól za klub v zápase Premier League proti Arsenalu. Na Konfederačním poháru FIFA v roce 2017 si nezahrál, protože musel podstoupit korekční operaci, aby překonal svůj chronický problém s ucpaným nosem. Leroy pokračoval v dobrých výkonech i v sezóně 2017-2018 a za říjen 2017 získal ocenění 'Hráč měsíce Premier League'. V sezóně 2017-2018 byl součástí klubového týmu během 'FA Cupu'. Ve finále poháru EFL Cup 2018, které se konalo 25. února 2018 na stadionu ve Wembley, získal Manchester City trofej vítězstvím 3:0 nad Arsenalem. Leroy odehrál v zápase 77 minut, než byl vystřídán. V letech 2017-2018 získal titul "PFA Young Player of the Year" za svůj podíl na zisku titulu "Premier League" v letech 2017-2018, který získal Manchester City. Pro klub to znamenalo třetí titul v Premier League. Svůj první gól v manchesterském derby vstřelil 24. dubna 2019 při výhře Manchesteru City 2:0 nad Manchesterem United. V zápase FA Community Shield 2019 mezi týmy Manchester City a Liverpool utrpěl 4. srpna 2019 přetržený zkřížený vaz. Odehrál tak 13 minut, než byl vystřídán. Manchesteru City se podařilo trofej obhájit a zvítězit 5:4 na penalty.
Bayern Munchen
Leroy Sane opustil Man City a připojil se k Bayernu Mnichov 15. července 2020 za 49 milionů eur.