Jan Ullrich jel Tour de France poprvé v roce 1996. Zde vyhrál etapu a stal se celkově druhým za svým týmovým kolegou Bjarnem Riisem. Někteří odborníci tvrdí, že Jan Ullrich mohl v tom roce Tour de France vyhrát, ale nestalo se tak, protože pomohl svému týmovému kolegovi Tour zdolat.
V roce 2007 Bjarne Riis prohlásil, že při vítězství na Tour 1996 užíval drogy. V roce 1997 vyhrál Jan Ullrich Tour de France, když mu bylo 23 let (čtvrtý nejmladší vítěz Tour od roku 1947). Během tohoto roku vyhrál Tour de Suisse, German-Tour a HEW-Cyclassics. Na konci roku byl v Německu zvolen "sportovcem roku".