Cohen vystudoval chemii a biologii na Brooklyn College. V roce 1943 získal bakalářský titul a pracoval jako bakteriolog v závodě na zpracování mléka. Později, v roce 1945, získal magisterský titul v oboru zoologie na Oberlin College. V roce 1948 získal také doktorát na katedře biochemie Michiganské univerzity.
V padesátých letech pracoval Cohen s Ritou Levi-Montalciniovou na Washingtonově univerzitě v St. Louis. Izoloval nervový růstový faktor a poté objevil epidermální růstový faktor. V roce 1959 začal vyučovat biochemii na Vanderbiltově univerzitě.
V roce 1983 obdržel Cohen také cenu Louisy Gross Horwitzové na Kolumbijské univerzitě a v roce 1986 Národní medaili za vědu.
Cohen zemřel 5. února 2020 v Nashvillu v Tennessee ve věku 97 let.