Első együttesében, nem is a saját nevén, hanem Vance Arnold művésznéven lépett a színpadra.1968-ban fedezte fel a Procol Harum együttes menedzsere. Cocker első lemeze hatalmas siker lett, és habár ezután szinte évenként jelentkezett nagylemezzel, az 1970-es években nem tudta megismételni korábbi sikereit. Ezután A zenész alkohol, és kábítószerfüggő lett. 1983-ban tudott visszatérni a csúcsra, az Up Where We Belong, című dallal. 1986-ban hatalmas sikert aratott a You Can Leave Your Hat On című dala, mely a 9 és fél hét című filmben volt hallható. Az 1990-es években ismét újítani tudott – igaz, mások (például John Lennon, Paul McCartney vagy a U2) slágereit adta elő.