Gencebay, müziğe 6 yaşında Kırım göçmeni ve Ukrayna Konservatuvarı mezunu klasik batı müzisyeni Emin Tarakçı'dan aldığı derslerle adım attı. Bağlama ve Türk halk müziği eğitimleriyle yetişen sanatçı, 10 yaşında ilk bestesini yaparak müzik dünyasına adını yazdı.
İstanbul Belediye Konservatuvarı'nda eğitim aldıktan sonra 1964 yılında TRT Ankara Radyosu sınavını kazandı ancak sınavda yaşanan usulsüzlük nedeniyle ayrıldı. Askerlik görevini Heybeliada'da bahriyeli olarak sürdürürken merasim bölüğü bandosun
da saksafon çalmaya devam etti.
TRT İstanbul Radyosu'nda bağlama sanatçılığı yaptıktan sonra kendi müziğini yapmaya karar veren Gencebay, Türk müziğinde caz ve rock müziği etkileşimiyle tanıştı. Kızılırmak Karakoyun, Ana, Kuyu gibi Türk filmlerinin müzik direktörlüğünü üstlendi.
1969 yılında çıkardığı "Bir Teselli Ver" ile ününe ün katan sanatçı, kendi müzik şirketi Kervan Plak'ı kurarak Türkiye'nin ilk yerli sermayeli plak şirketlerinden birini yaratmıştır.
Orhan Gencebay, Türk sinemasında 35 filmde başrol oynamış, 90'a yakın filmin müzik direktörlüğünü yapmış ve 1000'den fazla beste üretmiştir. Yasal olarak 67 milyon civarı plak ve kaset tirajına sahip olan sanatçının, korsan üretimlerle birlikte 200 milyon civarı tirajı olduğu tahmin ediliyor.
35 albümü bulunan Orhan Gencebay, müziğe kattığı özgün ve etkileyici tarzıyla Türk sanat müziği ve arabesk türlerinde iz bırakan bir sanatçı olarak öne çıkıyor.