1944-1946 yılları arasında gezginci Sadi Tek Tiyatro'sunda sahne aldıktan sonra 1950'lerin başında İstanbul'a taşındı. İstanbul'da hem fabrikada çalıştı hem de marangozluk yaparak geçimini sürdürdü. Ses Tiyatrosu'nda Vahi Öz'ün grubunda oynadı.
Ali Şen, Türk sinemasında önemli bir yere sahiptir ve 1954 yılında Turgut Demirağ'ın "Ahretten Gelen Adam" filmiyle sinema kariyerine adım attı. Genellikle kötü karakterlerde başarılı performanslar sergileyen Ali Şen, "Yılanların Öcü" (1962) ve "Vurun Kahpeye" (1964) gibi filmlerde canlandırdığı karakterlerle izleyici tarafından unutulmaz bir oyuncu olarak kabul edilir.
Ali Şen, Türk sinemasına önemli katkılarda bulunmuş bir sanatçı olarak kabul edilirken, 15 Aralık 1989 tarihinde İstanbul'da beyin kanaması sonucu 71 yaşında yaşamını yitirdi.
Ali Şen'in sanat dünyasındaki etkisi ve oyunculuk kariyeri Türk sinemasının önemli bir parçası olarak hatırlanmaya devam ediyor.
