1932年出生，他的父亲Mickey Katz11岁就开始学习单簧管是一名著名犹太音乐家。受到家庭影响的Joel也是从小学习音乐，第一次登台表演是10岁的那一年。他的第一部影视剧作品是1952年的《About Face 》。
1967年的百老汇音乐剧《歌厅 Cabaret 》让他获得了托尼奖最佳特色男演员奖；1972年这部剧被改编后搬上大荧幕，Joel获得了奥斯卡最佳男配角奖、金球奖最佳电影男配角奖、BAFTA最有前途新人奖；而美国国家评论协会奖(National Board of Review Awards)更是把72年的最佳男配角奖同时授予了Joel和阿尔帕西诺饰演的《教父》。这也让他成为九个以同名剧（百老汇、电影）分别获得托尼奖和奥斯卡奖的演员之一。
69年的《George M!》（次年改编为电视电影由joel和Red Buttons等人主演），75年的《Goodtime Charley》、79年的《The Grand Tour》他又分别获得了托尼奖音乐剧最佳男演员奖提名。
他在电视剧方面基本都是作为客串明星，比如《Brooklyn Bridge》里客串Jacob Prossman获得