川岛雄三出生于青森县下北郡田名部町。毕业于青森县立野边地中学（现为青森县立野边地高等学校）。明治大学文艺系毕业后，加入松竹大船的导演部门。相继担任过岛津保次郎、吉村公三郎、小津安二郎、野村弘将、木下惠介的副导演后，于1944年晋升为导演，之后推出了根据织田作之助原作改编的导演处女作《回来的男人》。
战后，川岛拍摄了大量的低成本类型片。1954年移籍日活，并留下了《洲崎天堂 红灯》、《幕末太阳传》等杰作。
1957年，川岛又移籍东宝旗下的东京映画。同时，他也在大映担任导演，并与若尾文子合作，拍摄了《女人再次诞生》、《雁之寺》、《优雅的野兽》这三部深受好评的作品。
川岛是个摄影爱好者，他与一些电影工作者、男女演员共同创办了“Minox”（一家德国照相机生产商）的爱好者协会“蓑虫（在日语里取谐音）俱乐部”。 从晋升为导演那时候起，川岛就为遗传性疾病“肌肉萎缩神经侧索硬化症”所累，连步行都有障碍。遗作《孤注一掷》公映的前5天，川岛在自宅暴卒。直接死因是“肺心症”，享年45岁。他的墓碑在位于青森县MUTSU市新町的德玄寺。
趣闻
川岛与和自己同年出生的西河克己、小林桂三郎、柳泽类寿共同创办了名为《泥马俱乐