当被人们问起自己来好莱坞之前的生活时，加里·库柏说，“我父亲是个真正的西部人，我也样。”他的父亲Charles Henry Cooper19岁离英赴美，先做了一名律师，随后在蒙大拿最高法院做法官。1906年，加里·库柏五岁的时候，他的父亲从铁路公司手里买下了一个600英亩的农场，Seven-Bar-Nine。1910年，加里库柏的母亲在医生的建议下去了英国，直到美国参加了一战。加里和哥哥Arthur同母亲一起在英国生活了七年，而他的战争年代是在父亲的农场度过的——由于年龄太小，家里没有参军。“每天五点钟起床，在冷清的冬天去喂450头牛，接着堆肥，这可不是件浪漫的事。”
在高中和大学里，加里开始参加舞台剧的表演。做了一年的群众演员后，他终于获得在汉斯•蒂斯勒(Hans Tissler)一部独立影片中的角色，与伊莉•塞德维克(Eileen Sedgwick)配戏；他为联美公司拍摄了1926年影片《芭芭拉•沃斯的胜利》(The Winning of Barbara Worth)后转投派拉蒙旗下，出演了《铁翼雄风》(Wings)、《攀上枝头》(It)、《告别武器》(A Farewell to A