1885年 現在の大阪府高槻市柱本生まれ。幼少時代はやんちゃ坊主でしたが、16歳の頃に母を病気で亡くしてからは人が変わったように勉強しました。中学校の先生の講義に感銘を受けて、農商務省直轄の水産講習所（現東京海洋大学）に進学し、卒業後は三重県鳥羽市にある東洋水産（缶詰製造会社）に技師として就職。その後、メキシコの漁業会社から日本人技師を招きたいとの話があり渡米。4年余りメキシコ・アメリカに滞在し、缶詰技術を学んで帰国しました。
1917年 東洋製罐株式会社を設立。1938年には缶詰技術者の養成と缶詰技術の研究を目的とする東洋罐詰専修学校（現東洋食品工業短期大学）を創設しました。
1939年に鮎川義介の誘いで初めて満州へ渡り、1942年 満州重工業開発株式会社総裁に就任。1945年 満州にて終戦を迎えました。
終戦後も満洲に残り、日本人会会長として帰国できないでいる同胞200万人の帰還交渉をソ連軍や中国共産党など関係各所と行い、1947年に帰還しました。
1952年に当時の内閣総理大臣・吉田茂に請われ電源開発株式会社の初代総裁に就任し、数々のダム建設を成功させました。1954年には第一次鳩山内閣の経済審議長長官に就任。1955年 衆議院議員に初当選し、本格的に政治の道に進む事となりました。
1955年 バンドン会議に政府代表として出席。1960年 周恩来首相からの招聘により訪中し、1961年にはケネディ大統領就任式にも出席しました。1962年には再び訪中し、LT貿易（日中総合貿易）に関する覚書に調印しました。日ソ漁業交渉にも尽力し、1963年 貝殻島コンブ協定を締結へと導きました。
1964年2月24日 79歳で逝去。
正三位に叙せられ、勲一等旭日大綬章を追綬されました。
高碕死去に際し、周恩来首相は、「このような人物は二度と現れまい」という哀悼の言葉を贈ったと言われています。