1949年8月由上海秉农山、朱树屏、王以康等17人发起，在上海成立筹备会，并分别致函武汉、天津、青岛、厦门、香港、北京等各地，商量组织各地分会以使学会成为全国性专门学会。1950年1月15日上海总会、北京分会同时各在本地召开成立会，学会宣告成立，首届理事长为孙云铸。同年加入全国科联。随后青岛分会、厦门分会相继成立。1950年8月21日在北京清华园召开上海总会和各地分会代表会议，会议决定总会会址由上海迁往北京，推举孙云铸、张春霖、沈家瑞、张玺、伍献文、朱树屏、唐世凤等7人为总会常委，并以北京大学地质馆为会址。1951年3月，经中央人民政府内务部核准登记。1955年7月总会会址迁往青岛。学会会址设在山东省青岛市，历届理事长为：孙云铸、张玺、曾呈奎、刘瑞玉、秦蕴珊、胡敦欣、相建海、孙松，目前为第十届理事会。