由石油工业部侯祥麟等于1978年6月27日发起成立，同年8月经中国科协同意，并于1978年10月5日与中国科协联合行文，报请方毅副总理并国务院批准成立中国石油学会办事机构及人员编制，得到方毅、余秋里、耿飚、王震等中央领导的亲自批示，同意学会办事机构设在石油工业部，人员编制25人。1978年12月成立临时理事会，理事长为石油工业部副部长侯祥麟，秘书长为石油工业部科技司副司长蒋其恺，发展会员5400人。1979年4月10日在成都召开第一次全国会员代表大会，选举产生第一届理事会理事141人，常务理事27人，理事长侯祥麟，副理事长阎敦实、闵豫、李天相、申力生、顾敬心、张文佑、翁文波、潘钟祥，秘书长蒋其恺，副秘书长秦同洛、张金泉。学会会址设在北京，历届理事长为：侯祥麟、李天相、金钟超、邱中建、黄炎、贾承造、曾玉康、赵政璋，目前为第九届理事会。