20世纪20年代以来，先后有许多中外地质家对玉门进行考察，一致认为玉门石油资源具有开采价值。1921年，原国民政府中央地质调査所技正谢家荣对玉门实地考察后认为，石油河一带为背斜构造，石油储、盖条件较好。1928年地质学家张人鉴也认为玉门石油河存在储油背斜。由于地处偏远，交通不便，开发投资大，不可能获得丰厚利润，因而始终未能付诸实施。
1935年，由著名外交家顾维钧和一批富豪组建的“中国煤油探矿公司”，从国民政府实业部取得在甘肃、青海、新疆3省开采石油的特许权，并于1937年派出由美国地质家马文？韦勒、弗雷徳？萨顿和中国地质家孙健初组成的“试探队”，在对包括玉门在内的甘、青地区进行考察后，于1938年2月提出一份《中国西北甘肃青海两省地质考察报告》，其中对玉门石油河构造评价甚为明确；“目前已可断言，石油即将出现于甘肃之西北部，石油河背斜为一储油构造，如具备良好条件，可望获致极佳产量。”报告还论证了在石油河附近建设一座油矿的可能性，从国防角度看，在当时中日战争中开发西北油田，其重要意义不难想象。应“不惜任何代价钴探石油河构造，开发油田。”报告附石油河背斜1：50000地质图。
1937年进行的地质考察，引起国民政府经济部长兼资源委员会主任委员、资深地质学家翁文灏的重视。1938年4月，翁文灏在国民政府临时所在地武汉，两次会见试探队的地质家马文？·韦勒和孙健初，讨论了西北考察和玉门的情况。不久，国民政府经济部作出决定，收回中国煤油探矿公司在甘、青、新3省开采石油的特许权，于当年6月成立甘肃油矿筹备处，电召正在美国攻读石油工程的矿治专家严爽回国，担任筹备处主任。并決定尽快派出人员前往玉门，开展工作。开发玉门石油的举措，得到中国共产党的大力支持。甘肃油矿筹备处成立后，为解决钻探设备问题，翁文灏专程前往汉口十八集团军办事处，会晤中共代表周恩来，商议将资源委员会原陕北油矿留在当地的两台顿钻钻机搬迁至玉门。周恩来当即表示，同心为国，决无异议，同意搬迁，并指定十八集团军驻陕代表林伯渠负责办理此事。当年8月，资源委员会派出的人员到达陕北，搬迁工作得到陕甘宁边区政府全力支持和帮助。在运输力量十分紧张的情况下，十八集团军抽调军车予以配合。陕北油矿20名工人随机同往。1938年10月，两台钻机及配件全部运抵咸阳。又经过4个多月的辗转周折，两台顿钻钻机先后运到玉门，陕北油矿的工人篮同时到达。
1938年12月23日，由筹备处主任严爽、地质家孙健初、测量员靳锡庚和工人邢长仲、宿光远、刘万才、刘兴国等组成的勘探队，骑着骆驼从酒泉出发。时值数九，风雪交加。骑在驼背上时间稍长，双脚就被冻得麻木，只好不时离开驼背，徒步行走，活动身体。经过4天跋涉，于12月26日到达海拔2400多米的石油河畔。这里荒无人烟，草木稀少，只有一座孤零零的老君庙。他们在老君庙旁边支起一顶蒙古包，安营扎寨，展开测量地形、勘察地质、确定井位等工作，迈开了开发玉门石油的第一步。
1939年1月，从各地调集、招雇的员工先后到来，从陕北搬运的钻机及其它器材物资也陆续运到。3月13日，老君庙1号井开钻，先用人工挖方井，27日挖至23米遇油层，日产1．5吨。接着用从陕北运来的顿钻钻井，8月11日钻至115．51米，探得厚达18．33米的油层。日产10吨。随后，两台顿钻又陆续钻井6口，全部获工业油流。7口井出油层位均与干油泉露头层位相同，被命名为“K”油层，从而发现了老君庙油田。开发玉门石油取得成功，鼓舞了全国人民争取抗战胜利的信心。中国石油工业艰难地迈开了前的步伐。
1945年7月，成立了由翁文波任队长的第一支重磁力勘探队，队员有丛范滋、李德生、汤任先等，他们沿河西走廊，东起张掖，西至敦煌，进行重磁力普查，并深入祁连山作区域大剖面，绘制了河西走廊1：10万地质、重力线综合图20幅。为了提高员工技术水平，油矿举办员工业余训练班，学习钻井、采油、炼油等方面的先进技术，同时从国外购买先进设备，聘请外籍专家，实地指导工作。在资源委员会统一安排下，派出一批技术人员出国深造。炼油厂陆续从国外购进新设备。
随着油田的发展，员工队伍不断壮大，到1948年，员工总数达5059人，其中职员638人，工人4421人，技术工人占42％。据1949年统计，各类技术人员200人，其中地质勘探24人，钻井采油58人，炼油42人。到1949年，玉门油田实际探明可采储量1700多万吨，年产原油7万多吨，在将近11年的开发中，共生产原油50多万吨，占全国同期产量的90％以上。可以炼制汽、煤、柴、润等12种成品油，成为当时全国有数的大型现代企业，为中国石油工业的发展做了必要的技术、经验和人才准备。
中国第一个现代化油田，出现在人迹罕至的雪山荒漠之间，坚定了中国人民开发祖国石油资源、建设自己石油工业战胜利的信心。数以千计的劳动者和爱国知识分子在这里酒下了辛勤的汗水。作为玉门油田的“拓荒者”，孙越崎、严爽、孙健初、靳锡庚是早期献身石油工业的知识分子代表，他们把毕生精力献给了中国的石油工业。
1949年9月25日，中国人民解放军第一野战军第一兵团司令员王震将军在进军新疆的途中，专程绕道玉门油矿视察。下午，第一野战军的装甲部队从积雪茫茫的祁连山麓穿过戈壁大漠，急速来到玉门油矿。已经守候在此三四个小时的石油职工，挥舞彩旗，热烈欢迎解放军。9月28日晚上，玉门油矿（此时还称作中国石油公司甘青分公司）召开员工大会。三军军长黄新亭宣布玉门油矿解放，由康世恩任军事总代表，张守瑜、焦力人、张俊任副总军事代表。
根据中国人民解放军布告和党中央关于接管城市和工矿企业的政策，康世恩宣布接收油矿、恢复生产的政策和原则，主要有：按照不打乱原企业机构的原则，维持原职原薪原制度；原油矿管理人员和技术人员给予妥善安置，安定职工，搞好生产。这些政策，受到了全体职工的拥护。整个矿区人心安定，秩序井然，油矿生产正常进行。进军新疆的装甲部队和运输车队，在这里加满油后，隆隆向西驰去。
玉门油矿的和平解放，使这个旧中国费尽九牛二虎之力建起的油田完整无损地回到人民的手中，有两个重要原因：一是人民解放军进兵神速，使得国民党未来得及实施破坏；二是以邹明为首的油矿管理层积极组织职工成立护矿大队，有效地对油矿进行了保护，并尽一切可能做了大量的物质储备。这对油矿的稳定接收和发展生产，起了重要作用。邹明是上海中国石油公司协理，1948年来到甘青分公司兼任经理，他信仰实业救国，有着强烈的爱国思想，希望民族昌盛，中华振兴。更因为他亲手参加了油矿的建设，深知油矿一草一木来之不易。1948年10月，国民党政府资源委员会在南京召开会议，孙越崎语重心长地对跟随他多年的老部下说：“资源委员会现有的工矿企业，是中国仅有的一点工业基础，我们有责任把它保存下来。”邹明对此深为认同，他认定，油矿是中华民族的，油矿一定要保护好。为此，他做了大量的工作，为油矿留住了全部的人才，储备了必要的现金和物资。为了表彰邹明等人的功绩，当时西北军政委员会还特地颁发了一面“护矿有功”的锦旗。
时隔不久，彭德怀又亲赴油矿，强调要严格执行共产党接收企业和人员的政策，指出玉门油矿是发展新中国石油工业的摇篮，勉励技术人员和工人为新中国石油工业发展作出贡献。
由于当时解放军大部队进军新疆，急需油品，而矿上只有常压蒸馏和减压蒸馏等3套炼油装置，所产油品远远不能满足进疆部队和内地建设需要。军管会发动大家想办法，技术人员和工人们提出，新中国成立前从美国订购来的达布斯裂炼装置一直没用，现在可以装起来。炼厂厂长熊尚元和总工程师龙显烈，负责从设计、施工到试车开炉的全部技术工作。据当时在炼厂当军代表的杨文彬回忆，有两位名叫王宝森和杜秀全的老工人，技术特别好，不管是铆工活还是钳工活，都干得很好。到1950年年底，达布斯裂炼装置建成，试产一次成功，汽油、柴油的数量和品质得到大大提高。
中华人民共和国一成立，中共中央对石油工业的发展就极为重视和关心。1949年10月19日，中央燃料工业部成立。1950年4月，全国第一次石油工业会议在北京召开，研究部署石油工业在国民经济恢复时期的任务。军事总代表康世恩、经理邹明、地质师孙健初、工程师熊尚元等9人代表甘青分公司出席会议。
为了迅速培养年轻技术干部，会议决定，由中央燃料工业部拨出一笔资金给清华大学、北洋大学、西北大学、南京矿冶学院等高等院校，开办速成地质班和各种培训班，定向培养一批地质、物探、采矿专业的人才。1950年，从北京大学、西北大学、交通大学、山东大学分配到石油系统的毕业生仅十余名，他们后来都成为石油地质界的重要人物。1950年以后，从各大专院校分配到石油管理总局的地质、物探、采矿专业的毕业生迅速增加，成为20世纪50年代早期勘探的新生力量。
石油管理总局和西北石油管理局也开办了培训班和速成技培训班，加速培养急需人才。与此同时，还积极筹建了西安石油学校、北京石油学院和西南石油学院，为迎接中华人民共和国石油工业建设高潮的到来，做好了人才的准备。
玉门油矿解放后，仍沿用了“中国石油公司甘青分公司”的名称。1950年8月4日，结束军事管制，正式成立玉门矿务局，燃料部任命杨拯民为局长。杨拯民是著名爱国将领杨虎城将军的长子，他在玉门第一个天然石油基地的建设过程中，发挥了重要作用，直到1958年才离开。玉门矿务局一成立，就面临非常严峻的国际形势。美帝国主义悍然发动了侵朝战争，并将战火烧到了鸭绿江边，中国人民志愿军授朝在即。石油，再多生产一吨石油！共和国在焦急地呼唤。玉门油矿职工表示：“多打井，多出油，支援中国人民志愿军抗美援朝，保家卫国。”在短短几天时间里，石油工人就捐款购买了一架战斗机，有关部门将这架战斗机命名为“石油工人号”。工人们热情高涨，开创了冬季钻井的先河，冒着严寒打出了几口喷油井，使老君庙油田的面积扩大了数平方公里，同时还探得石油沟等多处含油构造。在1950年到1952年间，随着勘探效果的提高，油田增加生产井30口。1950年油矿平均日产原油264吨，到1952年平均日产达388吨。3年共生产原油37．54万吨，是玉门油矿1939年至1949年11年原油总产量的73．49％。与此同时，炼油能力也大为增强，到1952年汽油的生产能力达到4．9万吨、煤油1．66万吨，与1949年相比，分别提高了3倍和4倍。1952年5月11日，由玉门油矿培养的第一批女司机25人，驾驶油罐车，将玉门油品送达兰州。这是新中国成立后玉门石油正式东运的开端。
为了保证完成中央下达给石油工业的任务，并为未来石油工业的大规模发展培养一支队伍，1952年3月25日，燃料部西北石油管理局局长康世恩，给朱德总司令和燃料工业部陈郁部长写了《关于调拨一个建制师担任第一个五年计划发展石油工业基本建设任务的报告》，提出要完成年产350万吨天然油的任务，共需增加职工15690人。请求军委在整编部队时，一次拨一个建制师，加以训练，改编为工业建设大军。1952年8月1日，按照毛泽东主席批准的命令，中国人民解放军第十九军第五十七师7741人，改编为中国人民解放军石油工程第一师。
参加革命的战士多半是贫困家庭出身，没有机会学知识学文化，更别说认识那些石油的专业术语了。于是，1952年8月5日，石油工程第一师发布了第一号命令，号召全师上下立即开展学文化运动，向文化进军。一个个拿枪使锄头的大老爷们开始拿起了笔杆子。军营里，到处是标语口号，满耳是读书声，地上写满密密麻麻的字迹。任凭你转到哪里，都会看到干部、战士们人手一卷，在看着、念着、互相考着。军队变成了一所大学校，营房变成了大课堂。除了学习文化知识外，师部还尽量根据每个战士的特点把他们分配到合适的岗位，这也是利于学习、培养人才方的好办法。于是，整个57师初步分配了专业的学习领域。
誓师大会后，石油师整编成三个团，一团去延安枣园学习钻井技术，二团赴玉门学习基建工程，三团全部在汉中就地训练汽车驾驶。这一安排，被战士们戏称为“一团钻，二团建，三团围着汽车轮子转”，覆盖了当时石油工业建设重要环节，形成了支柱力量。随后一团、二团开进延长油矿和玉门油矿，到钻井、基建等现场进行技术培训。三团与西管局运输公司合并，成为中华人民共和国石油工业第一支专业运输队伍一一玉门油矿运输处，后迁至敦煌成立石油运输公司，由张复振师长担任经理。1953年师政委张文彬被任命为燃料工业部西北石油管理局副局长。1955年张文彬参加了克拉玛依石油会战，担任新疆石油管理局局长兼党委第二书记。石油师转业队伍参加了石油工业一系列大型会战，是一支最能吃苦、最有战斗力的队伍。
20世纪60年代初朱德委员长在视察大庆油田时，听到介绍石油师的卓越表现和成绩，高兴地说，解放军有好几个工程师转业参加工业建设，我看石油师是保持和发扬了部队的优良传统和作风。
在玉门油矿第一个天然石油基地的建设过程中，得到了苏联专家的大力支持，先后有40多位苏联专家在玉门工作。最早来华的是苏联专家组组长莫谢耶夫，他博学多才，地面与地下地质，都非常熟悉，给了很好的指导。其中最令人难忘的是特拉菲穆克院士，是他首次确定了玉门油田的驱动类型，并由此开始边缘注水，使之成为中国的第一个注水开发的油田。从1950年到1959年，中国石油系统先后聘请苏联专家、技术人员和工人434人。
共和国领导人也时刻牵挂着玉门油矿的建设，彭德怀、朱德、邓小平、叶剑英、陈云等领导同志先后来玉门视察，对玉门油矿的发展建设给予了高度评价。同时，全国人民的大力支援，也为玉门天然石油基地的建设作出巨大贡献。当时物资比较紧缺，但玉门供应却相对十分丰富。
玉门油田建成中国第一个天然石油基地后，就立即担负起了“三大四出”（大学校，大试验田，大研究所；出人才，出技术，出经验，出设备）的使命，充分发挥了石油工业摇篮的作用。1955年，数千名玉门石油工人挺进柴达木；1956年，成建制的队伍，西出阳关，会战克拉玛依油田；1958年，3000多名职工，又东渡黄河，穿越蜀道，参加四川会战；1960年，以王进喜为代表的数万玉门石油工人，一路急行军，在松辽盆地出演了一幕又一幕的慷慨壮歌。此后，无论是黄海之滨的胜利油田，还是中原大地的华北油田、中原油田，无论是黄土高原的长庆油田，还是戈壁滩上的吐哈油田，到处都有玉门石油工人的身影，正如著名石油诗人李季所写的那样：“苏联有巴库，中国有玉门，凡有石油处，就有玉门人。”在几十年间，有10万以上的玉门石油工人奋战在祖国大江南北的石油战线上。康世恩、焦力人、宋振明、秦文彩、赵宗鼐等石油战线上的优秀领导人，都是从玉门走出；翁文波、童宪章、李德生、翟光明、田在艺、秦同洛、李虞庚等一大批院士、地质学家和石油专家，也曾在玉门摇篮中度过难忘的青春岁月；郭孟和、王进喜、薛国邦、马德仁等一大批全国著名的英雄模范，都是玉门油田的骄傲。