中國科學院鑒於出版工作對科學研究的重要性，在1949年11月1日成立之日，即在科學院機關設立編譯出版局（後改稱編譯局），主持出版工作，這也是新中國成立後建立的第壹個科技編譯出版機構。當時編譯局以出版中國科學院和各自然科學學會主編的學術刊物、中國學者的科研專著和翻譯出版國外的優秀科學著作、組織編訂自然科學名詞為主要任務，同時還接受出版總署委托，承擔對商務印書館和龍門聯合書局提出的科技書稿審查任務，並且向各大學、科研機構征集選題和書稿，再向商務、龍門推薦，因此早與龍門聯合書局有著業務關系。隨著科學事業的發展，中國科學院認為有必要加強出版工作，乃於1954年2月成立編譯出版委員會以領導並規劃全院的出版工作，確定編譯局作為這個委員會的辦事機構。由於編譯局不是壹個獨立對外的出版單位，在廣泛開展組稿活動方面亦受到局限。要解決這壹問題，唯有加強編輯出版力量成立自己的出版社，才能使編譯局從繁重的出版業務工作中擺脫出來。
當時國家對私營工商業的社會主義改造方興未艾，中國科學院根據國家在過渡時期的總路線和總任務的精神，提出了同私營出版業中經驗豐富、作風正派的出版企業進行公私合營的方案，借以彌補科學院的人力不足，也可以為國家改造壹部分私營出版企業。這樣，在出版總署主持下實現了關於龍門實行公私合營問題的會談。經過兩次十分順利的會談後，發表了《會談紀要》。出版總署於1954年5月26日正式批復龍門聯合書局，批文稱：妳局原已有若幹公股，並早已為國家擔任加工訂貨任務，事實上已具有國家資本主義性質。實行全面公私合營的條件業已成熟，我署同意妳局公私合營，並決定改組為科學出版社。
龍門聯合書局從1950年4月起經過多次提出公私合營的申請，至此終於成為我國較早實行公私合營的出版單位之壹。1954年7月，籌備工作宣告結束。這時，中國科學院指派著名古生物學家、前編譯局局長楊鐘健為科學出版社董事長，龍門聯合書局推任原龍門董事長沈溯明為科學出版社副董事長。7月27日召開了科學出版社第壹次董事會，會議由正、副董事長輪流主持，聽取周太玄、嚴幼芝分別作的科學出版社籌備工作經過的報告。最後壹致同意：科學出版社正式成立日期定為8月1日，並提前於7月29日舉行成立大會。7月29日下午，舉行科學出版社成立大會，上級機關和各方來賓數十位蒞臨慶賀。大會由科學院辦公廳嚴希純處長主持。科學院編譯局周太玄局長致詞，他詳細報告了科學出版社的籌建經過，闡明了會後所肩負的歷史使命和出版社的方針任務、組織機構等。最後，嚴希純正式宣布科學出版社董事會和主要負責人名單。
社長兼總編輯周太玄，副社長兼副總編輯趙仲池，經理嚴幼芝，副經理於強。同時宣布科學院編譯局的大部分編輯出版部門並入出版社。編譯局作為科學院領導出版社的建制仍然保留，周太玄任局長，趙仲池任副局長，名詞室仍隸屬於編譯局。