大西洋唱片成立於1947年，創始人是Ahmet Ertegun和Herb Abramson，唱片制造公司則由Abramson的妻子Miriam負責。1949年公司雇傭了第壹名職員，簿記員Francine Wakschal。公司最早的辦公地點在紐約曼哈頓的Ritz酒店裏，之後由於租金過高，搬到了Jefferson賓館中，這後來成為了壹個著名的地址。
大西洋唱片的第壹批唱片產品是在1948年1月推出的，包括Tiny Grimes的《That Old Black Magic》以及 Joe Morris的《The Spider》。在創辦之初，大西洋唱片主要關註現代爵士樂，但也出版了壹些鄉村和誦讀唱片。
40年代末，50年代初，兩位創始人Ertegun和Abramson長期出入於酒吧夜店，發掘有才華的音樂人。Ertegun還以“A. Nugetre”的筆名創作了許多歌曲，包括Big Joe Turner的熱單《Chains of Love》。 1949年初，壹位經銷商找到Ertegun，想得到Stick McGhee的唱片《Drinking Wine, Spo-Dee-O-Dee》，因為Stick的唱片公司倒閉，這個唱片找不到了。Ertegun聯系了Stick，對這張唱片進行了重新灌錄並發行，發行後銷售出400000張，在Billboard R&B榜上排到第三位，成為了大西洋公司的第壹首成功的單曲。此次告捷後，公司業務開始飛速上漲，僅1949年壹年的發行唱片數量就超過了前兩年之和的三倍。
在播音員Willis Conover的推薦下，兩位創始人拜訪了音樂人Ruth Brown，她當時正因車禍住院，大西洋唱片照顧了她9個月並最終與她簽約。她於1949年5月在發行了在大西洋的第壹張唱片《So Long》，獲得Billboard R&B榜第6名的成績。之後又連續發行了8張唱片，成為這壹時期大西洋公司最多產的歌手。而大西洋公司也因此為人們稱為“壹座由Ruth建立起來的房子”。
1950年，旗下藝人Joe Morris發行的唱片《Anytime, Anyplace, Anywhere》是大西洋公司發行的第壹張45轉唱片。1951年，The Clovers的《Don't You Know I Love You》是公司第壹張在R&B榜上奪得冠軍的唱片。隨後，Ruth的《Teardrops from my Eyes》成為公司史上第壹個超過百萬銷量的唱片。
1953年，當得知歌手Clyde McPhatter從原組合中單飛並正在籌建自己的組合的時候，Ertegun立即簽下了這個新組合（The Drifters），他們的單曲《Money Honey》成為了年度最流行的R&B歌曲。此後盡管因為歌曲含有暗諷意味遭到壹些電臺抵制，但他們還是連續推出了幾張登上R&B榜冠軍的唱片。 唱片工程師Tom Dowd在公司的成功歷史上扮演了重要的角色。大西洋唱片是最早使用立體聲錄音設備的獨立音樂公司之壹，Dowd使用了壹個便攜式的立體聲錄音機，與單聲道錄音機同時使用。1953年，大西洋公司使用壹種試驗性的立體聲設備制作發行了密紋唱片。公司在紐約的錄音室也是美國最早安裝多軌錄音系統的錄音室，而直到60年代中期，多軌錄音系統才成為唱片制作的標準設備配置。
Herb Abramson在1953年應征入伍，但在服役期間仍然保留著公司總裁的職位。Ertegun聘用了R&B名稱的定義者Jerry Wexler作為代理總裁。他們發行了許多黑人R&B唱片，取得了很好的商業成績。1954年，當搖滾樂開始興起，大西洋發行了第壹支“跨界”單曲，The Clovers的《Sh-Boom》，拿到了流行榜的第5名。
Ahmet Ertegun的兄長Nesuhi Ertegun於1955年加入公司，主要致力於爵士樂的開發，簽下了Shorty Rogers、Jimmy Giuffre、Herbie Mann和Les McCann等等西海岸爵士音樂人，發行了20張專輯，到1958年成為了美國第二大獨立爵士音樂公司。同時Nesuhi還負責密紋唱片的生產，在唱片的包裝上做了很大的改進工作。
1955年Herb Abramson回到公司，他發現他的位置已經事實上被Wexler所取代了，公司內漸漸地發生了矛盾。1958年，壹份股權買斷協議實施，他離開了公司。Ahmet Ertegun繼任總裁。 大西洋公司在推動R&B音樂的流行中起到了主要的作用，公司越來越多的R&B音樂產品進入了主流聽眾市場。在公司10周年慶典之際，Billboard雜誌撰文稱，以前壹個非常成功的R&B唱片可以賣出25萬張，但從現在起，能夠見到壹個又壹個的百萬銷售記錄了。
1954年以降，大西洋唱片創立和兼並了若幹子公司，最早有Cat Records等。50年代中葉，又與法國Barclay唱片達成非正式合作協議。同時公司也開始在英國開始業務，1955年與英國Decca唱片簽訂了分銷合同。
1955年，成立子公司Atco唱片。1957年成立eastwest唱片，包納流行、搖滾、R&B等多個領域。不久，Atco唱片靠著The Coasters和Bobby Darin獲得了令人矚目的成功。60年代，大西洋還成立了Dial、Rosemart等若幹地方性的小型廠牌。 1961年的壹天，歌手Solomon Burke不期而至地來訪問了Wexler，表示他與前壹個公司的合約已經期滿。Wexler當即決定簽下了他，並為他制作了第壹支單曲《Just Out of Reach》，成為了當年熱門。1962年，民謠受到人們歡迎，公司很快簽約了Peter, Paul & Mary三重唱。
1967－68是大西洋唱片的巔峰時期。1966年公司簽下了靈魂歌手Aretha Franklin，之後連續發行了七首單曲，都名列流行和靈魂榜單前10位。
60年代中期的“英國入侵”使得大西洋更換了它的英國代理商，66年與Polydor唱片簽訂了壹個新的互惠協議。英國團體Cream的專輯當年就在Atco發行，次年他們來到大西洋在紐約的錄音室錄制了專輯《Disraeli Gears》，在英美兩國都拿到了前5的名次，單曲《Sunshine of Your Love》在Billboard單曲榜排到第5名。這也標誌著大西洋唱片成功進入了搖滾音樂界。 1967年，大西洋唱片被華納旗下的Seven Arts以1750萬美元的價格收購。
在收購以後，Wexler在公司裏的地位迅速下降，與新壹代的藝人漸漸疏遠，最終選擇離開紐約去往佛羅裏達居住。Ertegun於是成為了接下來公司中起決定性作用的人物。1968年大西洋建立了壹個新的子公司Cotillion唱片，起初出版藍調和靈魂樂，而不久就擴展到前衛搖滾、民謠搖滾、福音、爵士、喜劇等等。1976年，這個公司開始關註迪斯科和R&B，旗下擁有Johnny Gill、Slave等藝人。 1968年大西洋唱片簽下了英國搖滾樂隊Led Zeppelin，被稱為是公司史上“最重要的事件”之壹。Led Zeppelin的到來標誌著大西洋即將轉型為壹個搖滾音樂廠牌。同年，Cream在倫敦舉行了他們的告別演出。
同壹年，Crosby, Stills & Nash樂隊來到大西洋唱片，次年5月發行同名專輯，獲得專輯榜第6名的成績以及多白金認證，並且被滾石評為有史以來最好的500張專輯之壹。這次成功之後，樂隊補充了包括Neil Young在內的新成員，花了幾百小時錄制了新專輯《Déjà Vu》，在1970年成為大熱門，拿到專輯榜冠軍。在接下來的幾個月中，樂隊各成員都制作了他們的獨唱專輯。
Led Zeppelin也在這個時候成為世界上最成功的樂隊之壹，他們1969年發行的專輯迅速獲得成功，在美國和英國排行榜上分別占據了73周和79周之久，僅在美國就獲得了8白金認證。第二張專輯更為成功，獲得美國、加拿大、英國、澳大利亞和西班牙專輯榜冠軍，並榮獲了格萊美最佳專輯提名，美國銷量總計超過1200萬張。與此同時，英國樂隊Yes也作為前衛搖滾的先驅成立了。
1978年，大西洋唱片在新澤西的磁帶倉庫失火，5至6千卷磁帶付之壹炬，許多早期立體聲錄音資料丟失。
1988年，大西洋舉行了40周年慶典，通過HBO電視臺播放。 華納公司與時代公司於1990年合並組建為時代華納，同壹年，Interscope唱片公司成立，大西洋是其投資者。
大西洋唱片的鄉村音樂部在2001年關閉，2008年又因Zac Brown Band等的成功而得到復生。
2004年，將Elektra唱片合並。
2007年，公司舉行60周年慶典，通過PBS電視臺播放。