在IBM歷史中，最有成就的應該是沃森父子以及後來的郭士納，他們對IBM的貢獻也就是IBM的歷史。
1914年，托馬斯?J?沃森被他的商業導師約翰?帕特森無情趕出了全美現金出納機公司（NCR），加入了當時壹個叫計算—制表—記錄的公司（C-T-R），也就是後來所謂的IBM。
1920年代，沃森逐漸找到了公司的發展方向，把IBM變成壹家“打卡機”公司。沃森開始把未來放在這種“能思考的機器”上，或者說數據處理行業上。
專用的打孔卡片，與對手卡片不可互換。首先他擁有大量的打卡機專利，其次從IBM的卡片轉換到別的公司的成本令人望而卻步。從賣卡片給顧客上IBM也得到了豐厚的利潤。
在1920年代，IBM是股市中最具活力的明星公司之壹，它生產計量儀、絞肉機、時鐘、考勤鐘、打卡機和穿孔卡片等。
1929年10月29日，股市崩潰，美國經濟似乎突然癱瘓。但天生的樂觀主義者沃森卻想找到讓公司進壹步發展的方法，30年代最初的幾年，他以自己堅定不移的樂觀心態用整個公司進行壹場賭博，要麽蓬勃發展，要麽完全失敗。
第壹， 他的工廠將繼續生產，不會解雇任何人。他要求工廠繼續生產儀器和零部件，將它們存放在庫房裏。
第二，他還在1932年投入巨資100萬美元（年收入的6％）建設第壹個企業實驗室，進行沒有特定方向的研究與開發，它是後來施樂PARC研究中心、微軟研究院所效仿的典範。這個實驗室在整個30年代的研發讓IBM遠遠領先於任何潛在對手。
從1929年到1934年，公司的收入停滯不前，而沃森在生產和研發上投入的資金卻越來越多，公司在崩潰的邊緣徘徊。
到了1935年，美國總統羅斯福簽署了《社會保障法案》，這個法案確立了美國的社會保障體系，帶來了巨大的信息處理需求壹夜之間對打卡機的需求猛增，而只有壹家公司能滿足這種需求：沃森的IBM。在其後的差不多半個世紀裏，直到1980年代，IBM都統治著數據處理行業。
二戰把所有美國人都卷入其中，他的工廠也被用於生產軍工用品。他將戰爭合同變成讓IBM的規模在較短的時間內擴大兩到三倍的機會。
在戰爭結束後，進過短暫幾個月的經濟衰退，馬上迎來了沒有人預想到的經濟快速復蘇，美國經濟突然間恢復活力，消費者搶著去買戰時買不到的商品，美國公司因而需要更多的IBM打卡機來記賬，需求猛增。
但是，IBM成功的同時，也失去了很多機會。當靜電復印的發明者卡爾森要把技術出售給IBM時，沃森拒絕了，卡爾森去找了施樂公司，多年後IBM試圖擠入復印機市場但未能成功。沃森把IBM制造的、在戰爭中備受軍方歡迎的無線電電子打字機擱置壹邊，1946年他拒絕了ENIAC發明者埃克特和莫齊利，IBM幾年後進入電子計算機領域時，埃克特和莫齊利成為IBM最重要的競爭對手。
在沃森1956年去世前後，小湯姆?沃森所做的主要是把公司從企業家沃森憑個人智慧管理的企業家型公司變成壹家專業化管理的公司。公司有了明確的組織圖，職責被分派下去，小湯姆?沃森不再準備像父親那樣事必躬親。
IBM過去所有重要的管理者都是從推銷員做起，慢慢培養起來的，然而在IBM之外，1950年代的大部分大型公司都采用“參謀與壹線”的組織模式，小湯姆?沃森也要這樣做。還有很多其他的管理措施，不過，他絕對沒有想到，在後來幾十年的專業化管理發展中，IBM固然成為管理典範，但有時候也被善意地稱為“除了美國政府以外最大的官僚機構”。
1961年，IBM的規模是1956年沃森去世時的兩倍半，股票價值增加了5倍，在全美國6000臺使用中的大型計算機中有4000臺是IBM生產的。另壹方面，公司似乎到了平臺期，與電子計算機業的蓬勃發展相反，公司的增長放緩。並且公司提供的多種不同型號的計算機正成為問題，它們互不兼容，內部結構不同，軟件不同，外圍設備也不同。
在1961年底，小湯姆?沃森批準了壹個名為“S360”的全新系列計算機計劃，它將淘汰公司過去賣得好或者不好的各種型號的計算機。這個項目每年的研發成本是10億美元，總成本超過50億美元，是有史以來最大的企業研發項目，與美國政府的曼哈頓登月計劃成本相當。
正如郭士納所說的，“沒有系統360前，IBM只是眾多生產和銷售電腦的普通公司之壹。”而如果失敗，肯定沒有了現在的IBM。S360電腦獲得了巨大成功，它取得了壓倒性優勢，公司再次以近30％的速度增長，只有新創公司才可能有這樣的增長速度。1965年，IBM成為美國10家大工業企業之壹，兩年後，公司市值超過了通用汽車。
S360的極度成功不可避免地再次招來政府的反壟斷訴訟，陷入了長達十年的訟爭。這壹次它徹底地改變了IBM做生意的方式，小湯姆?沃森不得不主動放棄自IBM創立以來就實行的捆綁式交易，單獨為產品和服務定價。
盡管沃森相當不情願，但多年後郭士納主要是在這裏找到IBM的未來。這壹次反壟斷訴訟中，IBM的主要對手是當時聲名顯赫的、現在大部分人根本不知道的控制數據公司（CDC）和他的傳奇創始人威廉?諾裏斯。在商業史上，我們其實只記住了那些留下來的企業。直到1981年這壹訴訟變得毫無意義時才被中止，在這個過程中，IBM“從積極進取和驕傲的競爭者變成了謹慎的龐然大物”，從1972年開始，公司制定的每項決定都要經過反壟斷法的過濾。
1970年他突然心臟病發作，病愈後他立刻宣布辭職，而不是等到按照原先規劃的3年之後他60歲的時候。
在1980年代開始的時候，計算機行業開始迎來壹些小不點競爭者，IBM最終也決定進入個人電腦市場（PC），大獲成功，然後這段時間的失誤造就了微軟、英特爾以及已經消失的康柏等公司。
IBM PC的歷史廣為人知，埃思裏奇在公司當時的CEO不斷的“我的蘋果電腦在哪裏？”的詢問中脫穎而出，他領導的小組最終設計出了壹款基於英特爾的CPU、微軟的操作系統和從外部大量采購配件的個人電腦。
個人電腦為IBM在大眾心中贏得了“青春”的感覺，它不再像其他大型機公司那樣老朽，但它把IBM帶入了競爭激烈、利潤低下的市場。大量的IBM PC兼容機公司不斷湧現，他們的佼佼者是康柏公司，兼容機很快侵蝕了IBM PC所開創的市場。
另壹方面，如果在大型機之後的時代，IBM抓住任何壹個它的實驗室研發出來的、卻被對手應用的技術，它大概也會完全不同，那些技術成就了至少這些公司：Oracle、Sun微系統公司、Seagate、EMC、思科等等。
在1990年代的市場繁榮中，郭士納成功地實現IBM的大逆轉，“電子商務”的符號使得IBM成為互聯網時代最熱門的公司之壹。郭士納為公司找到了“服務”，按他的說法是“20世紀60年代、70年代和80年代根本就不存在的、強調客戶需要的服務”，也就是代表客戶的利益為顧客提供信息技術服務，而不是站在IT廠商的立場上。
如果說老沃森創立了IBM，那麽小沃森讓IBM轉型進入壹個新的領域，繼續走在計算之前，郭士納則改變了IBM龐大臃腫的機構，讓IBM依然煥發青春活力。