瓦特出生於1736年1月19日。他的父親是壹名造船工匠，並且經營各種海運，有壹個修理廠。其母是壹位有著豐富知識的家庭婦女。瓦特生來體弱，性格孤僻，經常請假不能正常上學，因此，功課也不是很好。但他的求知欲非常強烈，特別喜歡幾何學。由於身體不好，瓦特中學沒有畢業，就退學回到家中自學。瓦特後到父親的工廠裏學習技術，操作各種工具。經過幾年的磨煉，他先後學會了木工、金屬冶煉和加工、機械制造、儀器修理等多種工藝，為後來的發明打下了堅實的基礎。
1753年，瓦特的父親經商失敗，接著母親去世，家中壹貧如洗。17歲的瓦特被迫外出謀生，到格拉斯哥壹家鐘表店當學徒。兩年後又到達倫敦，在著名機械師摩爾根門下為徒。
1756年，他回到了蘇格蘭，瓦特本想自己開業制造器械，但是由於他的學徒年限不夠，不符合市政當局的要求，只得經朋友介紹，在市政當局管轄的格拉斯哥大學當了壹名修理教學儀器的工人。不久，壹位商人向格拉斯哥大學捐贈了壹大批天文儀器，但很破舊，不能正常運轉。瓦特主動承擔了修理這些儀器的任務，並很快修復了。壹位教授由衷地稱贊道：瓦特是壹個機械知識豐富，非常機敏和具有過人才能的年輕人。
1763年，又有人給格拉斯哥大學送來了壹臺損壞了的蒸汽機模型。瓦特被指派為全權負責修理，讓這臺機器發動起來，供學生做實驗用。誰也沒有想到這竟成為瓦特在人類歷史上留下偉大功績的開端。