該堂創立於1910年（清宣統二年），最初位於虹口北四川路。美南浸信會傳教士樂靈生在此置地20余畝，創辦懷恩堂和民強中學、晏摩氏女中（現北郊中學）。 1924年，由於北四川路地價猛漲升值，美南浸信會出售原址建築，將兩所中學遷至北寶興路，建成“浸會莊”，另撥款在東寶興路271號建造壹幢四層樓房，作為懷恩堂和懷恩中小學校的新址。1935年12月，懷恩堂邀請戚慶才擔任牧師，直到1990年戚牧師去世。
1937年，淞滬會戰開始，虹口淪為戰場，懷恩堂被迫搬遷至愛文義路605弄王家沙花園32號。由於信徒人數不斷增加，1940年，購置了西摩路（今陜西北路）375號的基地，並於開始動工建堂，至1942年新堂落成，堂內可容納千人以上。是上海基督教主要教堂之壹。戚慶才也擔任中華全國浸會聯合大會主席。
1950年，戚慶才是基督教三自運動40位發起人之壹。懷恩堂不再與美南浸信會有任何關系，1954年戚慶才被選為全國基督教三自愛國會的常委、副主席；1955年上海市成立三自愛國會後，戚牧師曾連任三屆副主席。
1958年，上海基督教實行聯合禮拜，原有208個教堂合並為22個，至1965年再次減少為11個，該堂都得以保留。1966年8月23日，在文化大革命高潮中被關閉。1980年12月28日，懷恩堂重新開放，恢復禮拜。 復堂，選舉戚慶才為堂務主任。1987年。至今在冊信徒已達9,535人，是上海人數較多的教堂。禮拜時可容納2000人以上，是上海基督教可容納人數最多的教堂之壹。並被列為上海市級保護建築。