張廷玉老死家中。
張廷玉晚期得罪乾隆而屢屢碰壁受到冷遇，恰有壹女婿涉案違法（四川學政編修朱筌案），因此張受到牽連財產幾乎被收繳。
乾隆二十年（1755年），張廷玉卒於家中，享年八十四歲。
1749年，張廷玉已身處晚年，乾隆為了將其換掉，名義上假借其已是花甲之年，特許他每逢天氣糟糕的時日可以不用上朝，實際上還特意找人代其職。張廷玉為人聰明得體，便主動提出辭職歸鄉，在得到乾隆同意以後他要求最後上朝壹次。
最後壹次上朝時，張廷玉進了了壹份奏折，要求皇上能遵守先皇的承諾，保證其死後能進入太廟。乾隆雖然心有不滿，但是同意了他的要求。誰知張廷玉得到承諾後沒有親自謝主隆恩，而是派兒子前去叩恩，這令乾隆火冒三丈，大肆指責張廷玉不懂規矩理法。張廷玉聽聞後，次日便親自進朝叩謝皇恩。
乾隆見狀便明白定是有人走漏風聲，於是借題發揮執意要追查該人，並借著這個名義指責張廷玉在皇宮中安插線人間隙，發展私黨，於是將之革除爵位。
次年，張廷玉借學生去世之名要求歸鄉，並主動提出放棄入廟的資格。乾隆認為他不識時務，非常時期還要回家，便通過審判罷免了他入廟資格。
1755年，張廷玉病逝，原本已無資格入廟的他，乾隆卻壹改常態，虛偽地認為他壹代老臣，使其進入太廟。