周代己有此詞，西漢今文經學家據《尚書大傳》、《禮記》等書以為三公指司馬、司徒、司空。古文經學家則據《周禮》以為太傅、太師、太保為三公。
秦朝、西漢時候，改以丞相、太尉、禦史大夫為“三公”。
西漢末至東漢初演變為：大司馬、大司徒、大司空，漢光武帝建武二十七年改為太尉、司徒、司空。
後來，魏、晉、宋、齊、梁、陳等皆沿用以太尉、司徒、司空作為“三公”。
到了後周，又改回原來周朝的稱呼：仍以太師、太傅以及太保為“三公”。
隋朝再次稱“三公”為太尉、司徒、司空。
唐朝時候就延續隋朝制度，基本上沒有大的變動。