李世民曾任尚書令，深切認識到作為壹國之君權力高度集中的不足和危害，言談話語決策行事，常常會產生偏頗和失誤。始於西漢、確立在隋朝的“三省六部制”，雖然從體制上是三省分權制約，但詔令起草審核監督等環節中三省官員又互相之間妳好我好大家好，很少敢於負責，互相制約了；對“金口玉言”的皇帝更是唯唯諾諾，罕有官員明知皇帝失誤敢於勸諫了。他知其弊端，在貞觀元年（627年）曾說：“置中書、門下，本擬相防過誤。人之意見，每或不同，有所事非，本為公事。或有護己之短，忌聞其失，有是有非，銜以為怨。或有苛避私隙，相惜顏面，遂即施行。難違壹官之小情，頓為萬人之大弊。此亡國之政。”
為了盡快改革這種中央管理機制，他廣泛向各級官員和士紳階層征求意見。這，可能就是唐朝的群眾路線教育活動吧。其中壹地方小吏張玄素，提出讓大臣輔佐分擔治國重任並正過失、皇帝僅選賢任能並“高居深視”裁斷賞罰則可等新的見解和主張，令壹代明君耳目壹新。經過反復思考，李世民將張玄素關於國家治理建議，和自己任尚書令時的觀察及思考相結合，在與大臣蕭瑀的談話中正式提出他的治國理念，即“以天下之廣，四海之眾，千端萬緒，須合變通，皆委百司商量，宰相籌劃，於事穩便，方可奏行”。
在李世民看來，國家政務由大臣代為處理，讓皇帝從具體事務中解脫出來，是不容置疑的；皇帝要對大臣們的處理結果進行了解，也是必需的。而大臣們要處理國事，就需要進行層次的劃分和職權的明確。所謂“百司商量，宰相籌劃”，就是在當時的尚書省六部體制下，具體的事務由具體的負責機構進行處理，提出處理意見，這就是“百司商量”；這些處理意見，有些是按照國家既有的法令規定做出的，那麽按照法令辦理即可，而對於法令沒有具體規定的那些“千端萬緒，須合變通”的事務，就由宰相集體會議——當時稱為“政事堂”會議——對相關機構作出的處理意見進行討論，達成***識之後再向皇帝進奏，由皇帝認可後執行，即所謂“於事穩便，方可奏行”。
於是，李世民果斷決定，進壹步建立完善三省權力，強化中書省討論評議，門下省監督監察的權力，形成能夠真正互相制約的機制。壹個政令的形成，先在設於中書省的政事堂舉行會議討論評議。他要求參與討論評議的，都應該公開發表自己的意見，“詔敕有不便者，皆應論執”，不能唯唯諾諾順眾，特別強調“五花判事”制度。原來，中書省負責詔書起草和參議章表的，主要是六名擔任中書舍人的官員，對應著六部，每人按照尚書六部的分工，各押壹部。其中壹人對國家軍政大事提出意見，其余五人可以“各執己見”，“雜署其名”，謂之“五花判事”。此類似於現代民主國家的“議會制”。再修改後轉中書省中書侍郎、中書令審查形成決議，然後報皇帝批準，再由中書省以皇帝名義發布詔書。正是由於特別申明“五花判事”，“由是鮮有敗事”。而詔書發布之前，必須送門下省審查，門下省認為不合適的，可以拒絕“副署”。詔書缺少副署，依法即不能頒布。只有門下省副署後的詔書才成為國家正式法令，交由尚書省執行。最可貴的，是李世民規定，自己口述或草擬的詔書，也必須由門下省副署後才能生效，以防止他自己在心血來潮或心情不好時發出不慎重的詔書。
貞觀前期，李世民在壹次對中書、門下兩省五品以上侍從官員的談話中，再次申明了中書、門下監督的重要性：“中書、門下，機要之司。擢才而居，委任實重。詔敕如有不穩便，皆須執論。比來唯覺阿旨順情，唯唯茍過，遂無壹言諫諍者，豈是道理？若惟署詔敕、行文書而已，人誰不堪？何煩簡擇，以相委付？自今詔敕疑有不穩便，必須執言，無得妄有畏懼，知而寢默。”他專門強調，中書、門下兩省官員應該對詔令中不合情理之處進行批評，不能知而不言，也不需因懷有畏懼之心而躊躇不前。
西方國家在17世紀才興起“議會制”和“三權分立”的運行體系，而李世民早在1300多年前就已成功運用於中國的政治運行，整整比西方早1000多年！這說明其眼光何等長遠，胸襟何等博大。
在實際運行中，作為皇帝的李世民自己身體力行，特別註意別人的意見，絕不獨斷專行，真正做到有失誤和不合適的政令立即改正。貞觀元年（627年），有宰相封德彜，鑒於有些折沖府的兵源不足，便向唐太宗建議將不到參軍年齡的中男（唐初十六歲為中）體格健壯者檢點入軍。唐太宗當即表示同意，並令中書省起草詔令，送門下省審議後，交尚書省執行。但當這壹詔令送至門下省時，專門負責簽名蓋章的門下省官員給事中魏征卻拒不簽字，中間雖經多次交涉，均未成功。最後，封德彜只得向唐太宗作了如實匯報。太宗聽罷大怒，立即派人招來魏征，聲色俱厲地說：“檢點健壯中男入軍壹事，是我已經同意的。這件事究竟與妳有何幹系，竟這樣固執地不肯同意，我真不明白妳這是什麽意思？”魏征鄭重地回答道：“我聽說竭澤而漁，並不是打不到魚，但明年無魚；焚林而獵，並不是捕不到獸，但明年無獸。如果將中男檢點入軍，那麽這些人原來承擔的租賦雜徭，將如何取給？並且兵不在多，關鍵在於如何訓練。如果訓練得法，人百其勇，何必湊數？”接著，還壹連列舉了唐太宗即位以來失信於民的二三件事。最後則嚴厲指出，如果長此以往，怎能取信於人！唐太宗聽後，立即冷靜下來，沈思半晌，終於誠懇地說：“我沒有深思熟慮，竟犯了這麽大的過失。如果長此以往，還能求得天下大治嗎？”遂立即下令停止簡點中男，並賞賜魏征金甕壹口。