奇珍异宝当然是人人喜爱的东西，然而如果放纵自己的私欲，很快就会灭亡了。朕打算修建一座宫殿，材料都准备好了，想到了秦朝灭亡的教训就作罢了。王公大臣们要体会朕的良苦用心。”唐太宗上任之初，对国家需要足够的粮食储备并未引起足够的重视。贞观二年，他对王珪说：“隋文帝开皇十四年，天下大旱，而隋文帝却不许开仓赈济百姓，只让百姓们前往关东寻找食物，到了隋朝末年，天下粮仓内的粮食够天下人吃五十年，隋炀帝自恃富饶，奢侈无度，最终亡国了。粮仓内的粮食足够应付灾年即可，多余的又有什么用呢？”但不久就发生了饥荒，百姓们只好到外地寻找食物，针对这种情况，已升任尚书左丞的戴胄建议道：“水旱灾害，过去也都经常发生，国家如果没有九年的粮储，这是礼经所告诫过的。如今，刚刚经过大乱，户口减少，百姓每年交纳的赋税很少，每年的税赋刚够当年之用，一旦遇到灾年，拿什么来赈济灾民呢？因此，开皇设立制度，令天下百姓按照各自的等级向国营仓库输送粮食，名为社仓，终开皇时代，天下没有了饥民。等到大业中期，国用不足，就用社仓里的粮食来换取朝廷的经费，以至于到了隋炀帝末年全部花完。建议：自王公以下一直到平民百姓，根据各自开垦的土地，每到秋季，收取粮食设立义仓。”唐太宗同意了。
继贞观元年关东地区大旱之后，贞观二年关中地区也遭遇了旱灾，出现了饥荒，百姓卖儿卖女，艰难度日。三月二十二日，唐太宗下诏从国库中拿出钱财赎回被卖的儿女，还给他们的父母。二十三日，唐太宗又下诏称，去年关中连日大雨，今年又遭遇了旱灾、蝗灾，特此大赦天下。他在诏书中说：“假如能让今年丰收，天下平安，就把灾难降到我的身上吧！令万邦生存下来，这是我的心愿，我无怨无悔。”诏书颁发不久，不少干旱的地方就下雨了，百姓们都很高兴。四月三日，唐太宗下诏说：“隋末大乱，加上饥荒，尸横遍野，令人触目伤怀，各地政府要组织人力予以安葬。”六月十六日，唐太宗进入玄武门以北的皇家园林内，见到蝗虫，他捡起几只，祈祷道：“百姓靠庄稼活命，你们却把庄稼吃了，我宁愿你们吞噬我的肺腑、肝肠！”抬手就要吃下，侍从连忙劝阻道：“这些脏东西可能会引起疾病！”唐太宗说道：“朕替百姓们受苦，避什么疾病！”遂一口吞下。史称，当年的蝗虫没有成灾。唐太宗说：“朕每次上朝，想说一句话，都要经过深思熟虑，唯恐说错了给百姓们带来灾难，因此，不愿多说。”给事中、知起居事杜正伦说：“臣的职责是记录陛下的话，陛下说错了话，臣一定要记下来，不仅对当今有害，而且还会引来后世的耻笑。”唐太宗听后大喜，赏赐给他二百段绢。
在贞观初年，唐太宗做的第二件大事就是完善中央体制。
唐代最高的官员是所谓的“三师三公”。三师即太师、太傅、太保；三公即太尉、司徒、司空，均为正一品。三师是皇帝的老师，无其人则缺；三公是辅佐皇帝治理天下的重臣，“无所不统”。
虽然这么说，由于三师三公都没有僚属，实际上是个虚职，真正掌握实权的是尚书省、中书省和门下省三省的长官。三省制始于隋文帝，他废除了三公的僚属，而令中书令和侍中知政事，加强了皇权；隋炀帝又把中书和门下二省变成独立的外廷机构，最终形成了尚书、中书、门下相互配合、相互制约的三省体制。一般认为，三省的分工是：中书省决策，通过门下省审核，经皇帝御批，然后交尚书省执行，即所谓的“中书取旨，门下封驳，尚书奉而行之”。但仔细对照史书，情况似乎远并非如此简单：《新唐书?百官志一》称：尚书省“掌典领百官……天下大事不决者，皆上尚书省。”尚书省是最高行政机关不假，但亦可决定处理下级上报不决的问题；《新唐书?百官志二》称：门下省“掌出纳帝命，相礼仪。凡国家之务，与中书令参总，而颛判省事。下之通上，其制有六：一曰奏钞，以支度国用、授六品以下官、断流以下罪及除免官用之；二曰奏弹；三曰露布；四曰议；五曰表；六曰状。自露布以上乃审，其余覆奏，画制可而授尚书省。行幸，则负宝以从，版奏中严、外办；还宫，则请降辂、解严。……发驿遣使，则给鱼符。凡官爵废置、刑政损益，授之史官；既书，复涖其记注。职事官六品以下进拟，则审其称否而进退之。”据此，门下省的职责为：一是与中书省一起商议国家大事；二是将下对上的文书分类，一部分自行审查，一部分上奏皇帝，由皇帝决定，交付尚书省执行；三是陪伴皇帝参加各种典礼；四是掌管印章；五是决定对六品以下官员任免的复核；六是负责起居注等事宜。另称：中书省：“掌佐天子执大政，而总判省事。凡王言之制有七：一曰册书，立皇后、皇太子，封诸王，临轩册命则用之；二曰制书，大赏罚、赦宥虑囚、大除授则用之；三曰慰劳制书，褒勉赞劳则用之；四曰发敕，废置州县、增减官吏、发兵、除免官爵、授六品以上官则用之；五曰敕旨，百官奏请施行则用之；六曰论事敕书，戒约臣下则用之；七曰敕牒，随事承制，不易于旧则用之。皆宣署申覆，然后行焉。大祭祀，则相礼；亲征纂严，则戒饬百官；临轩册命，则读册；若命于朝，则宣授而已。册太子，则授玺绶。凡制诏文章献纳，以授记事之官。”据此，中书省则主要负责上对下的诏命，与门下省的方向正好相反。因此，个人认为，中书省和门下省是方向相反的两个处理朝廷大事的机构，而尚书省则是处理朝廷日常事务的机构。
在隋朝时期，三省之间的地位并不平等，由于尚书省“事无不总”而取得了较高的地位，隋炀帝采取了让其他官员参与决策等一系列措施削弱了尚书仆射的相权，但三省相互制约的体制还不完善。武德年间，李世民担任尚书令，结果一枝独大，并最终威胁到了皇帝，等他即位后，很快就意识到了这一问题，开始大力削弱尚书省的地位，以期实现三省之间的平衡。据《旧唐书?职官志二》记载：“武德中，太宗为之，自是阙而不置。”唐太宗以自己曾经担任过尚书令为由，不再任命尚书省的最高长官，而以尚书左右仆射为最高长官，这样一来，尚书省的两个仆射只是从二品，不仅级别相对于侍中、中书令而言较低，而且他们之间又能相互制约；其次，将其他官员拉入决策层，扩大了宰相人数，避免宰相权力集中，实现决策民主；第三，在门下省设立政事堂，作为宰相们日常议事之所。第四，进一步分割尚书省各司的权力。贞观二年，唐太宗又在尚书省六司下设置了六司的侍郎，作为六司尚书的副手，又在尚书、侍郎下面设置了左右司郎中各一人。
唐太宗还鼓励大家切实履行各自的职责，他就曾对黄门侍郎王珪说：“朝廷设置中书、门下省以相互纠察，中书省制作的诏书如有错误，门下省要予以指出。人心所见，各有不同，假如相互之间你来我往进行交锋，务求让工作达到至善之境，就是丢下自己原来的观点，接受别人的意见，又有何妨！近来，有的是护一己之短，双方反目成仇；有的为避免私怨，就是知道对方错了，也不敢纠正，如此一来，为了照顾一个人的颜面，而给全国万民带来灾难，这是国家将要灭亡的政治。隋炀帝时期，内外百官，就是一味顺从，当时，各人都觉得自己很聪明，能保全自身，等到天下大乱后，家国都亡了，就是万一保全一命的，也落得千古骂名。你们大家都要公而忘私，千万不能人云亦云。”