贞观三年四月四日，李渊被迁出宫城之后，李世民正式入住皇宫，驾临太极殿，他对侍臣们说：“中书、门下都是机要部门，诏书出现不妥的，都要进行论辩。近来，大家都是一味顺从，没有听到不同的声音。假如只需奉命而行，谁不会做？何必还要挑选人才？”按照旧制：凡是军国大事，先由中书舍人写出各自的意见，签上自己的名字，称之为五花判事。中书侍郎、中书令审阅后，给事中、黄门侍郎进行审查，提出反对意见。唐太宗重申了这一制度，从此以后，朝廷就很少犯错了。到贞观四年八月，唐太宗又下诏规范了各级官吏的衣着服饰，规定：“从今往后，三品以上官员身穿紫色官服，四品、五品官员身穿绯色官服，六品、七品官员穿绿色官服，八品穿青色，官员妻子的衣服颜色与其夫的保持一致。”
第三件大事是强化地方控制。
隋文帝把州、郡、县三级改为州、县两级，隋炀帝又把州改称为郡，还是两级体制。李唐建立之初，为了拉拢当地变民集团，李渊任命了大量地方官员，由于州郡太多，也造成了很大的混乱，不便中央管理。为了整合各地的力量，便于开展统一战争，李渊曾经尝试设置大军区性质的“道”，如陕东道大行台尚书省、益州道行台尚书省、襄州道行台尚书省等，后来又担心行台权力太大，威胁到中央统治，又废除了行台制，改为只管理军事的都督制。都督不管民政，权力大大削弱，威胁不到中央了，但随之而来的问题是都督府与地方郡县关系一直理顺不了。贞观元年二月，唐太宗下令合并全国州县，并根据地理位置，把全国分为十个道，分别为：关内道、河南道、河东道、河北道、山南道、陇右道、淮南道、江南道、剑南道、岭南道。唐太宗设立的道其实就是汉代的州，而唐代的州其实就是汉代的郡，名称换了，实质一样，中央以道为单位派出大臣巡视各道下辖的各州。
第四件是建立选官制度。
贞观元年，他对房玄龄说：“治理国家的根本就在于能够审查官吏。要根据人的才能大小授予官职，务必要精兵简政。《尚书》称：‘任命官员要唯才是举。’又说：‘官员不一定要满员，而在于得到合适的人才。’如果能够选拔出合适的人才，即使少也足够了；遇到不好的，人数再多又有什么用？古人也把不合格的官员比作是画饼充饥，中看不中用啊。《诗经》说：‘谋划的人多了，事情就办不成了。’孔子也说过：‘官员们不身兼数职，怎么能说精简机构了？’还说：‘一千只羊的皮，也不如一只狐狸腋下的毛。’这些都是经典上说过的话，不胜枚举。应该裁减官员，令大家各得其所，就可以无为而治了。你们要认真思考一下这个道理，衡量官员的编制和职责。”房玄龄等人拟定出中央政府的文武官员编制是六百四十人。唐太宗对房玄龄等人说：“从今以后，再有一些乐师、技工等人，就算是他们技术很高，也只能赏赐给一些钱财，决不能破格提拔官职，让他们与士大夫比肩而立，同坐而食，令士大夫们感到羞耻。”唐太宗说这一番话也是有针对性的，武德元年，唐高祖李渊曾将一个名叫安叱奴的胡人舞师拜为散骑侍郎，当时，礼部尚书李纲就曾经劝谏道：“古代，乐工不得与士大夫为伍，即便是像师旷、师襄这样非常贤能之人，终身及后代也都一直继承祖业，只有在北齐末年曾经加封曹妙达为王，安马驹为开府仪同三司，君主都应当引以为戒。如今，天下刚刚平定，功臣们还没封赏，才能之士还未提拔，却先把一个胡人舞师任命为五品高官，令其在大殿之上走来走去，这无法给后世树立个好的榜样。”但唐高祖不从，说道：“我已经颁布了命令，不能再收回了。”
隋朝选拔人才一般在每年的十一月开始，持续到第二年的春天结束，人们都感到很不方便，吏部侍郎刘林甫上书请求一年四季随时可以进行选拔任用，唐太宗采纳了。唐初，刚刚经过了隋末大乱的士大夫们都不愿为官，出现了“士不求禄，官不充员”的现象，各地官员空缺很多，中央就发给各州很多空白委任状，由各州填写任命。如今，唐太宗才命要求备选人才都必须进京，由中央政府考察后予以任命。这一年，入京的人士共有七千多人，刘林甫根据各人的才能分别任命录用，各得其所。因关中米贵，唐太宗下诏命令一部分人士在洛阳候选。
房玄龄熟悉政务，又有文学素养，一天到晚尽心竭力，唯恐一件事处理有误，他对人处事非常宽和公平，听到别人有一点优点，就好像是自己优点一般非常高兴，对人从不求全责备，不拿自己的长处来要求别人。与杜如晦一起举荐人才，常常觉得自己做得不够，唐初的规章制度大多都是二人一手创设的。房玄龄善于谋划，杜如晦精于决断，每次唐太宗与房玄龄一起研究大事，总会说：“非杜如晦不能决断。”等杜如晦来到后，往往最终采用了房玄龄的意见，史称：“房谋杜断”，二人私交很好，一心为国，人们又将二人并称为“房杜”。房玄龄虽然深受唐太宗的礼遇，但伴君如伴虎，有时也会因小事受到唐太宗的斥责，遇到这种情况，房玄龄总会连日跪在朝堂之上谢罪，恐惧得无以复加。房杜二人不仅建立了唐初的选官制度，还制定了严格的考核制度，明确了考核标准。被考核的人员要写出自己一年的工作成绩，由部门长当众宣读，评定优劣，送交尚书省核定，最后当面宣布。考核按照“四善二十七最”来确定，四善是：德义有闻、清慎明著、公平可称、恪勤匪懈。二十七最，即根据二十七种不同的岗位，确定最好的情况，比如，献替可否，拾遗补阙，为近侍最好的；铨衡人物，擢尽才良，为人事部门最好的等等。再由四善与二十七最结合，评定出各人的上上、上中、上下、中上、中中、中下、下上、下中、下下九个等级，进行奖惩。
第五是关注法制建设。
《旧唐书?刑法志》记载，隋文帝参照北周、北齐法律，制定了《开皇律》，“除苛惨之法，务在宽平。”但到了晚年，常常因个人喜怒而破坏法律，在朝堂上随意杀人。隋炀帝即位后，又制定了《大业律令》。李渊入主长安后，即“约法十二条”，只规定“杀人、劫盗、背军、叛逆的”处死，其余全部废除。李渊建立唐朝后，又下令制定了五十三条格，“务在宽简，取便于时”，武德七年五月，又命令裴寂等人制定，并颁布实施了《武德律》。
唐太宗即位后，即贯彻了“宽仁慎刑”的思想，他说：“死者不可复生，用法务必从宽从简。古人称：‘卖棺材的想让天下出现大疫，不是憎恨人，而是想卖自己做的棺材。’如今，执法部门在审理案件时，务求严苛，以期得到好的评级，该用什么办法才能让案件得到公平的审理呢？”王珪认为要选拔善良正直的人担任法官，判案正确就增加他们的俸禄，如此一来就会得到改善，唐太宗采纳了。
他还命令长孙无忌、房玄龄会同学士、法官们一起讨论修改法律。戴胄、魏征认为旧法太重，建议其中五十条判决绞刑的应改为免死，砍断右脚。唐太宗仍嫌太严厉了，对侍臣们说：“前代不执行肉刑很久了，如今突然恢复肉刑，砍断人的右脚，实在于心不忍。”谏议大夫王珪说：“古人执行肉刑，认为肉刑是轻罪，如今陛下怜悯死刑太多，让本该处死的又获得了重生。受刑的将庆幸自己能够活命，