岂能害怕失掉一个脚？况且，还能对看见的人起到警示作用。”唐太宗说：“本来是为了宽刑，才这样做，然而，每当想到这里，总会产生恻隐之情，久久不能忘怀。”又征询萧瑀和陈叔达等人的意见，大家也都认为：“古代的肉刑是在死刑之外设定的，而陛下的是在死刑之内开恩设定的，是以生换死，当然应为宽大之法。”但唐太宗还是没有下决心改定。蜀王法曹参军裴弘献又上书提出法律中四十多条不便之处，唐太宗遂命他与房玄龄等人一起研究修改法律，最终把砍断右脚之法改为流放三千里，服劳役两年。
根据旧法，兄弟分家后，恩典相互之间不得继承，但因一方犯罪仍要受到牵连被处死，爷孙之间则没为奴仆。同州人房任谋反被杀，他的哥哥房强也受到牵连，也将被处死。唐太宗在翻阅案卷时顿生怜悯之情，对侍臣们说：“朝廷不得不使用刑罚，全是因为教化不到之故，百姓又有什么罪过，而要让他们承受重刑？这更显示朕的寡德。用刑的关键在于审查案件的轻重，然后加以惩处，哪有不探究人的主观动机而一概诛杀的道理？这不是在珍惜生命。谋反和大逆主要有两种情形：一是兴师动众，二是口出恶言，违犯了法律。轻重当有差别，可是对于连坐的却一概处死，这岂能让朕心安？”又命群臣再议。房玄龄等人经过复议后，说：“就亲疏关系来讲，祖孙之间比兄弟之间更亲，应当处罚重的反而判处流放，应该轻的却反为死刑，这确实不妥。建议：祖孙与兄弟之间连坐的，一律罚为奴仆；恶言犯法、情节较轻的，兄弟之间免死，流放。”唐太宗同意了，从此以后，判处死刑的与过去相比要少了一半。
贞观二年三月五日，大理少卿胡演把每月囚犯的名单上呈给唐太宗，唐太宗命令从今往后，凡是死刑的全都交由中书省、门下省四品以上的官员会同尚书省一起商议，以免出现冤案。不久，又把罪犯拉到大殿之上，其中有前岐州刺史郑善果，唐太宗说道：“郑善果虽然有罪，但官位不低，岂可令其与其他罪犯为伍？从今往后，凡是三品以上犯罪的，不用拉来，只需押到殿门即可。”唐太宗对侍臣们说：“近来，有奴仆告发主人谋反的，这条法律影响很坏，必须废除。假设真有谋反的，一定会有同伙，大家一起策划的事情，肯定会引起他人的议论，还非得等奴仆来告发？从今往后，凡是奴仆告发主人的，一律不予受理，并下令将奴仆斩杀。”
唐太宗曾对侍臣们说：“古语说：‘大赦对于小人来说是件幸事，但对于君子来说却是件坏事。’‘一年大赦两次，好人都不敢吭声了。’放任野草疯长，就会害了秧苗；赦免罪犯，也会让他们肆无忌惮地残害良民，因此，朕即位以来，不想屡屡大赦，就是担心坏人借此会轻易犯法啊！”
贞观三年三月八日，唐太宗亲自审理案件，有个叫刘恭的人，脖子上的纹路像个“胜”字，遂说：“我将称霸天下。”因为这一句话而被打入大牢。唐太宗说：“如果上天要让他兴起，也不是朕所能阻挡的了的；如果没有天命，就是脖子上有个“胜”字，又有什么用呢！”当即下令把那人放了。贞观四年十一月，唐太宗读了《明堂鍼灸书》，书上称：“人的五脏六腑都与脊背相连。”下诏不得再用杖打囚犯的脊背。濮州刺史庞相寿因贪污而被免官，他自称曾在秦王府服务，唐太宗念及旧情，就下令恢复了他的官职。魏征劝谏道：“秦府的旧人朝廷内外尚有很多，这样一来恐怕会人人自恃旧恩为非作歹，让天下的好人们害怕。”唐太宗欣然采纳，对庞相寿说：“我过去当秦王，是一府之主，现在当了皇帝，就是一国之主了，不能再偏袒旧人。朝廷大臣不同意我的意见，朕岂敢违背！”于是，赏赐给他一些财物，把他打发走了。
不过，在刑狱方面，唐太宗也不是没有做过错事。
贞观二年，交州都督、遂安公李寿因贪婪而得罪，唐太宗觉得瀛州史卢祖尚是个文武全才，又清廉正直，遂将其征召入朝，对他说：“交州是个大州，距离京师很远，需要有个好的长官进行管理，你有安抚边疆的才能，为我镇守南方，不要以路远推辞。”卢祖尚拜谢出宫，可不久，他又后悔了，以生病为由推辞不干了。唐太宗派杜如晦以及杜如晦的妻兄周范等人再劝：“就是一介平民尚且讲究诚信，为何你既然答应了朕，却又反悔了呢！最好早早上路，三年之后一定召还你，你不要推辞，我一定守信。”可是，卢祖尚就是不从。十月十五日，唐太宗再次召见卢祖尚，当面劝说，卢祖尚还是推辞不干，坚称：“岭南有瘴气，需要终日饮酒，臣不会喝酒，肯定会死在那里。”卢祖尚的话惹得唐太宗勃然大怒，说道：“我连个人都指挥不动，将如何治理天下！”当即下令把卢祖尚就地斩杀。卢祖尚年轻时就勇力过人，在李孝恭讨伐辅公祏之战中，他担任前军总管，立下大功，后历任蒋州刺史、寿州都督、瀛州刺史，是个不可多的文武全才，他被杀时才三十多岁。当然，卢祖尚既不是李渊的嫡系，更不是唐太宗的嫡系，唐太宗杀起来也不心疼。
卢祖尚被杀不久，唐太宗与侍臣们探讨：“北齐文宣帝高洋是个什么样的人？”魏征回答：“文宣帝狂暴，然而他与人争论，理屈后就会听从他人的意见。有一个前任青州长史叫魏恺的出使南梁回国后，被任命为光州长史，却拒绝上任，杨愔提出弹劾。文宣帝大怒，把魏恺召来问话，魏恺说：‘臣过去担任大州的长史，出使回国后，有功劳没有过失，却仅仅得到了一个小州的长史，这是臣不上任的原因。’文宣帝听了，对杨愔说：‘这话有道理，你放了他。’这就是他的长处。”唐太宗听后说道：“确实。近期虽然卢祖尚不像个当臣子的，但我杀了他也太残暴了，以此而言，我还不如高洋呢！”遂下令恢复了卢祖尚的官爵和荫子。按：唐代荫子制度：职事官一品的，儿子的散阶为正七品上，二品子为正七品下，自三品起始有正从之分，其子所叙品阶递降一阶，从五品子从八品叙。严格说，门荫只限于五品以上官员，但是对六品至九品官，也给予一定的照顾，他们的子弟可以“品子”身分服职役后获得做官资格。大多数高官子弟在取得散阶后，要充任三卫、千牛备身、殿中省进马、太庙及郊社斋郎等职，然后逐步升迁；国子监下设的六学、门下省弘文馆、太子东宫崇文馆也多由高官子弟荫补。
由于唐太宗担心宰相专权，不仅从制度采取分权制衡，而且还大肆鼓励御史们进行监督。
治书侍御史权万纪，其兄权弘寿曾担任秦王府长史，深得李世民的信任，而权万纪性格刚正，喜欢直言，他担任侍御史以来，与侍御史李仁发一起忠于职守，不避权贵，深得唐太宗的礼遇。他曾弹劾房玄龄、王珪、魏征、温彦博等人，贞观初期朝廷执政大臣几乎无一幸免，经常受到唐太宗的斥责。房玄龄和王珪负责选拔人才，权万纪弹劾二人选举不公，唐太宗命令侯君集负责调查。魏征劝谏道：“房玄龄和王珪都是朝廷旧臣，素来忠心耿耿，