在玄武门之变后，李世民召见魏征，严厉问道：“你为何离间我与兄弟，且曾劝前太子杀我？”魏征回答：“若前太子听从我的建议，今日之祸本可避免。”李世民的幕僚愤怒斥责魏征，但李世民却笑道：“如此直言无隐，我怎舍得杀他？”随即，他任命魏征为东宫詹事主簿，并授权他安抚李建成与李元吉的旧部。 魏征早年在武阳郡丞元宝藏麾下为官，后随李密起义，加入瓦岗寨。618年李密败北后，魏征归降李渊，历经几番变故，最终成为李建成的太子洗马。在此期间，魏征屡次劝李建成加强自身功绩，最终促使李建成平定山东。然而，李建成与李世民的矛盾日益加深，最终导致兵戎相见。 626年6月，李世民发动玄武门之变，杀害李建成与李元吉。李世民继位后，听闻魏征曾多次劝李建成将其远调，便召魏征问责。魏征直言不讳地表示：“若李建成听从我劝告，今日悲剧可避免。”李世民听后，因魏征坦诚相待，赦免了他并任命他为詹事主簿，负责安抚李建成旧部。 李世民即位后，魏征屡次上谏，两百多次直言不讳，李世民大多采纳其建议。一次，魏征在朝堂上直言劝谏，激怒了李世民，几乎被杀。长孙皇后见状，穿着朝服上前祝贺李世民，表示：“魏征敢言，正因为陛下开明，正直无私，我怎能不祝贺？”李世民听后，怒气转为喜悦，愈发重视魏征，赠予绢四百匹、钱四百缗，并鼓励他保持正直。 634年，魏征劝李世民宽容对待皇甫德参的上书，李世民听从，赦免了皇甫德并赏赐帛二十段。636年，李世民为悼念长孙皇后而修建楼阁，当他带魏征前来时，魏征装作未见昭陵，李世民急道：“你怎么没看见？”魏征则答道：“臣以为陛下望的是献陵。”李世民顿悟，感动地命令拆除楼阁。 642年，魏王李泰受宠，李世民为平息朝臣议论，欲任魏征为太子太师，但魏征因病推辞。李世民坚持称魏征为辅佐太子的“四老”之一，魏征才勉强同意。643年1月，魏征病逝，李世民为此废朝五日，并追谥魏征为“文贞”，厚葬之。魏征的妻子裴氏却拒绝了李世民的盛大葬礼安排，仅用小车运送遗体。李世民遂遵其愿，亲自率领百官送葬。 然而，魏征死后不久，李承乾与侯君集谋反事发，李世民为此撤销了魏征长子魏叔玉与新城公主的婚约，并推倒魏征的墓碑。直到李世民亲征高句丽回朝后，他才为魏征举行了祭祀，并重新立碑。
