武德九年（公元626年），李世民取得玄武门政变的胜利。他问魏徵为何要离间兄弟，魏徵答先太子若是听他的，必无今日之祸。李世民听罢，器重他的耿直，又素来看重他的才能，便接纳并礼遇魏徵，让其担任詹事主簿。李世民登基后，魏徵擢拜谏议大夫，封钜鹿县男。当时河北州县局面混乱乱党丛生，魏徵及时提醒李世民：不示至公，祸不可解。李世民便派魏徵前往安揖河北稳定局面，遇事可酌情处理。魏徵在磁州遇到旧太子千牛李志安、齐王护军李思行押解回京，魏征对副使李桐客称，如果释放了二人，人们便会相信朝廷发布的诏令是算数的，必然对民心安定产生重大影响，如果仍听凭将“二李”锢送京师，则只能说明朝廷说话并不算数，必将失信于民，造成难以弥补的损失。应以国家大计为上，主上以国士的礼相待，便应以国士的担当来报答知遇之恩。随即命人释放他们，免除其罪责，使朝廷信誉的感召远达天下，李世民非常满意，魏徵最终也圆满完成了安抚山东、河北的任务。 魏微宣慰山东归来不久，即武德九年（公元626年）十月，升为尚书右丞，仍兼谏议大夫。之后，李世民对他愈发器重，经常传召他入内商谈治国施政的得失。魏徵有经国之才，性情耿直不屈不挠，太宗对他的谏言都欣然接受。魏徵也欣喜于李世民的信任， 对唐太宗知无不言，尽显其才能无所隐瞒，所谏二百余事都切中帝王心，太宗也都理解他是诚心诚意为了国家好。
