大业十三年（公元617年），武阳郡丞元宝藏起义响应瓦岗李密，召魏徵为官掌管文书记录等。李密每次收到元宝藏的文书总是称赞，听闻是魏徵所写，便召见召魏徵为元帅府文学参军，掌记室。魏徵随后献上十条密策以壮大瓦岗，李密虽称奇却没有采用。大业十四年（公元618年），王世充转攻洛口，被李密击败。魏徵对李密的长史郑颋献策称，李密虽多次胜利但损兵折将过多，瓦岗没有府库，将士们有功而无赏影响作战士气，不如加固深沟高垒与之相持，待敌人粮尽，便可不战而退，追而击之，才是取胜之道。而且东都的粮食用尽，王世充无计可施会决一死战，穷寇难与争锋，便不与其交战。郑颋不以为然，认为是老生常谈。魏徵却称这是奇谋深策，拂袖离去。 没有采用魏徵的计策，李密轻率出战，遭到惨败，魏徵便随之归降李唐，但未得起用。当时李密原来的部下徐世勣仍占据着大片领土，东到大海，南到长江，西到汝州，北到魏郡，举棋不定不知何从。魏徵便自请安揖山东，授秘书丞赶赴黎阳。他写出《与徐世勣书》劝导徐世勣应审时度势，避免错过成大事的时机。李勣收到文书后便决意归唐，并开仓运粮，接济淮安王李神通。
