龙朔三年（公元663年）倭国将领毛野稚子等率二万七千人攻新罗，朝廷令右威卫将军孙仁师率军渡过渤海到来，与刘仁轨等会师。唐军士气因而大振。这时，众将讨论进攻目标，有人说：“加林城是水陆交通要道，何不首先攻打它？”刘仁轨说：“加林城地势险阻守卫坚固，进攻就会大量伤亡，守卫也会旷日持久。周留城，是敌巢，敌军头目都集聚在那里。如果攻克周留城，其余各城自然就好夺取了。”按照唐军部署，孙仁师、刘仁愿及新罗国王金法敏于是率领陆军进发，刘仁轨则与杜爽、扶余隆率水军沿着熊津、白江进军，与陆军会合。刘仁轨在白江口遇上了倭军，唐军四战皆捷，焚烧倭国战船四百艘，一时间“烟焰涨天，海水皆赤”，倭军大败。扶余丰脱身逃走，所佩宝剑被缴获。百济王子扶余忠胜、扶余忠志率领自己的兵众及倭军、耽罗国使投降，只有主帅迟受信占据的任存城还未被攻克。当初，苏定方灭亡百济，主将沙吒相如、黑齿常之纠集溃卒，凭借险要地势接应鬼室福信。白江口之战后，二人投降唐军。刘仁轨展示诚意，让他们攻取任存城来证明自己的真诚，又为其补充军械、粮草。孙仁师认为此举可能会招致他们反叛，刘仁轨说：“我观察沙吒相如、黑齿常之真诚并有谋略，乘机立功，还怀疑什么？”沙吒相如等最终攻克了任存城，迟受信独自逃往高句丽，百济的残余势力被全部消灭。孙仁师等人班师回朝，朝廷令刘仁轨率军留镇百济。
