После одержанных побед халиф Умар решил не продолжать наступление на персов, так как он опасался, что рассеяние мусульманских войск на больших территориях может привести к пагубным последствиям. Он хотел наладить на завоеванных территориях мирную жизнь и начал интересоваться взаимоотношениями мусульман с зиммиями. Всех наместников он обязал внимательно рассматривать жалобы зиммиев и справедливо обращаться с ними. Однако командиры войск убедили его в необходимости продолжения войны, так как персидский шах еще был жив и продолжал пользоваться влиянием среди персов. Это являлось дестабилизирующим фактором, и они постоянно предпринимали атаки на мусульман.
Узнав о том, что персы снова собрали большие силы в Нехавенде, халиф Умар срочно приказал основным силам армии Халифата выступить против них. Он хотел лично возглавить войска и выехать на фронт, однако Али ибн Абу Талиб и другие сподвижники отговорили его от этого шага. Тогда Умар написал послания Хузайфе ибн аль-Йаману в Куфу, Абу Мусе аль-Ашари — в Басру и Нуману ибн Мукаррину с приказом объединить силы и совместно выступить против персидской армии. Командующим армии он назначил Нумана ибн Мукаррина. В случае его смерти полномочия командующего должны были перейти к Кайсу ибн Макрушу. 30-тысячная мусульманская армия подошла к Нехавенду. Персы собрали в Нехавенде огромные силы численностью в 150 тысяч человек. Битва началась и продолжалась два дня. Мусульмане победили противника, и тот вынужден был отойти и укрыться за стенами города. Осада города могла быть продолжительной, и это не входило в планы командующего армией Нумана ибн Мукаррина. Поэтому он, посовещавшись с командирами, использовал военную хитрость. Вступив в бой с передовыми отрядами персов, мусульмане начали намеренно отступать, создав иллюзию того, что персы вот-вот добьются победы. Как следствие, вся персидская армия пошла в бой. Мусульмане ждали этого и, сделав маневр, они снова укрепили свои ряды и вступили в бой с противником. Битва была кровавой. Десятки тысяч персов погибли на поле боя. Командующий мусульманской армией Нуман ибн Мукаррин тоже погиб, но известие об этом временно не оглашали, чтобы не подрывать боевой дух бойцов. Командир персидской армии Файрузан бежал с поля битвы, однако отряд Кааки настиг его у Хамадана, и Файрузан был убит.
После этих событий исламская армия вошла в Нехавенд, а затем захватила Исфаган. Абу Муса аль-Ашари завоевал города Кум и Кашан, а Сухайл ибн Ади вошел в Кирман.
Победа при Нехавенде, как и остальные чудесные победы мусульман, была достигнута вовсе не за счет численного перевеса или хорошего оснащения исламской армии. Самым главным фактором, предопределившим эти победы, была искренняя и непоколебимая вера мусульманских бойцов.