لم تكن معركة القادسية هى الأولى التى يلتقى فيها العرب المسلمون مع الفرس، لقد حدث ذلك من قبل فى معركة البويب لكنها كانت مجرد معركة كسب فيها العرب أرضا جديدة لكن الفرس لم يُخرجوا من العراق، بل على العكس فقد استفزتهم انتصارات المسلمين فاجتمعوا على كلمة واحدة واختاروا ملكا جديدا، وحرضوا أهل المناطق التى فتحها المسلمون على التمرد، ووجد الخليفة عمر بن الخطاب فى سنة 14 هجرية نفسه يستعد خارج المدينة بجيش قوامه 4 آلاف قاصدا الذهاب إلى العراق.
كان من رأى الصحابى عبد الرحمن بن عوف ألا يخرج عمر بن الخطاب على رأس الجيش لذا تم استدعاء الصحابى سعد بن أبى وقاس ليقود المسلمين، وعندما وصل أرض العراق تكون له نحو 30 ألف مقاتل، لكن الفرس كانوا فى انتظاره بـ120 ألفا ونحو 30 فيلا فيهم واحد أبيض.
كان الخليفة عمر بن الخطاب يعرف حجم المعركة المقبلة، ويعرف خطرها وأهميتها لذا قال "والله لأضربنَّ ملوك العجم بملوك العرب" وفتح باب الجهاد على مصراعيه، فسمح للتائبين من أهل الردة بالمشاركة وكانوا يمنعون قبل ذلك، كما أنه دعا رؤساء القبائل أن يرسلوا كل قادر على المشاركة فى الحرب.
رغم عددهم الكبير حاول الفرس أن يتجنبوا المعركة، فتباطئوا فى الحضور، وطلبوا التفاوض، وحاولوا إغراء رجال سعد بن أبى وقاص بالمال، وفى النهاية لم يجد الفرس سوى العبور إلى العرب.
وأقام سعد بن أبى وقاص فى قصر الصفين وأمامه الجيش وكان سعد قد أُصيب بالدمل، فلا يستطيع القعود ولا الركوب، وهو على صدره، تحته وسادة يلقى بالرقاع فيها أمره ونهيه، يبلغ ذلك إلى خالد بن عُرطفة، وهو يُبلِّغها إلى الأجناد.
وبدأت المعركة باختطاف عدد من جنود الفرس وقتلهم، ثم كبَّر سعد وتلاحم الجيشان، وتقدَّم نحو بجيلة (قبيلة) ستة عشر فيلًا، فنفرت خيلهم وكادوا أن يهلكوا بمَن معهم، فأرسل سعد إلى بنى أسد أنْ ساعدوا بجيلة، فخرج طليحة وقوم من بنى أسد فى كتائبهم إلى الفيلة فردوها، ونادى سعد عاصم بن عمرو وقال له: اكفِنى شرَّ الفيلة، فأمر عاصم رجالَه أن يستدبروا الفيلةَ ويقطعوا السيور التى تَحمل التوابيت ثمَّ ليرموا من فوقها، ففعلوا وحسرت الفيلة، وقتل مَن عليها من الجند، ثمَّ تحاجز الناس فى الليل، وأصيب من قبيلة أسد خمسمائة، وكانوا هم الدريئة للمسلمين فى هذا اليوم؛ حيث تلقوا الصَّدمة الأولى عن غيرهم واحتووا هجومَ الفرس.
واستمرت الحرب أيام أخرى، استطاع المسلمون فيها مواجهة الجيش والفيلة، وقتل رستم قائد الفرس على يد هلال بن علقمة وصاح "قتلت رستم ورب الكعبة"، واستشهد من المسلمين زهاء ثمانية آلاف وخمسمائة مُقاتِل، وقُتِل من جنود الفرس ما يزيد على خمسين ألفًا، وشُرِّد جيشهم، فلم يَصِل منهم إلى المدائن إلا القليل.