এরপর যখন হিজরি পঞ্চদশ বর্ষ শুরু হলো, তখন তাতে ইয়ারমুকের যুদ্ধ সংঘটিত হয়। এর কারণ ছিল এই যে, হেরাক্লিয়াস রোমানদের নিয়ে যাত্রা করে আন্তাকিয়ায় শিবির স্থাপন করেন। তাঁর সাথে মুসতা’রিবা (আরবীয়করণের অধীনস্থ গোত্র) লাখম, জুযাম, বালকাইন, বালি, আকিলা ও গাসসান এবং আর্মেনীয়দের এক বিশাল জনবাহিনী ছিল। তিনি আন্তাকিয়ায় অবস্থান করেন এবং আবু উবাইদাহ ইবনুল জাররাহ চব্বিশ হাজার মুসলিম সৈন্য নিয়ে তাদের অভিমুখে অগ্রসর হন। বিপরীতে রোমানদের সংখ্যা ছিল এক লক্ষ। তারা ইয়ারমুক প্রান্তরে মিলিত হলেন এবং তাদের মধ্যে ভয়াবহ যুদ্ধ হলো; এমনকি কুরাইশ বংশীয় মহিলারাও তলোয়ার দিয়ে লড়াই করছিলেন। আবু সুফিয়ান ইবনে হারব তাঁর পুত্র ইয়াজিদের পতাকাতলে থেকে রণক্ষেত্রে উচ্চস্বরে বলছিলেন, "হে আল্লাহর সাহায্য! নিকটবর্তী হও।" শেষ পর্যন্ত আল্লাহ তাঁর সাহায্য অবতীর্ণ করলেন এবং রোমানরা পরাজিত হলো। এতে রোমান সৈন্য এবং তাদের সাথে থাকা আর্মেনীয় ও মুসতা’রিবা গোত্রগুলোর সত্তর হাজার লোক নিহত হলো। আল্লাহ তাআলা তাদের দুই প্রধান সেনাপতি সাকলারিউস ও বাহানকে সংহার করলেন। এরপর আবু উবাইদাহ ইবনুল জাররাহ তাদের পশ্চাদ্ধাবনের জন্য ইয়াদ ইবনুল গানমকে প্রেরণ করেন। তিনি আল-আমাক অঞ্চল হয়ে মালাতিয়া পর্যন্ত পৌঁছালেন এবং সেখানকার অধিবাসীদের সাথে জিজিয়ার বিনিময়ে সন্ধি করলেন। হেরাক্লিয়াস এ খবর শুনে মালাতিয়ায় সংবাদ পাঠালেন এবং সেখান থেকে যোদ্ধাদের সরিয়ে নিয়ে শহরটি পুড়িয়ে দেওয়ার নির্দেশ দিলেন।