তিনি দামেস্কে তাদের নিকট অবস্থান করছিলেন এবং তিন মাস প্রশাসনিক দায়িত্বে বহাল ছিলেন। অতঃপর মারওয়ান ইবনে মুহাম্মদ দামেস্কে আগমন করেন এবং মারওয়ানের সাথে যুদ্ধের পর তাকে ক্ষমতা ত্যাগ করতে উদ্বুদ্ধ করেন; ফলে তাকে ক্ষমতাচ্যুত (المخلوع) হিসেবে অভিহিত করা হয়। এরপর তিনি মৃত্যু পর্যন্ত দামেস্কে কিছুকাল অবস্থান করেন। বলা হয়ে থাকে যে, মারওয়ান ইবনে মুহাম্মদই তাকে হত্যা করেন এবং শূলে চড়ান। ইব্রাহিম ইবনে আল-ওয়ালিদ যেদিন ক্ষমতাচ্যুত হন, সেটি ছিল ১২৭ হিজরির সফর মাসের চৌদ্দ দিন অতিক্রান্ত হওয়ার পর সোমবার। মারওয়ান ইবনে মুহাম্মদ ইবনে মারওয়ান ইবনে আল-হাকাম, আবু আব্দুল মালিক। যেদিন ইব্রাহিম ইবনে আল-ওয়ালিদ ক্ষমতা ত্যাগ করেন, সেই সোমবারই মারওয়ান ইবনে মুহাম্মদ শাসনভার গ্রহণ করেন। তাকে 'মারওয়ান আল-হিমার' বলা হতো; মূলত তার বিচারবুদ্ধির স্বল্পতার কারণেই তিনি 'আল-হিমার' বা গাধা হিসেবে পরিচিতি লাভ করেন। তার মাতা ছিলেন একজন কুর্দি সন্তানবতী দাসী (أم ولد), যাকে লুবাবাহ বলা হতো। আবু মুসলিম—যার নাম আব্দুর রহমান ইবনে মুসলিম, যিনি বনু জুনদু ইবনে লাইস ইবনে বকর ইবনে আবদ মানাফ গোত্রের অন্তর্ভুক্ত—১২৯ হিজরির রমজান মাসের দশ দিন অবশিষ্ট থাকতে (অর্থাৎ ২০শে রমজান) বৃহস্পতিবার খোরাসানে আত্মপ্রকাশ করেন। তিনি রাসূলুল্লাহ সাল্লাল্লাহু আলাইহি ওয়াসাল্লাম-এর পরিবারভুক্ত সন্তোষভাজন ব্যক্তির (الرضا) প্রতি আনুগত্যের দাওয়াত প্রচার করেন। অতঃপর তিনি মার্ভে প্রবেশ করেন এবং সেখানে নসর ইবনে সাইয়্যারের সাথে থাকা দলগুলোকে ছত্রভঙ্গ করে দেন। নসর ইবনে সাইয়্যার আবু মুসলিমের ভয়ে ইরাক অভিমুখে পালিয়ে যাওয়ার সময় মৃত্যুবরণ করেন।