倭马亚王朝忙于对外扩张，但是他们内部一直非常不稳定。倭马亚王朝统治者们与国内什叶派穆斯林的矛盾一直存在。而且因为其领土上有大量新征服的民族，帝国内部民族矛盾也持续不断。国内的反对者们联合起来发动了叛乱。其中一个反对势力号称是穆罕默德的叔父阿拔斯的后裔，他们联合了什叶派一起推翻了倭马亚王朝，于公元八世纪中叶建立了阿拔斯王朝（中国称为黑衣大食）。
但是联合建国以后，原先的合作者们马上翻脸：阿拔斯王朝统治者们宣布自己为逊尼派，重新打压什叶派穆斯林。什叶派穆斯林直到后来阿拔斯王朝衰落后自己在北非建立了什叶派的法蒂玛王朝，这才算真正站起腰杆来。
阿拔斯王朝把阿拉伯帝国的都城迁到了伊拉克的巴格达，巴格达长期作为阿拉伯帝国的首都，直到五百年后成吉思汗的孙子旭烈兀将其攻克。被阿拔斯王朝驱逐的倭马亚家族在西班牙境内建立了新的王朝，史称后倭马亚王朝。
当时世界上与阿拉伯帝国并存的，除了拜占庭这个与之鏖战多年的对手，还有东方强大的唐帝国。阿拉伯帝国向西与拜占庭帝国争霸，向东若想往中亚地区扩张，就必然要遇到同样寻求成为中亚霸主的唐帝国。唐朝对西域的扩张始于唐太宗时期。唐贞观十四年（640年），侯君集平高昌，同年九月设立安西都护府。
在唐高宗年间，西突厥被平定，于是安西都护府升级为安西大都护府，统辖安息四镇：龟兹、疏勒、于阗、碎叶（今吉尔吉斯斯坦境内），包括了今天的新疆及哈萨克斯坦东部、吉尔吉斯斯坦北部。其中碎叶城就是诗仙李白的故乡。其实，在阿拉伯帝国到来之前，唐帝国已经与吐蕃在西域展开了数次争夺战，安西都护府也曾经被吐蕃袭扰甚至攻破。比如，垂拱年间，睿宗李旦无能，而其母武后又忙于篡位，无暇西顾，吐蕃趁机占领了安息四镇。
武后称帝以后，“唐军”收复安西，“唐”帝国在安西都护的统治终于相对稳固，武则天也在西域分设安西都护和北庭都护，分别管理天山南北的西域地区。
阿拔斯王朝的强大并没有保持太久，他们国内的反对声浪和人民起义不断爆发。很快，他们分崩离析，在各个占领区此起彼伏地出现了很多王朝。
这些王朝有些是阿拉伯帝国派往各地的总督们自封的，比如在突尼斯建立的艾格莱卜王朝（822－875年），埃及总督建立的图伦王朝（868—905年）。
还有些王朝是曾经被阿拉伯人征服的民族和教派所建立的，比如波斯人重建的萨曼王朝（819年－999年），什叶派穆斯林在北非建立的法蒂玛王朝（909年—1171年，中国称为绿衣大食），德莱木人建立的白益王朝（945年—1055年），葛罗璐人建立的伽色尼王朝（963年-1187年）。什叶派的法蒂玛王朝曾经一度非常强大。
法蒂玛是穆罕默德的女儿，她嫁给四位正统哈里发中最后一个阿里（我们前面说过阿里也是穆罕默德的堂弟）。所以法蒂玛是什叶派穆斯林眼中的圣女。法蒂玛王朝最为强盛的时候，曾经占领了从突尼斯到埃及的北非，以及叙利亚和阿拉伯半岛的一部分。
阿拉伯帝国可谓“忽喇喇似大厦倾，昏惨惨似灯将尽”，虽然巴格达的哈里发仍然是伊斯兰世界的名义领袖，但哈里发能够控制的地区被压缩到了巴格达附近的狭小区域。
更加凄惨和讽刺的是，巴格达不断地被自己的穆斯林子民们入侵，然后名义上的领袖哈里发轮番成为白益王朝、后来的塞尔柱突厥帝国（突厥人的故事我们用另一个专题来讲）的傀儡。到了欧洲发动的十字军东征的时代，十字军的进攻的方向已经不是阿拉伯帝国本身，而是各个伊斯兰苏丹国，比如罗姆塞尔柱苏丹国（罗姆的意思是“罗马的”，因为罗姆苏丹国所在的位置是小亚细亚，曾经是罗马帝国的领土）。
而从9世纪下半页开始，拜占庭帝国的马其顿王朝重新焕发了帝国当年强大的军事实力，在各条战线上对伊斯兰世界发动了反击，一度重新占领了失去数百年的安纳托利亚高原以及北叙利亚的大片土地。
阿拔斯王朝的鼎盛时期不长，但它却苟延残喘地让自己的国祚持续到了蒙古人的第三次西征。1258年，巴格达城下聚集了十五万来自东方的强大军队。这支军队的能征善战和残暴血腥都是巴格达从未见过的。
末代哈里发穆斯塔辛完全无力抵御蒙古军队的进攻，只是不停地恫吓蒙古军队“安拉会对进攻哈里发的人降下天谴”。可惜，蒙古军队之前已经攻陷了太多的城池，征服了太多的民族，处死了太多的国君，诅咒蒙古军队的人数不胜数，但全都不能阻止蒙古人凶悍的铁蹄。以武力征服世界的阿拉伯帝国终于尝到了更加强大的武力的惩罚。最后，穆斯塔辛被旭烈兀处死。历史上对穆斯塔辛的死法有两种不同的记载。
第一种记载，是穆斯塔辛被裹在一张毛毯里，由万马奔腾踏平处死。这是蒙古军队对敌军王公贵族们一种非常“人道”的不见血的处死方式。第二种记载则颇值玩味：穆斯塔辛和阿拉伯帝国数百年来积累的巨大财富关在一起，让他面对着这些堆积如山的黄金、珠宝，活活饿死了。如果第二种记载属实，那么不知穆斯塔辛在生命的最后阶段是否对他的帝国有过丝毫的反省？
最后说说阿拉伯帝国和拜占庭帝国这对生死冤家给后世的影响。
巴格达的哈里发虽然死了，但是哈里发这个头衔并没有灰飞烟灭。巴格达的哈里发被蒙古大军处决以后，哈里发的称号被北非的马木留克王朝继承，他们重新立了一个阿拔斯王朝的后代作为傀儡哈里发，但是大权一直掌握在马木留克苏丹手里。再后来，马木留克王朝被奥斯曼土耳其帝国所灭，哈里发头衔就被奥斯曼土耳其继承。这个称号一直保留到了1924年土耳其的凯末尔革命为止。
应该说，阿拉伯帝国的影子一直到1924年才最终消失，就好像中华帝国皇帝称号一直从秦始皇用到了宣统皇帝一样。拜占庭帝国虽然在1453年被奥斯曼土耳其帝国所灭，但是东罗马帝国的国祚并没有完全终止。俄罗斯自称第三罗马，“凯撒”（沙皇）的头衔在俄罗斯一直被用到了1917年。
罗曼诺夫王朝的皇帝头衔非常长，比如尼古拉二世的头衔是“全俄罗斯、莫斯科、基辅、弗拉基米尔、诺夫哥罗德的皇帝（Imperator）和独裁者（Autokrator），喀山沙皇，阿斯特拉罕沙皇，波兰沙皇，西伯利亚沙皇……”（后面一大堆沙皇、王公、大公等）。其实，保加利亚的西美昂大帝在公元913年击败拜占庭帝国以后也自称凯撒（沙皇）。
后来保加利亚曾经先后被拜占庭和奥斯曼帝国征服，沙皇这一称号在保加利亚被中断。但是1908年，费迪南一世宣布保加利亚独立于奥斯曼帝国，并且自称沙皇。他把沙皇称号一直用到第二次世界大战以后。