Suivant le modèle des autres califats, Abdérame III ordonne la création d'une cité palatiale. Elle était destinée à devenir le siège du califat de Cordoue conformant ainsi un nouveau noyau politique en plus de la médina de Cordoue.
En 936, les travaux commencent, sous la direction de Maslama ben Abdallah. Neuf ans plus tard, le transfert de l’alcazar califal a eu lieu. En 948, de nombreux bâtiments tels que la mosquée et l’atelier monétaire avaient déjà été construits.
Al-Hakam II a poursuivi l'expansion de la ville. Il a fait quelques constructions telles que la Maison de Ya’far.
La vie de cette nouvelle capitale a été assez courte. Quand al-Hakam II meurt, Almanzor, le hayib du calife Hisham II, concentre tout le pouvoir. Il construit Madinat al-Zahira, sa propre ville palatiale, dans la direction opposée. De plus, le calife, sans aucun pouvoir, est confiné à Medina Azahara.
Lors de la dissolution du califat de Cordoue, la ville est abandonnée et les guerres entraînent la fin de la ville. Avec le pas du temps, elle subit de nombreuses attaques et pillages aussi.
Jusqu'au XXe siècle, la belle ville musulmane tombe dans l'oubli. Les premières fouilles commencent en 1911 et se poursuivent encore aujourd'hui.