La madrasa telle qu'on la voit aujourd'hui a été fondée à la fin du XVIe siècle par le sultan Ahmad al-Mansur, de la dynastie saadienne, bien qu'une école religieuse existât déjà sur ce site bien avant cela. À son apogée, il accueillait jusqu’à 900 étudiants, ce qui lui a valu d’être considéré comme la plus grande université islamique d’Afrique du Nord à l’époque.
Des étudiants à partir de toute la région se sont rendus à Marrakech pour étudier la théologie, le droit et d'autres disciplines universitaires. Ils vivaient dans de modestes cellules collectives disposées autour de la cour centrale, formant ainsi une communauté universitaire autonome au sein de la médina.
Au fil du temps, le rôle de la madrasa en tant qu'établissement d'enseignement s'est affaibli, et elle a fini par fermer ses portes. Au XXe siècle, d'importants travaux de restauration ont permis de préserver avec soin ses mosaïques de zellige aux motifs complexes, ses boiseries en cèdre sculptées et ses décorations en stuc. Réouvert au public en tant que monument historique, il est aujourd'hui considéré comme l'un des plus beaux exemples encore existants de l'architecture saadienne au Maroc et reste un élément essentiel du patrimoine culturel de Marrakech.
