Une mosquée est présente sur ce site depuis près de 800 ans. La première structure a été érigée entre le XIIIe et le XIVe siècle, alors que l'Islam était en croissance à Djenné grâce à des liens commerciaux transsahariens. La mosquée a prospéré avec la ville, bénéficiant de la communauté islamique les érudites qui s'est développée dans les écoles coraniques entourant le site. Le bâtiment actuel date de 1907 et provient des ruines de la mosquée précédente, qui s'était délabrée sous l'empire Fulani au début du XIXe siècle.