A Maliban található djenne-i óváros i. e. 250 óta lakott település. Az iszlám előtti időkben évszázadokon át szoros kereskedelmi kapcsolatban állt a vízi úton megközelíthető Timbuktuval, és a Szaharán keresztül folytatott gyapot-, arany- és rabszolga-kereskedelem egyik központja volt.
Az UNESCO Világörökség részét 1988-tól képező Djenne-i nagymecset létezéséről legkorábban Abd al-Sadi Tarikh al-Sudan (Fekete-Afrika története) című munkájából értesülhetünk, mely a 17. században íródott.
Szájhagyomány útján maradtak fenn mindössze azok az adatok, amiket a mecset korai történetéről tudhatunk, eszerint a nagymecset épülete előtt már állt egy mecset Djennében a 13-14. századtól, majd a Szonghai Birodalom uralma alatt épültek meg az óváros jellegzetes épületei, illetve a mecset a mai helyén. Európai utazók 1828-ban írtak először a különleges mecsetről, nevezetesen René Caillié, francia felfedező, aki így írt az épületről: "Jennében egy földből épült mecset található, amelynek két erős, de nem túl magas tornya van; durván épített, de nagyon nagy. Fecskék ezreinek nyújt lakhelyet, melyeket a madarak egymásba építenek. A fészkek nagyon kellemetlen illatot idéznek elő, így elterjedtté vált az a szokás, hogy egy kis külső udvarban mondják inkább a közös imákat."
Az 1834-1836 közötti időszakban Seku Amadu építette újjá a mecsetet rendkívül egyszerű, díszítésektől mentes formában.
Amikor 1906-ban a franciák ellenőrzése alá került a város, újra felmerült a mecset felújítása, ami 1907-re meg is valósult, így kapta meg a mecset jelenlegi formáját.
