清真寺位于大南门江岸上（清真寺街7号），建于明宪宗成化六年（1465年），当时面积较小，取名“清真堂”。咸丰十一年（1861年）毁于兵焚。同治九年（1870年）由回民筹资在原址重建并扩大规模，改名“清真寺”。寺内原有中文、阿文碑记、匾额、对联约五六十件。还有铜鼎、字画六方宫灯，这些珍贵文物全在文化大革命中被毁。1981年安庆市人民政府拨款重修大殿。

清真寺占地面积1829平方米，建筑面积为1091.2平方米。寺内有两组建筑合成。 一组为礼拜正殿、厢堂、客厅，主要建筑有无像宝殿，宝殿长25米，宽23米，面积为575平方米，高20米左右。系宫殿式砖木结构，有木柱56根，雄伟壮观，供回民念、礼、课、朝五功之用。

另一组是阿訇住所、开经学、沐浴室、养正堂，计面积327.86平方米。整座建筑构思巧妙，殿堂宏大，庄严肃穆。此外环绕殿宇内外有隔墙、照壁以及过门、垂花门等，布局精美，风格与其他佛庙寺宇迥然异别。该寺为长江中下游负有盛名的伊斯兰教清真寺院。

无相宝殿面阔五间，进深七间，殿四周均有走廊，立有石廊柱。殿南、北两侧各开券门五道。结构、雕饰均具有明代建筑的特点。殿内原悬二十块清康熙年间至宣统年问赐匾，今已不存，现尚有乾隆至光绪年问碑刻六方。