清真寺坐落在大东门立志巷。北临寿春路，南接淮河路，与明教寺咫尺相望，是穆斯林传授宗教知识和聚会礼拜之所。唐武德始兴，元代以后信奉伊斯兰教日多，建寺之风日盛。

合肥县志云：礼拜寺，明洪武中建，色目人百姓祀之赦回回岗（现三里庵）。柏氏宗谱载先祖驸马公克马丁于元末宦游于此尽室偕来居丁家巷。沙氏宗谱亦云先祖哈吉公钦天监于明永乐年间始来合肥住南油坊巷。建有丁家巷清真寺，后遭战火，至建国时已残陋不堪。人民政府于1956年在大东门立志巷征地二亩多建月牙楼清真寺，规模西化，造型完美，寺内遍植奇花异草，四季吐芳，是当时庐州一处景点，不幸于“文革”时破坏殆尽。三中全会以后得以恢复并增建综合楼一幢，设施完备，规模可观。

据云，建国前夕合肥市仅有穆斯林700余人，以柏沙二氏为主体，陶、米二氏以联姻关系构成柏、米、陶、沙四大姓氏，现合肥穆斯林已增加到15000人左右。寺内现任哈吉阿訇许治海系阿訇世家，任省人大八、九两届常委会委员，省伊斯兰教协会副主任等，是一位与时俱进的阿訇。