净觉寺是南京最早的一座伊斯兰清真寺。寺始建于明洪武二十一年（1388），当时为“以居西域附之人”而由明太祖朱元璋下令建造。明宣德五年（1430）失火被毁。同年，郑和第七次下西洋前奏请重建。重建后规模南临升州路，东至中华路，西至马巷，北至砂珠巷，占地面积约6700平方米，为我国八大清真寺之一。

咸丰年间全部建筑毁于战火。现有建筑为光绪三年（1877）所建，民国初年回族富商蒋秀冬夫妇又修建厅楼和南北讲堂，唯大殿两侧围墙为明代遗物。“文化大革命”期间该建筑被拆除。1980年以后收回陆续修复。入口的砖雕牌坊于1985年6月按原样重建。现寺占地面积3715.7平方米，总建筑面积1869.1平方米。入口门楼坐北朝南，而主体建筑则坐西朝东，（因为伊斯兰教的圣地——麦加在我国的西面，大殿必须坐西朝东，以便教民向西礼拜）。现存望月楼、南北讲堂、大厅、无像宝殿等建筑。无像宝殿（也称礼拜殿），平面“凸”形，单檐硬山顶，小瓦屋面，穿斗式梁架结构，占地面积408.58平方米，面阔5间27.7米，进深9檩14.75米，三面有双步廊，廊宽2.20米，殿高12米。大殿明间正门上悬南京回教联合会会长、委员等于民国11年（1922）6月立的“正心诚意”匾额，边款为“民国11年六月南京回教联合会会长委员敬立”。1982年列为南京市文物保护单位，2002年10月升级为省级文物保护单位。