羊山位于下邳古街道西北角，海拔仅有35米。清顾祖禹《方舆论纪要》中把它名为"阳山"。因咸丰十年因从山西修建至江宁驿道经过下邳，路正好从羊山边经过，需要把山切下一块，羊山即又有了"羊切脚"的别名。羊山的景色很美，清代张其仁曾经作诗《羊山胜景》以赞之。山顶有"宗善禅寺"、"僧王祠"。

"宗善禅寺"是明成化太监部州人徐瑛奉旨建造，殿宇丽，古木耸秀。羊山上的宗善禅寺，内有一铜钟，为灵璧县袁自登等于公1557年（嘉靖三十六年十二月）铸造，钟高过一人，厚近十余公分，三人伸臂方可合围，重1365斤（象征一年365日）。每日夜间寅时，寺僧撞钟18响以报时，钟声可闻30余里，真可谓"响震三更梦，声传四野秋"。