其前身为1947年创建于山东省沂水县的华东军区特科学校。后迁至南京汤山，1950年12月改为第三炮兵学校。1956年更名为南京炮兵学校。1977年11月7日改为第一地面炮兵学校。1986年6月改用现名，隶属总参谋部兵种部建制。学院主要为炮兵培养具有大学本科学历的专业基层干部。教学设施比较先进，建有各类专修室、实验室和射击预习场、教练场及陈列各种大炮的兵器馆等。学院自1957年开始对外开放， 已先后接待了40多个国家的军事代表团。 [1] 

后与合肥炮兵学院合并为中国人民解放军炮兵学院，更名为中国人民解放军炮兵学院南京分院。现在为中国人民解放军陆军炮兵防空兵学院南京校区。