临淮中学始建于1952年。学校起始校名为“凤阳县第二初级中学”（“二中”习称由此而来），时校址在临淮镇大东关的道院，属省市县三级重点初中；1953年迁入现校区。1960年春，改制为完全中学，定名为“安徽省临淮中学”，同年郭沫若先生亲笔为该校题写了校名。1961年因自然灾害影响高中部并入凤阳中学，于1970年恢复高中招生；2000年4月，上级决定临淮中学停止初中招生，改制“完全高级中学”；2001年元月，学校启动市级示范高中申报工作，2003年4月25日市政府核准临淮中学为滁州市首批市级示范高中。