郑州五中的历史可以追溯到1938年，当时学校的前身难童学校在郑州市二马路的原盐业银行仓库内成立，那是一个破旧的大院，主要建筑包括一座作为教室的临街楼房和供男生女生住宿的平房。
1944年，学校名称改为圣德中学，其中学部迁至西郊碧沙岗的“国民烈士祠”。祠堂位于冯玉祥将军筹建的陵园中心，是一组古建筑群，包含约80多间带走廊的房屋。解放后，政府接管了这座陵园，圣德中学也随之搬回。
1944年4月，圣德中学西迁至陕西王堡村的张家大院，这个昔日首富的宅院规模宏大，有多个院落和200余间房舍，学校在此建立了完善的设施，包括大礼堂、办公室等，解决了大部分师生的住宿问题。
1946年2月，圣德中学重返郑州市西郊碧沙岗。1948年，学校进一步迁移至菜市街120号（现为郑州市第三人民医院），尽管条件较为艰苦，但学校仍坚持教学。解放前夕，学校迁入医院南院，仅65间房屋，师生们在拥挤中坚持学习。
1954年，根据市政府的安排，学校从菜市街迁至南关工人新村，拥有了3450平方米的三层教学大楼和两座灰楼，为教师和学生提供了更为宽敞的居住和学习环境。
郑州市第五中学是郑州市教育局直属完全中学。是河南省新课程改革样本校，郑州市教育教学先进单位，郑州市目标管理先进单位。学校占地80余亩，截至2010年，有42个教学班，2700多学生。