1958年9月，原郑州铁路管理局一分为三，铁道部郑州、武汉、西安铁路局分别正式挂牌成立。1963年4月，武汉铁路局撤销，并入郑州铁路局。1971年7月，武汉铁路局恢复设立，郑州铁路局一分为二。在文革期间，为保证全国铁路交通的正常运行秩序，郑州铁路局曾实施军事管制。1983年3月，武汉铁路局再次撤销，并入郑州铁路局。1984年10月，西安铁路局撤销，并入郑州铁路局。1996年，郑州铁路局进行了工商登记。2005年3月，武汉铁路局、西安铁路局恢复设立，郑州铁路局一分为三。

2017年9月23日，郑州铁路局召开电视电话会议，宣布京沪高速铁路股份有限公司原董事长、党委书记钱铭任中国铁路郑州局集团有限公司董事长、党委书记。这是铁路局公司化改革启动后，中铁总下属18个路局（公司）中，首个宣布路局董事长人选的企业。

2017年11月15日，在国家企业信用信息公示系统中，中国铁路郑州局集团有限公司已完成工商登记变更。工商登记变更后，中国铁路郑州局集团有限公司仍为中国铁路总公司100%控股的公司，公司由原先的全民所有制企业变成有限责任公司（非自然人投资或控股的法人独资）企业，注册资本不变，经营范围增加住宿餐饮业，建设项目承发包、勘察、设计、施工与监理，租赁，房地产开发经营和中介，保险经纪与代理服务，现代服务，广播、电视、电影和影视录音制作，文化艺术服务，招标采购及服务，科学研究和技术服务，园艺作物种植，林木育种、育苗、种植和管护，木材和竹材采运等。