京哈铁路京山段是中国自己修建的第一条铁路。1881年始建唐山—胥各庄段，1887年唐胥段展修到芦台，继而于1888年展修至天津，1894年唐山—山海关段通车，1897年由天津通到北京城外马家堡，1901年延展至北京正阳门。后来北端延至沈阳，成为我国最早的关内外铁路。 2001年11月沈阳至哈尔滨段完成电气化改造。
京哈铁路曾是日、俄等帝国主义侵略我国的工具；解放后，京哈铁路回到人民手中，铁路技术设备不断更新，成为我国列车密度最大、通过能力最高的铁路干线之一。建国初期，毛泽东主席经这条铁路对苏联进行了历史性访问，以这条铁路为主体的中长铁路公司为中国铁路管理做出了重要贡献。
1994年，京山压煤改线工程展开。原京哈铁路的唐山南站以北要通过开滦煤矿矿区，经胥各庄站—唐山南站—卑家店站—雷庄站至坨子头站（今滦县站）等7个车站（约89公里），频繁的列车通过对矿区产生沉重的压力，导致路基下沉，而且在经历唐山大地震后，沿线地质环境遭到了严重破坏，铁路经过唐山矿、钱营矿和东五矿的采煤塌陷区，对列车运行有一定影响。所以在1977年起进行改线研究，至1994年才开始对唐山地区的京哈铁路进行改线工程，称“压煤改线”。
改线后的京哈铁路经胥各庄站—唐山站—任各庄站—新区常庄站—狼窝铺站（与津山铁路交汇）至滦县站等新增的9个车站（约68公里），并在唐山市西郊新建客运车站唐山站和唐山东站。工程在1994年11月11日完成。原线改称唐滦线或七滦线，原线唐山站后改称唐山南站，成为一个货运站。至此京哈铁路全长1413公里。
2003年6月，铁道部为配合京秦铁路的改造，将原京山铁路由狼窝铺站经滦县站、昌黎站、北戴河站至秦皇岛站的线路（长约133公里，含15个车站），与原京秦铁路由狼窝铺站经迁安站、卢龙站至秦皇岛站的线路（长约127公里、含10个车站）相互对调。至此京哈铁路全长1388公里。
然而，压煤改线后的京哈铁路造成一个相当大的曲线，大大限制了列车的通过能力和速度。为配合铁道部在中国铁路第六次大提速在京哈铁路等主要铁路干线开行最高速度达200km/h的高速列车，从2006年12月31日18时起，京秦铁路、秦沈客运专线和原京哈铁路哈尔滨至沈阳北段合并为京哈铁路新线，全长1249公里，经由北京东站、唐山北站、北戴河站、秦皇岛站、山海关站、绥中北站、葫芦岛北站、锦州南站、盘锦北站、台安站、辽中站、沈阳北站、铁岭站、四平站、长春站至哈尔滨站。同时原京哈铁路（旧线）的北京至天津南仓段并入京沪铁路，天津南仓站至山海关段改称津山铁路，山海关至沈阳段改称沈山铁路，沈阳到沈阳北段并入沈大铁路。而狼窝铺站、秦皇岛站以及山海关站成为京哈、津山两大铁路干线交汇的重要枢纽。
