哈尔滨作为近代都市的崛起源于“中东铁路”的修建。十九世纪四十年代，沙皇俄国的侵略势力伸入中国的黑龙江流域。 从十九世纪中叶起，在短短的半个世纪里，沙俄先后强迫当时的清政府签订了《中俄瑷珲条约》，《中俄北京条约》等一系列不平等条约，把黑龙江以北、乌苏里江以东的一百多万平方公里的中国领土并入俄国版图。但是，贪婪的沙俄并不满足，仍然垂涎富饶的中国东北。为了进一步侵略和占领中国东北和朝鲜，并与当时也觊觎这两地的日本对抗，沙俄于1891年2月决定修筑西伯利亚铁路。

它把修筑这条铁路一事宣布为“世界性事件”，把这条未来的铁路看作是“加强俄国太平洋舰队的工具”，使俄国能“控制太平洋水域的一切国际商业活动”。同年6月，西伯利亚铁路破土动工。到1894 年，该路已修到后贝加尔地区。按原计划，往东的铁路将沿石勒喀河和黑龙江北岸曲折前行，至伯力后再沿乌苏里江东岸向南直达海参崴。但是，一心想侵占中国东北领土的沙俄，却想把西伯利亚铁路取一直线，横穿东北，直达海参崴。这样不仅可以缩短距离，而且施工也容易，但最重要的是，它能把中国的东北控制在自己的手里。这时沙俄便借口原地段地形复杂，气候寒冷，分别于1895年10月和1896年初，要求中国借地供俄国在中国领土上筑路。关于俄国要租借东北兴造铁路一事，清政府早有所闻。但它担心此例一开，后果严重，所以后来就以“自造”为由，拒绝了沙俄的要求。

甲午一战，中国被日本打败，签订了屈辱的《马关条约》。根据《马关条约》，辽东半岛 (包括旅大)曾割让于日本。但该条约签字后的第六天，俄国便联合德、法进行干预，迫使日本放弃 辽东半岛。当时，清政府中有人主张改革甲午战争前推行的“以夷制夷”的外交政策，而采取与外国结盟的政策。这种“结盟”的议论，当时曾尘嚣一时，且大都主张与俄国结盟，因为它曾经“帮助” 中国迫使日本退还辽东半岛。清廷也认为，只要俄国能帮助中国“攻倭胁倭”，中国则愿与俄签订密约，结成联盟。这就是后来李鸿章出使俄京时的“连络西洋，牵制东洋”的思想。

虽然遭到两次拒绝，沙俄并不死心，借尼古拉二世举行加冕典礼之机，指名邀请李鸿章参加。1896年3月27日，李鸿章出使俄国。4月20日，李鸿章作为清廷贺使抵达彼得堡，除祝贺新沙皇尼古拉二世加冕外，也负有与俄签订结盟密约的使命。在沙俄的威胁利诱之下，1896年6月3日，李鸿章和沙俄财政大臣维特分别代表中俄双方签订了中俄《御敌互相援助条约》，即《中俄密约》。主要内容有：(1)日本侵略俄国，或中国，或朝鲜时，均将被认为与本条约有关，应将本约立即付诸实施；(2)双方商定共同行动，非经另一方同意，不得单独媾和；(3)战时俄国军舰可驶入中国任何港口；(4)为便于转运俄国军队和军需品，中国政府允许建筑一条穿过满洲通向海参崴的铁路线；(5)平时俄国有权利用该铁路运兵和运送给养；(6)本条约自清朝批准第4条规定之日起生效。从密约条文可清楚地看到，沙俄之意不在于与中国结盟制日，而是在向中国借地筑路。

 根据李鸿章与沙俄谈判时候，所定的最初名称为“大清国东省铁路”，简称“东清铁路”，实质铁路的一切事宜全由沙俄办理。“东清铁路”干线西起于满洲里，东至绥芬河，支线南到大连，称作“南满铁路”，呈“丁”字形骨架，哈尔滨市(沙俄铁路工程计划书称“松花江站”)恰好位于这个“丁”字形铁路骨架的一横一竖的交汇处。1898年5月，沙俄确定了哈尔滨为“东清铁路”的枢纽和管理中心。