进入西汉末年之后，丝绸之路沿线的国家或者民族，逐步摆脱了中央朝廷的控制，直到光武帝刘秀的横空出世，南征北战多年，打败陇右、蜀中、河西等各镇诸侯，一统天下，丝绸之路沿线民族和国家逐渐在名义上臣服汉朝，但是刘秀并没有彻底解决丝绸之路沿线的问题。及至汉明帝继位，国力日强。遂有意凿通丝绸之路，一场大战一触即发。
在此之前，汉光武帝刘秀因为刚刚经历十五载的兵马生涯，虽然得以一统天下，可也使其国力遭到巨大损耗，群臣百姓皆翘首以盼，希望能有一段安宁平静的生活。因此无奈之下，刘秀只能一改过去汉武帝之时主动进攻的战略，转而进行相对更为实际有效的防御政策。汉朝又逐渐与南匈奴和亲，分化瓦解了匈奴政权，到也让边境之地取得短暂的和平。
匈奴亦知道，此时的汉朝虽然内部空虚，但自己也处于分裂状态，所以难以占到丝毫便宜，于是就暂时采取对汉朝求和的态度。与此同时，早已经处于分裂状态的匈奴南北二部，也爆发了战争，最终南匈奴战败。这对刘秀而言，无异于是一个噩耗，因为在此之前，刘秀已经与南匈奴缔结成为亲家，南匈奴战败，就意味着自己所支持的政权遭受重创，于汉朝在北部边境的大局很是不利。南匈奴战败之后，北匈奴便趁势提出与汉朝结亲的请求。一时之间，刘秀陷入了两难的境地，结亲便意味着背弃以前与南匈奴的合约，不结则代表着与此时势力相对强大的北匈奴结怨。
恰在此时，刘庄建议刘秀不能同北匈奴和亲，以防南匈奴诸部落离心离德，于大局不利。经过商议，刘秀迁羌人、匈奴人等西北方部族和中原杂居。这在很大程度上，加强了民族融合，暂时也缓解了匈奴和汉朝之间的矛盾。
永平七年（公元64年）春，匈奴东山再起，重新成为东汉王朝西北边境的最大祸患。然而此时东汉军力薄弱、良将缺乏。所以刘庄面对匈奴使者傲慢的态度、无理的要求之时，也只能忍气吞声，被迫开放云中、朔方诸郡，不敢轻言战事。并且经由代理太尉赵熹保举，让郑众出使西域。郑众凭借其堪比苏武的才智品德，出色地完成了任务，为此时的东汉争取到继续休养生息的时间。
永平十五年（公元72年）四月，经过与耿秉、窦固、祭肜、马廖、刘张、耿忠等人的讨论，考虑到东汉经过多年休养，国力日盛。于是汉朝觉得对西域用兵的时机已经来临。经过详细讨论，汉明帝刘庄最终决定先取白山，夺取伊吾，然后再攻击车师，继而出师匈奴周边列国，达成实际意义上的合