有人说，卫家不就因为侥幸出了一个卫子夫，让一家子靠着裙带关系，鸡犬升天了吗？的确，卫青是典型的“裙带官员”。在世袭制盛行、社会上下层之间缺乏流动性的西汉时期，底层百姓要跃升政治高层，依靠裙带关系是最常见、最有效的方法，也几乎是唯一的方法。问题的关键不是指责卫青一家人依靠这种方法提升社会地位，而是要看他们身居高位之后的所作所为。

卫青也知道自己没有尺寸之功，仅仅靠姐姐受宠得来的地位是不稳的。好在卫青是一个能力出众的国舅，又遇到刘彻这个雄才大略的皇帝，不怕没有建功立业的机会。当时，北方的匈奴人经常杀入长城，抢劫汉朝的人口和财富，甚至一度逼近西汉的首都长安，构成了西汉王朝的最大威胁。刘彻自继位以后就筹备反击匈奴，挑选能人干将，准备大干一场。卫青恰巧进入了刘彻的视线。

匈奴人在公元前129年又一次大规模侵略、抢劫西汉州县。这一回，刘彻决定不再忍让，要坚决反击残暴的匈奴人。他挑选了四位将军，分别是已经升任车骑将军的卫青、骑将军公孙敖、轻车将军公孙贺和三朝名将、骁骑将军李广，给他们每人一万骑兵，让他们兵分四路迎击匈奴。卫青第一次带兵出征，就直捣匈奴祭扫天地祖先的龙城，虽然杀敌有限，但政治意义巨大，胜利凯旋。而另外三位将军两路失败，一路无功而还，更衬托出了卫青的能干。汉武帝刘彻非常高兴，加封卫青为关内侯。此后在公元前128年、公元前127年，汉武帝多次派卫青带兵反击南下的匈奴大军。卫青不负厚望，奋勇作战，每次都打得匈奴大败而逃。在公元前127年的战斗中，卫青率军收复了秦朝末年之后就被匈奴人占领的黄河河套地区。河套地区水草肥美，形势险要，汉朝收复后在此设置朔方郡、五原郡，从内地迁徙十万人到那里定居，还修复了秦时蒙恬所筑的防御工事。从此，长安解决了匈奴的威胁，汉朝和匈奴的战争局势得到逆转。卫青立下了大功，被封为长平侯，食邑三千八百户。

此后，卫青活跃在汉匈战争前线。刘彻越来越信任他，给卫青调拨了越来越多的军队，赋予卫青越来越大的指挥权。公元前124年春，汉武帝命卫青节制汉朝大军十几万人进攻匈奴。卫青急行军六七百里，在夜幕中包围了匈奴右贤王的营帐，俘虏匈奴王爷十余人，男女一万五千余口和数百万头牲畜。汉武帝接到捷报，喜出望外，派特使捧着印信在军中升卫青为汉朝的最高军职——大将军，指挥前线所有部队和将领，加封食邑八千七百户。卫青的三个儿子都