秦穆公继承秦国国君之位后，为了使国家强盛，便四处搜求人才，重用他国到秦国的客卿，后来分别得到西戎的由余，宛地的百里奚，又从宋国迎来蹇叔，从晋国招来丕豹、公孙支等谋臣武士辅佐，从而使秦国变得兵强马壮起来。在由余的帮助下，秦穆公迫使西戎八国臣服于秦国。这样一来，秦国从陇地往西有緜诸、绲戎、狄、等戎族，歧山、梁山、泾水，漆水以北有义渠、大荔、乌氏、朐衍等戎族。而晋国北部有林胡、楼烦等戎族，燕国北部有东胡和山戎。这些戎狄人虽然各自分散居住，并且有各自的君长，但却经常聚集在一起，后来竟达到一百多个部落。后来又过了一百多年，晋悼公派魏绛与戎狄人讲和，再以后一百多年，赵襄子越过句注山击败匈奴并合并了代地，还逼近胡人和貉人居住的地方。以后，赵襄子与韩康子、魏桓子联合起来消灭智伯，瓜分晋国并占有晋国的土地。如此一来，赵国便占有了代地与句注山以北的地方，魏国占有了河西和上郡，开始和戎狄人直接接界，也开始和戎狄人多方面接触。
随着中原人与戎狄等族的不断接触，义渠（今甘肃庆阳西南一带）的戎狄人开始学习中原人的生活习俗。为了守护自己的家园，他们开始修筑城郭。虽然这样，秦国仍然逐渐蚕食了义渠的戎人之地。秦惠王时，秦国攻取义渠二十五城。秦昭王时，义渠戎狄人的首领与宣太后媾和淫乱，生下两个孩子。宣太后在甘泉宫谋杀义渠戎王，发兵讨伐并消灭义渠，秦国占领了陇西、北地、上郡等地。
为了抵御戎狄等族的入侵，秦国开始修筑长城。秦国修筑的长城从代地沿阴山一直到高阙（今内蒙古乌拉特后旗呼和温都尔镇那仁乌博尔嘎查北的达巴图一带），还在长城建起关塞，设置云中、雁门、代郡三郡，以管理和维护长城，抵御南侵的北方狄族。
燕国虽然离秦国较远，由于他们的北方也始终面临北方狄族的侵扰，燕国便学习秦国，也在北面修筑长城以抵御狄族人，从造阳（在今河北省张家口市）一直修到襄平（今辽宁省辽阳一带），并设置上谷、渔阳、右北平、辽西、辽东五个郡，以抵御北方各族人。
这时赵国的赵武灵王改变风俗，穿胡服，练骑射，打败北方的林胡、楼烦。
燕国将领秦开，也就是同荆轲一起刺杀秦王嬴政的秦舞阳的爷爷，主动到胡人那里去做人质，并赢得了胡人的信任，后来秦开回国袭击并打跑东胡。
在反复征战、相互讨伐中，战国七雄逐渐凸显，其中燕国、赵国、秦国三国直接和匈奴临界。后来李牧作赵国将军时，因为抗击匈奴有方，使得匈奴人不敢进入赵国境内。再后来秦国消灭其他六国后，秦始皇派蒙恬率十万大军向北攻击匈奴，把黄河以南的土地全部收复，凭借黄河这一天然屏障，靠近黄河修筑了四十四座县城，并迁徙因犯罪被罚守边的人到这些地方居住，充实这些地方的县城。同时修筑直道，从九原(今包头西，辖后套及伊克昭盟北部)直到云阳(今陕西淳化县)。还利用山边、险要的沟堑、溪谷，在可以修缮的地方筑起城池。这样一来，秦王朝的长城起自临洮（今甘肃泯县），终至辽东（今辽宁大凌河以东、长城以南地区一带），长达万余里。
匈奴的兴起和强大，是匈奴进入由头曼任首领的时代《史记·匈奴列传》记载说：“当是之时，东胡强而月氏盛，匈奴单于曰头曼。”另据《汉书·匈奴传》，单于姓挛鞮氏，匈奴人称之为“撑犁孤涂单于”。所谓“撑犁”，意思是“天”；“孤涂”，意思是“子”；“单于”，意思是“广大”。“撑犁孤涂单于”，直译即“天之子”，意谓“天宇之下的伟大首领”。
头曼单于率领的匈奴虽然强大，但打不过秦王朝，只好往北迁徙。陈胜、吴广起兵反叛，致秦王朝灭亡，中原陷入混乱之中，那些被秦王朝贬谪守卫边疆的人纷纷逃离边疆回到自己原来的地方，匈奴人因此得到了宽缓的机会，慢慢地又强大起来，并渐渐渡过黄河，时不时侵扰中原。
头曼单于借助其他种族的做法，特别中原地区各国国君的做法，已经册立长子冒顿为太子，后来单于宠爱的阏氏生了个儿子，因为宠爱阏氏，在阏氏的怂恿下，头曼单于想废掉冒顿的太子之位改立阏氏所生儿子为太子，便将已经是太子的冒顿派到月氏人那里去作人质。冒顿一到月氏国，头曼单于便派兵攻打月氏，想借月氏人之手杀掉冒顿，月氏人也确实因为匈奴人的入侵想杀死冒顿，冒顿得知消息后盗马逃走，最后回到了匈奴。头曼单于完全没有想到冒顿能够从月氏人那里逃回来，觉得是上天在护佑他，加上冒顿勇猛坚强，暂时放弃了杀死冒顿的念头，相反还命令他统领一万骑兵。
冒顿知道阿翁的阴谋后，并没有急于和阿翁摊牌，而是制造了一种响箭，用来训练他的部下。他命令部下，凡是他的响箭射向哪里，哪里就是部下必须全力射击的目标，否则就将斩首。刚开始时射猎鸟兽，有部下以为冒顿的要求并不会他象说的那样严酷，便没有按照冒顿的要求射击响箭所射的目标，冒顿果断地将此人杀了。过后不久，冒顿又以响箭射击自己的良马，左右的人也有不敢射的，担心射死冒屯的良马后惹怒冒顿，冒顿同样把不敢射马的人杀了。又过了一些日子，冒顿用响箭射击他最心爱的妻子，左右的人感到恐惧，有好几个人都不敢射击，冒顿同样把这几个不敢射击的人杀了。如此一来，凡是冒顿的响箭所到之处，就是冒顿部下的箭矢所射之处。一次，冒顿随头曼出去打猎，用响箭射击头曼单于的良马，左右之人见冒顿射击，自然也跟着射击。通过不断地强化这种服从意识，冒顿知道自己的部下已经完全能够听命于自己。