耕民族在中原地区发展壮大之后，才开始立国立邦，将游牧民族彻底赶出中原，并在北方草原与燕云山谷、黄河北岸山地等地区修建永久性防御工事，防止游牧民族南下放牧。这些敌对政策必然导致游牧民族与农耕民族矛盾激化、冲突不断。
公元前200年初，刘邦亲率三十余万汉军对匈奴联军作战。汉军主力首先攻击匈奴同盟军韩王信的部队，于铜鞮（今山西沁县南）破其军，又于晋阳（今山西太原南晋源镇）破其与匈奴的联军。
随后，刘邦听说匈奴军在代谷（今山西繁峙西北）屯兵，刘邦想再次攻击匈奴军，于是派探子去代谷侦察匈奴军的虚实。匈奴首领冒顿，得知汉军探子到来，因此他让匈奴军匿其精壮，故意示弱。
汉军探子回来禀报，言匈奴可击，刘邦不信，又先后派出十几名探子去侦察匈奴军，但是探子回报，都是“匈奴可击”。
最后，刘邦派亲信娄敬前往代谷侦察，娄敬还没有返还，刘邦即悉发汉军三十二万北上代谷。
娄敬返回汉军营后，对刘邦说，匈奴有诈，不可轻易进兵。刘邦求战心切，他没有听从娄敬的劝阻。刘邦亲率先头部队至平城（今山西大同东），汉军的步兵没有全部跟上先头部队。此后，冒顿单于以四十万精锐骑兵部队，在平城附近的白登山（今山西大同东北）包围刘邦及其先头部队长达七日七夜，汉军内外联络中断，汉军之间无法相救。
为了解围，刘邦采纳谋士陈平的计策，重赂冒顿单于之妻阏氏。在阏氏劝说下，冒顿令匈奴军给汉军放开一个缺口，刘邦率领汉军从此突围后，在平城与汉军主力会合。 汉军在撤退途中，刘邦采纳夏侯婴的建议，全军戒备缓行，最终安全回朝。
随后匈奴引兵北去。刘邦在汉朝国力未得恢复的情况下，采纳刘敬的建议，对匈奴采取和亲政策，并开放双方关市；每年送大批丝绸、粮食、酒等礼物，以缓和其对汉朝的侵扰。
从此，汉朝北方边境获得安宁，直到文景时期，汉朝对北方游牧民族仍然采用和亲政策，促进汉族与北方游牧民族的融合。
由于刘邦出身平民阶层，而且他经历丰富，看透了人生的全部内容和意义，因此刘邦的看法、想法和做法都非常务实和直白，他没有那种宗教般的天