西漢時期的鮮卑幾乎名不見經傳，只是個屈膝於強大統一的匈奴帝國下的小部族。鮮卑登上歷史舞台要從東漢說起。東漢初，鮮卑族從屬於匈奴，建武二十一年(45年)，漢遼東太守祭彤大敗鮮卑人，收其地，其首領偏何率部降漢。不久，鮮卑族另一部落首領仇賁到洛陽朝見漢皇，劉秀封其為王，與寧城護烏桓校尉同轄鮮卑人。及至北匈奴被漢擊潰，鮮卑人乘機進入匈奴故地,將當地人遺留的匈奴人同化為鮮卑族人。東漢桓帝時,鮮卑人在其首領檀石槐領導下，制定了法令，發展了農牧、狩獵、捕魚等業，並在仇水(今河北懷來)建立行政中心，自分其地為三:右北平以東為東部；右北平以西為中部；上谷以西為西部。今河北承德地區南境為烏桓之地，其中部和北部概屬鮮卑所轄。熹平六年(177年)鮮卑領兵南下擾邊搶掠，東漢軍前往擊之，敗歸。東漢晚期東胡、北鮮、西羌三邊地區皆與漢朝對峙和衝突。但最終為東漢擊敗。
東漢末年，檀石槐一度統一了鮮卑諸部，在長城以北的廣袤地域，建立了東、中、西三部的軍事部落大聯盟。但延時不久，鮮卑又陷於諸部林立的分散狀態。東漢丞相曹操當權時，西部鮮卑叛離，漠南自雲中以東分裂為三個集團：一是步度根集團(檀石槐後裔)，擁眾數萬,據有雲中、雁門一帶，二是軻比能集團，分佈於代郡、上谷等地，三是原來聯盟「東部大人」所領屬的若干小集團，散佈於遼西、右北平和漁陽塞外。其中軻比能集團勢力強，影響大。袁紹據河北時，漢人為避其苛虐刑政，多投奔鮮卑軻比能，軻比能令其族人向漢人學漢語,學漢字,學兵器製造術，勢力逐漸強大起來。
建安年間，曹操駐軍幽州時，軻比能等鮮卑首領通過烏桓首領閻柔貢獻方物，表示臣服漢朝。直至後來三國時期的魏國曹丕，對這些首領依然給予安撫。黃初元年(220年)，軻比能向魏文帝曹丕獻馬；二年，軻比能交還留居鮮卑的漢族500餘家歸漢；三年，又率部3000餘騎，驅趕牛馬7000餘口與魏國「互市」，再送歸漢人千餘家返回上谷等地。後軻比能集團勢力不斷強大，先後兼併了步度根等部，最終統一了漠南地區。軻比能強大後，屢犯魏國邊境，後為幽州刺史、護烏桓校尉王雄遣刺客所殺。漠南統一局面又再度陷於四分五裂之中。東部鮮卑先後興起宇文部、段部和慕容部三股勢力，他們乘機南遷，佔有烏桓故地。宇文部本非鮮卑，後來東遷遼東與鮮卑人雜處，歸附檀石槐後，逐漸鮮卑化。段部出自遼西鮮卑，居地中心在令支(今河北遷安縣)。