柔然存在于中国历史记录的时期大致是从公元4世纪末至6世纪中叶。当时中国正处于历史上十六国、南北朝纷争对峙时期。柔然强盛时期疆域东起呼伦贝尔，西抵阿尔泰山以西，北括贝加尔湖，南越阴山，疆域之广大可以说丝毫不亚于其他北方少数民族。

柔然人究竟是如何而来的，一直以来都没有定论。关于柔然人的来源，由于史籍记载歧异、简略，有东胡、鲜卑、匈奴、塞外杂胡诸说。如《魏书·蠕蠕传》提及蠕蠕为“东胡之苗裔”、“匈奴之裔”、“先世源由，出于大魏”；《宋书·索虏传》、《梁书·芮芮传》均认为柔然是“匈奴别种”。而《南齐书·芮芮虏传》则以为是“塞外杂胡”。根据《魏书》、《北史》及其它南北朝至隋唐有关史书记载，柔然所统辖的姓氏共有60余种，其中属于柔然的民族、部落有有8个左右。其余姓氏分别属于鲜卑、敕勒、匈奴、突厥以及汉人。

柔然系东胡苗裔，与鲜卑同源。柔然一个归附北魏的首领阿那瓌曾对北魏孝明帝元诩说：“臣先世源由，出于大魏。”元诩回答：“朕已具之”，以表示认可。故有的史书直称柔然可汗社为鲜卑社或河西鲜卑社。但随着柔然势力在大漠南北的发展，与进入中原地区的拓跋鲜卑分道扬镳，出现的差异也越来越大。

毕竟是太过于遥远的事。但是可以肯定的是柔然族是一个融合了匈奴、鲜卑乃至北逃汉人的融合民族。在不断地征伐和迁移中，原先定居在北方的未迁民族和北逃汉人，以及柔然起始部落，相互之间不断整合，最终形成了一个全新的民族——柔然。

柔然族的英雄木骨闾，幼年曾经被鲜卑拓跋部擒获，沦为奴隶。他成年后因为骁勇善战被免去奴隶身份升为骑兵。后来，木骨闾因犯了过错应受到斩刑的处罚而被迫出逃，并在逃亡途中因自己的名望而积聚的了一百多人的力量。他逃到到阴山之北一带，投靠了统治那里的少数民族，并在那里不断的扩充着自己的势力。木骨闾死后，他的儿子车鹿会比他更加彪勇善战，不断兼并其他部落，势力大增，拥有不少部众和财富。车鹿会觉得自己部落的势力已经足够强大，就自称为柔然，附属于北魏，部落首领称为大人。“柔然”一词起源于阿尔泰语，意思是聪敏、贤明和礼义、法则。

在与北魏共存的时期，他们既有相互征伐的时期，也有和平共处的时候。至6世纪初中叶，突厥日益强大。552年，突厥酋长土门（伊利可汗）因求婚于阿那环被拒绝，发兵击柔然，阿那环大败自杀。柔然余部立邓叔子为可汗，又屡被突厥木杆可汗打败，西魏恭帝二年（齐天保六年，555）率千余家奔西魏。柔然王室由邓叔子可汗率领，南逃至西魏，西魏太师宇文泰不敢收留，将此部三千余人收捕，交突厥使者全数斩杀于长安青门外。

柔然汗国灭亡，余众辗转西迁。而留在漠北的柔然余众逐渐融合于突厥、契丹部落之中。还有一些柔然人逃至外兴安岭一带，融入当地室韦民族。室韦人是蒙古人的祖先。据一些历史学家考证，中国东北地区的契丹民族也有柔然族源。南北朝时，由于战争俘获，主动归附及和亲陪嫁户等散居中原的柔然人有数十万，就是说有相当一部分柔然人融入了中原。