296 年为赵、齐、燕所分灭。中山都城灵寿，遗址在今河北平山县。 1974 至1978 年，考古工作者在河北平山县发掘出土了带有长篇铭文的铁足大鼎，是中山王赐给国相司马贮的，从而证实了司马迁的记载。
在赵国的一支司马氏，名司马凯，凯生蒯聩。蒯聩就是《史记·刺客列传》中与荆轲论剑的盖聂。蒯聩生昭豫，昭豫生宪，宪生中，印在秦未助项羽灭秦，被封为殷王。《晋书·宣帝纪》记载，司马印就是开创晋朝的司马懿的祖先。
司马迁属于入秦的这一支司马氏。公元前621 年晋襄公卒，晋大夫随会入秦迎立襄公弟公子雍。赵盾立襄公太子夷皋，是为晋灵公，发兵拒公于雍。随会奔秦避难，后来回到晋国做了中军统帅。与随会人秦的司马氏就定居在少梁。过了三百年，司马错显于秦，这是司马迁祖上有确切世系可考的始祖。《太史公自序》载其承传世系如次：上述各支司马氏，皆与史职无缘。也就是说，世典周史的司马氏自春秋中叶去周适晋以来，已中断史官家学四百余年。在春秋战国及秦汉之际，司马氏家族适应时代的大变革，从事政治、军事、剑客、经济的活动，在各个领域都产生了司马氏家族显赫人物。秦国司马氏有名将司马错，有经济官司马昌、司马无泽，这都是司马迁的家学渊源，到了司马迁之父司马谈，他做了太史令，并决心重振远古家学，发愤修史，故追述远祖至职掌天官的重黎以自重。屈原追溯远祖至颚预，司马迁只追溯至重黎氏，就为的是强调史职。唐司马贞《太史公自序·索隐》在引证司马彪和干宝两位史家皆云司马氏为黎之后①，按已意作了如下解释。司马贞说：今总称伯休甫是重黎之后者，凡言地即举天，称黎则兼重，自是相对之文，其实二官亦通职。然休甫则黎之后也，亦是太史公欲以吏为己任，言先代天官，所以兼称重耳。
司马贞意欲考实司马迁远祖为黎之后，为何要合称重黎氏，他认为言地即兼举天。因黎为地官，司马迁强调的史职是天官，目的是突显"以史为己任"的职责，司马贞的这一发挥是符合司马迁原意的。
在古代，天子的侍从有卜史巫祝。许慎《说文》云："史，记事者也。
从又，持中。中，正也。""史"字的构造就是象证手持中正之德以记事的① 乡贤郭宗傅：《重修司马公祠记》，载明万历年间《韩城县志》卷八。人。许慎对史字的解释正是古代人们的观念，或者说是古人认识的史德观念。手所持应为具体事物，而中正之德是抽象的事物，为心之所有而非手之所持。后世学者对许慎的解释产生了怀疑。江永撰《周礼疑义举要》，解释中为官府簿书，"史"字象征手持簿书。吴大渤《说文古籀补》从古文字形体考证，谓"史象手执简形"。章太炎《章氏丛书·文始》从形、音、义三个方面详证"中"为记事简册。王国维《观堂集林·释史》认为"中"是盛策之器，殊途同归，结论仍是"史，"为持书策之人。范文澜在《正史考略·绪言》中申证"中"为简策之说，认为"中"字为简策之省形。卜辞中有■，乃■之省形。■演变、简化为*，即中。于是推断说："史则仅从一又，示执简侍君，记言记动之义。盖册与中二形以繁省见义，非有一物象中也。"近世学者见地下文物简册而重新考释了"中"与"史"字的结构与本义，当然是正确的。但是新解并不能纠正或否定许慎所记录的古代观念。"中，正也"，这是对史官的要求。也就是说，记事的史官是公正无私的。司马谈以祖先世世代代为史官而自豪，他以这一"光荣家谱"教导司马迁，希望他发扬祖德，确立修史壮志。司马迁郑重其事地记载了远祖世为史官的传说，也意味着他们父子来修撰一部贯通古今的通史是义不容辞的，是当然应肩负的历史使命。