司马迁的直系祖先是秦国司马氏。司马迁八世祖司马错是战国中期秦国名将，与白起同时，年齿稍长。在秦国发展史上，司马错和白起是两个显赫人物，一前一后，建立了不朽的功业。司马错历事秦惠王、武王、昭王三朝，前后三十六年。白起事秦昭王三十七年。秦惠王后元九年（公元前316）司马错始显于秦。秦昭王十二年（公元前299），白起为左庶长，将兵攻韩之新城，初试锋芒，晚于司马错二十二年。白起是晚辈，他与司马错两人为忘年之交。司马错之孙，即司马迁六世祖司马靳是白起的得力助手，在长平之战中为秦军副将。
司马错的主要功绩，是为秦开疆拓土，三征已蜀，一入楚境，前后四次出征。第一次，秦惠王后元九年（前316），司马错伐蜀，灭之。第二次，秦武王元年（前310），蜀相陈庄反，司马错人蜀平叛。第三次，秦昭王六年（前301），蜀侯煇反，司马错再次入蜀平叛，并留守在巴蜀，从此，巴蜀为秦大后方郡县。第四次，秦昭王二十七年（前280），司马错发陇西、巴蜀之兵，有众十万，装船万艘，载米六百斛，从巴蜀的涪水逆行而上，攻楚黔中郡，并迫使楚割汉水北岸地入秦。秦控制了长江上流，直接威胁楚都郢。两年后，公元前278 年，白起就攻破了楚都郢，迫使楚王东迁至陈。从此，南方强楚，一蹶不振。
秦惠王后元九年，在攻取巴蜀问题上，秦廷曾有一番争论，这就是有名的司马错难张仪的伐蜀论。
在春秋战国时，巴、蜀是四川盆地境内的两个大国。蜀王别封弟于汉中，号苴侯，命其邑曰葭萌（在今四川广元西南）。苴侯与巴王友好，巴与蜀为仇，故蜀王怒，伐苴侯。苴侯奔巴，且求救于秦，时当秦惠王后元九年。苴地当秦通巴、蜀的咽喉要道，秦惠王想趁机出兵伐灭巴、蜀，扩大秦国疆域。但秦兵西出，中隔秦岭，道路险阻，行军十分困难。当时秦相张仪正大力推行连横政策，他要用武力作后盾，力主伐韩，迫使其就范。在先伐韩，还是先灭蜀的问题上，秦惠王拿不定主意，就召集群臣讨论。张仪与司马错正好立场对立，秦惠王让他们互相辩难，充分阐述各自的理由。这场论难，见《战国策》卷三《秦策一》，后人标题为《司马错与张仪争论于秦惠王前章》，《史记·张仪列传》作了全文引载，这是一篇古代著名的兵略学理论文章，它阐明了兵政关系，战争应从属于政治，是为富国强兵服务的。
当时形势，秦惠王承商鞅变法之后，国力充实，图谋发展。司马错与张仪的争论，主旨是强调向何方发展，要充分考虑国家实力与国际政治形势。张仪主张取中原心脏之地，威诸侯，成王业。司马错认为时机还不成熟，秦国犹为国小民贫之国，取蜀足以广国，得其财可以富民，如此，则"利尽西海"，又可博得"禁暴止乱"的好名声。司马错的主张，立足于总体形势分析，实际上是要用最小的代价，取得最大的收获，采取军事行动要以政治为先导，师出有名而有利，不**裸地以众暴寡，