刘知几不仅是著名的史学理论家，也是著名的文献学家、史料学家。他的史料学理论丰富多采，在中国史料学史上占有重要的地位。
首先，他具体阐明了史料学的任务。
《史通》一书在许多地方讲到了史料的重要作用。刘知几认为，"史之为用，其利甚博，乃生人之急务，为国家之要道。有国有家者，其可缺之哉！"①此处所言之"史"，可以理解为历史记载。他曾具体论述了记载的重要作用：向使世无竹帛，时缺史官，则古往人事，俱一从物化，善恶不分。"苟史官不绝，竹帛长存，则其人已亡，杳成空寂，而其事如在，皎同星汉。用使后之学者，坐披囊箧，而神交万古；不出户庭，而穷览千载。见贤而思齐，见不贤而内自省。若乃《春秋》成而逆子惧，南史至而贼臣书。其记事载言也则如彼，其劝善惩恶也又如此。"①这就是说，历史记载可以劝善惩恶，大而言之，可以使乱臣贼子惧；小而言之，可以使人接受历史的教育启示，"见贤而思齐，见不贤而内自省。"刘知几反复强调"史"的重要作用，这个"史"可以理解为史书，也可以理解为史料。总之，都是记录的历史，尤其是史官的记录。
然而，史料能否起到"劝善惩恶"的作用，关键取决于史料的真实性，因而刘知几特别强调直书。他说：史之为务，申以劝诫，树之风声。其有贼臣逆子，淫君乱主，苟直书其事，不掩其暇，则秽迹彰于一朝，恶名被于千载。
提倡直书，反对曲笔，是刘知几史学思想中最闪光的部分，是史料记载能否起到劝善惩恶作用的关键。他在《曲笔》篇又重申这个道理：盖史之为用也，记功司过，彰善瘅恶，得失一朝，荣辱千载。苟违斯法，岂曰能官！但古来唯闻以直笔见诛，不闻以曲笔获罪。是以隐侯《宋书》多妄，萧武知而勿尤；伯起《魏史》不平，齐宣览而无谴。故令史臣得爱憎由己，高下在心，进不惮于公宪，退无愧于私室，欲求实录，不亦难乎？呜呼！
此亦有国家者所宜惩革也。
可见，坚持史料记载的真实性，是刘知几捍卫史料历史作用的重要主张。
刘知几以为"记功司过，彰善瘅恶"是史家天职，"苟违斯法，岂曰能官！"他满腔热情赞扬古来优秀史家的直书精神，表彰他们"宁为兰摧玉折，不作瓦砾长存"的凛然正气，歌颂他们"不避强御"、"无所阿容"的高风亮节。
主张史家据实直书，用刘知几的话说要"爱而知其丑，憎而知其善，善恶必书，斯谓实录。"这里要求史家善恶必书，不虚美，不隐恶，忠于史职，忠于史实，坚持秉笔直书，反对曲笔阿时。这种思想是对古人的继承；在书善恶时，不能加上主观成见"情兼向背，志怀彼我"，而要有"爱而知其丑，憎而知其善"的公正态度，这一思想不仅是对古人思想的继承，而且又有所发展。知丑、知善是史家对史料的价值判断，时至今日仍有教育意义。要做① 《史通·史官建置》。
① 《史通·史官建置》。
② 《史通·直书》。
到这一点，其特别重要的乃是史家的识、德。要而言之，至为明朗的善恶是非是其一，这要求史家有卓识；劝善惩恶的勇气是其二，这要求史家有史德。
没有卓识，就无法区分善恶；没有史德，就没有劝善惩恶的勇气。《史通》一书处处体现了其是非分明、彰善痒恶的批判精神，这既是刘知几史识的充分体现，也是刘知几思想品格的具体反映。刘知几在强调历史的社会作用时，就不仅仅是一种认识，而且更是一种实践，即彰善惩恶的社会实践。这种社会实践势必会带来社会效果，也会遭到社会邪恶势力的迫害。因此，彰善瘅恶是对史家的严峻考验。
其次，刘知几具体阐明了史料与史学的辩证关系。他在《史官建置》一文中指出：夫为史之道，其流有二。何者？书事记言，出自当时之简；勒成删定，归于后来之笔。然则当时草创者，资乎博闻实录，若董狐、南史是也；后来经始者，贵乎俊识通才，若班固、陈寿是也。必论其事业，前后不同。然相须而成，其归一揆。
在这里，"当时之简"，指史官所记，当指史料；"后来之笔"是史家根据当时之简而勒成删定，当指史学。而史料，要求"博闻实录"；史学，则要求史家具备"俊识通才"。两者要求自不相同。然而两者又有相辅相成的关系，没有史料，便没有史学，因为史料是史学的基础；没有史学，史料便无法发挥更大作用。刘知几在叙述魏晋以来史官职责时指出：晋元康初，设著作郎一人，又置佐著作郎八人，专掌史任。"佐郎职知博采，正郎资以草传。"①这里，"博采"系指搜集、记录史料，正郎在此基础上草传成书。
后来，清代史家章学诚则把史籍区分为"撰述"、"记注"两大类。所谓"撰述"，就是著作之书；所谓"记注"，则是为著作提供材料的资料汇编，亦即史料，其作用是"备稽检而供采择"，只不过是原始材料的记录、整理、选辑、汇编而已。而撰述应该有观点、有分析、有创见。这同刘知几的说法大体上是相一致的。章学诚强调史意，认为史学必须有"别识心裁"，成一家之言，因而对一般史籍不轻易以史学相许。他说：世士以博稽言史，则史考也；以文笔言史，则史选也；以故事言史，则史纂也；以议论言史，则史评也；以体裁言史，则史例也。唐宋至今，积学之士，不过史纂、史考、史例；能文之士，不过史选、史评，古之所谓史学，则未之闻矣。
在他看来，史学必须"经世"，成一家之言。由是观之，封建时代的历史作品，可以区分为史料和史学两大类。这是一种情况。另外，封建时代的历史作品，如《二十四史》、《资治通鉴》等，这在当时可以说是史学，今天看来，则是我们研究历史的史料了。这是另一种情况。还有，即使在封建时代称得上是史学的历史作品，也大都被后人应用为认识历史的史料。由此看来，对史料与史学的理解应该持历史的、辩证的观点。鉴于"史学"的涵义因时因人而异，我们的认识不必绝对化。刘、章的基本看法已经明确了二者相辅相成的辩证关系。而在二者发挥社会作用时，也很难说谁更有社会价① 《史通·史官建置》。
① 《文史通义补遗·上朱大司马论文》。
值。
在《史通·辨职》篇