玄宗开元九年（721），知几的长子刘贶任太乐令，触犯法律而判罪流放。
为此事，知几"诣执政诉理"①，皇帝听到十分震怒，于是贬授他为安州都督府别驾。安州治在安陆县，就是今湖北安陆县北，已是远离京师。别驾，较之左散骑常侍，降级一品。旅途的辛劳，贬官的苦闷，一齐向这位六十多岁的学者袭来，他到了安州不久就去世了。
《旧唐书·刘子玄传》概括知几的一生，这样说过："子玄掌知国史，首尾二十余年，多所撰述，甚为当时所称。??子玄至安州，无几而卒，年六十一。自幼及长，述作不倦，朝有论著，必居其职。预修《三教珠英》、《文馆词林》、《姓族系录》，论《孝经》非郑玄注，《老子》无河上公注，修《唐书》、《实录》，皆行于代，有集三十卷。后数年，玄宗敕河南府就② 《全唐文》卷二七四。
① 《唐会要》卷三六。
② 《唐会要》卷三六。
① 《旧唐书·刘子玄传》。
家写《史通》以进，读而善之，追赠汲郡太守；寻又赠工部尚书，谥曰文。"这是对知几一生的一个朴素无华而实事求是的总结。
知几去世的时候，他的哥哥刘知柔仍然健在，年已七十三岁。知柔是在开元十一年（723）去世的。
知几虽死，而事业有继，他有子六人，皆知名于时。
长子刘贶，字惠卿，博通经史，明天文、律历、音乐、医算之术，终于起居郎、修国史。曾撰《六经外传》三十七卷、《续说苑》十卷，《太乐令壁记》三卷、《真人肘后方》三卷、《天官旧事》--卷。①《新唐书·刘知几传》也说刘贶"好学，多所通解。子玄卒，有诏访其后，摆起居郎。历右拾遗、内供奉。"其《续说苑》"以广汉刘向所遗，而刊落怪妄。""贶尝以《竹书纪年》序诸侯列会皆举谥，后人追修，非当时正史。"因著《六经外传》。
可知刘贩继承了乃父博通的、求真的史家本色。
次子刘，字鼎卿，天宝初历集贤殿学士，兼知史官，终右补阙。著《史例》三卷、《传记》三卷。《传记》，一作《国史异纂》，②载齐梁以来杂事。另有《国朝旧事》四十卷。③玄宗开元十三年（725），改丽正修书院为集贤殿书院，五品以上为学士