清季以来，中国学术中新添三门显学：甲骨学、敦煌学和红学。前二学的诞生与考古发现及敦煌重现有关，它们涉及的内容关系整个中国文化史，红学则复杂一些。
《红楼梦》只是一部小说，对它的种种研究和评论本应属于古典文学甚至就是明清文学的课题之一。然而，它在２０世纪成了一门“显学”，不但论著极多，从业者甚众，且流派纷呈，新论迭出，足以与古代的“（文）选学”前后辉映。
晚清的光绪年间，“红学”一词就颇为盛行，不过那只是一种开玩笑的“诨名”，而非一门学者们严肃研究的学问。潘重规认为：“我认为自从民国６年，蔡元培先生刊行了《石头记索隐》一书，引起和胡适之先生的论战。胡先生写的《红楼梦考证》，的确和清儒治学方法非常相似。而且经论战以后，引起全世界学人的重视。因此不断地搜求新材料，发掘新问题，造成了红学辉煌的时代。所以我认为真正的红学，应该从蔡、胡两先生开始。”（１）此一论断基本得到学界认可。
蔡元培的《石头记索隐》出版于１９１７年，由于该书认为《红楼梦》是政治小说，赋予一向不被学术界认真重视的《红楼梦》以重大内容，所以极大地提高了这部小说的价值和影响。但其《索隐》一书却并不是现代意义上的学术著作。１９２１年，胡适发表《红楼梦考证》、公然向蔡提出论战：“我为什么要考证《红楼梦》？在消极的方面我要教人怀疑王梦阮、徐柳泉、蔡孓民一般人的谬说。在积极方面，我要教人一个思想学问的方法。我要教人疑而后信，考而后信，有充分证据而后信。”（２）“谬说”或许过于严厉，但在新文化运动的科学取向之中，胡对蔡的批评却有充分的权威。
综合其大量论述来看，胡的红楼考证有三个意图：
第一，打破附会的红学。
在胡之前，盛行于红学领域的还有多种红楼评点，如王雪香的《扩花主人批序》、《红楼梦总评》、《红楼梦分评》，姚燮的《红楼梦纲领》、张新的《妙复轩评石头记》等等，他们仿照金圣叹、毛宗岗等人的方法，就《红楼梦》的人物、章法、义理等作就事论事、加圈加点的评论。这些评点当然良莠不齐，迂腐荒唐之处甚多。但胡却无意以他们为靶子，原因是这些评点属于个人体会和阅读方法，是与否都没有太大的意义。而索隐派意义远为重要，不但早在乾隆５９年就出现了有关红楼本事的种种猜测，此后又不绝如缕，以至于受过现代西方美学训练、在中国知识界地位极高的蔡元培也热情参与，到１９２２年，《索隐》一书已印行六次。而且索隐涉及到对《红楼梦》性质的判断和对《红楼梦》意义的解释，在胡之前，《红楼梦》的性质与公众形象，基本上是由索隐派塑造的。
《红楼梦》的本事究竟是什么？贾宝玉等究竟影射何人之类问题，索隐派并无统一说法。影响较大的有“清世祖和与董鄂妃”论、“明珠家事”论以及蔡元培的“政治小说”三说。对前两说，胡主要以历史事实批驳。他据明史专家孟森的《董小宛考》一书指出“小宛比清世祖年长一辈，断无入宫邀宠之理”；“明珠家事”说也有年龄上的问题，比如纳兰成德死时，明珠正处极盛时期，决不能说看到贾府兴亡的贾宝玉是影纳兰成德。蔡的《索隐》不再认定一家一户，而是认为小说是“康熙朝政治小说”，“作者持民族主义甚挚，书中本事在吊明之亡揭清之失，而尤于汉族名士仕清者寓痛惜之意。当时虑触文网，又欲别开生面，特于本书以上加以数层障幕，使读者有横看成岭侧成峰之状况。”（３）蔡在索隐时博雅审慎，所论指出小说的性质（政治小说）、作者动机（排满立场）、作品结构（多种层次），不但具体指实某家某事更为通达，且其红学观也很难轻易否定。惟其如此，蔡才成为胡批评索隐派的重点。胡首先不同意蔡的方法：“每举一人，必先举他的事实，然后引《红楼梦》中的情节来配合。……我总觉得他这部书还只是一种很牵强的附会。”（４）既然是猜谜，就不能以真事与小说不符的方法来反驳，“这个谜，除了做谜的人自己，是没有人猜得中的。”胡强调《红楼梦》不可能是这样的谜：“假使做《红楼梦》的人当日真个用王熙凤来影余国柱，真个想着‘王即柱字偏旁之省，── 字俗写作国，故熙凤之夫曰琏，言二王字相连也，’──假 使他真如此思想，他岂不真成了一个大笨伯了吗？他费了那么大的气力，到底只做了‘国’字和‘柱’字的一小部分；还有这两个字的其余部分和那最重要的的‘余’字，都不曾做到谜面里面去！这样做的谜，可不是笨谜吗？用麒麟来影‘其年’的其，‘迦陵’的‘陵’；用三姑娘来影‘乾学’的乾：假使真有这种影射法，都是同样的笨谜！假使一部《红楼梦》真是这么样的笨谜那就真不值得猜了。”（５）
像蔡元培这样的人都有这样的谬误，胡断言：“向来研究这部书的人都走错了路。……他们不去搜求那些可以考定《红楼梦》的著作，时代、版本等等材料，却去收罗许多不相干的零碎史事来附会《红楼梦》里的情节。他们不曾做《红楼梦》的考证，其实只做了许多《红楼梦》的附会！”（６）问题不只在于结论，而在于方法。
第二，建立科学的红学。
胡考证红楼的直接目标是要“把《红楼梦》研究引上正当的轨道：打破从前种种穿凿附会的‘红学’，创造科学方法的《红楼梦》研究。”（７）具体言之，“我们只须根据可靠的版本和可靠的材料，考定这本书的著者究竟是谁，著者的事迹家世，著书的年代，这书曾有何种不同的本子，这些本子的来历如何。这些问题乃是《红楼梦》考证的正当范围。”（８）红学的方法就是运用我们力所能及搜集到的材料，参考互证，然后抽出一些比较的最近情理的结论。
关于作者。此前只有袁枚在《随园诗话》中曹寅之子“雪芹撰《红楼梦》”一说。胡从此出发，在俞平伯和顾颉刚的帮助下，查找了《江南通志》、《八旗氏族通谱》、《曹楝亭全集》等书，得知曹家祖三代都做过“江宁织造”，四次接驾，“天恩祖德，锦衣纨绔”，倍极荣华富贵，与《红楼梦》中的贾府相似。从新得的杨钟羲的《雪桥诗话》中，知道曹雪芹是曹寅的孙子；从《八旗诗抄》和《八旗文经》等书选收的敦诚、敦敏的诗中，知道曹雪芹晚年穷困潦倒、纵情诗酒的颓境。再证之以《红楼梦》开卷的“作者自云”中“将真事隐去”诸语及第十六回王熙凤等谈论皇帝南巡之事，曹家世系及命运与贾家世系及命运的的吻合等等，认为“《红楼梦》是一部真事隐去的自叙，里面甄、贾两个宝玉，即是曹雪芹自己的化身；甄贾两府即是当日曹家的影子。”（９）
关于版本。胡当时所见只有一百二十回的程甲本、程乙本和八十回的“戚本”
三种，他认为“戚本大概是乾隆时代无数展转传抄本之中幸而保存的一种”，并由此判断《红楼梦》最初只有八十回，乾隆５６年后才有百二十回。从俞樾的《小浮梅闲话》等书提供的材料的中，胡考出“高鹗续书”的结论。
自叙传、曹作高续说是胡从作者及版本的考证中得出的主要结论，俞平伯、顾颉刚对“自传”既有认同也有保留，对曹作高续则完全赞同。与胡重在历史材料的考证不同，俞重在《红楼梦》前后文本的对勘，顾介于两者之间。“适之先生常常有新的材料发现；但我和平伯都没有找着历史上的材料，所以专在《红楼梦》本文上用力，尤注意的是高鹗的续书。”（１０）俞的重要性在于，胡提出高鹗续书的根据是“戚本”的参照和俞樾的旁证，“证据固然重要，总不如内容的研究更可以证明后四十回与前八十回决不是一个人做的。”（１１）俞著《红楼梦辨》，始终围绕着一百二十回本的《红楼梦》文本，一方面辨伪，辨证高续是否符合曹雪芹的本意；另一方面是存真，考察前八十回中有什么可以商讨的，后四十回中有什么遗文佚事可以搜辑，总的结论是支持胡的“曹作高续”说，并批评高续：“我处处去寻找前后的矛盾所在，即用八十回来攻击四十回，使补作与原作不可调和，不能两立。我们若承认八十回是曹雪芹做的，就不能同时承认后四十回也是他做的。”（１２）
“新红学”之所以是科学的，不在于结论而在于方法。方法就是从作者生平和版本的材料中推出结论，就是从考证曹雪芹的身世来说明《红楼梦》的主题和情节。本来，蔡的索隐也是重证据的，元春、宝蟾等人因为证据不够，蔡就没有轻易断言她们的本事。但胡认为，对于像《红楼梦》这样的小说，“证据”只能是能够考定作者、时代、版本的证据，而不能是随便引来穿凿附会的证据，离开了作者的生平，“古往今来无数万有名的人，那个不可以化男成女是大观园里去，又何止朱竹宅、徐健庵、高士奇、汤斌等人呢？”不能先有成见再去找证据，“我很盼望读《红楼梦》的人把向来的成见暂时丢开，大家揩揩眼镜来评判我们的证据是否可靠，我们对于证据的解释是否不错。
”（１３）
第三，传播科学的方法。胡反复强调，他考证《红楼梦》的动机不只在于催生红学，而是宣传一种科学方法。“我的几十万字的小说考证，都只是用一些‘深切而著明’的实例来教人怎样思想。”“在这些文字里，我要读者学得一点科学精神，一点科学态度，一点科学方法。科学精神在于寻找事实，寻求真理。科学态度在于撇开成见，搁起感情，只认得事实，只跟着证据走。科学方法只是‘大胆假设，小心求证’十个字。没有证据，只可悬而不断；证据不够，只可假设──不可武断，必须等到证实之后，方才奉为定论。”（１４）考证《红楼梦》在广泛的意义上只是他应用科学方法研究古典的试验田，新红学可以成为现代人文学科的示范。
就反对索隐派而言，胡的出击是有力的，但他不可能终结红学索隐。一方面，《红楼梦考证》发表后，索隐派一度陷入困境，从此也不再是谈论红楼的主流。另一方面，索隐派并未缴械投降。蔡在《石头记索隐》第六版自序对胡适作了回应，坚持认为自己的索隐是有原则、重证据的，即使不确，也不能否认全部索隐。作者、版本问题固然重要，但索隐也即“情节考证”并非不重要，中国文学历来有此传统，猜谜是“中国文人的习惯”。最后，蔡还反击了自传说，“书中既云真事隐去，并非仅隐去真姓名，则不得以书中所叙之事为真。”（１５）１９２７年，蔡又在为寿鹏飞《红楼梦本事考证》写的序中坚持已说：“此类考据，本不易有定论，各尊所闻，以待读者之继续研求，方以多歧为贵，不取苟同也。先生不赞成胡适之君以此书为曹雪芹自述生平之说，余所赞同。”（１６）寿鹏飞之后，红学索隐仍不绝如缕，重要著作有１９３４年景梅九的《红楼梦真谛》、１９５９年潘重规的《红楼梦新解》、１９７２年杜世杰的《红楼梦原理》、１９８０年赵同的《红楼猜谜》、１９８４年李知其的《红楼梦谜》等，他们都与蔡元培一样强调小说的民族感情和政治倾向。
就创立新红学而言，胡达到了自己的目的。新红学的一些主要结论，曹雪芹是作者，迄今仍是较能使人心安理得的判断；自传说虽然有包括俞平伯、顾颉刚等人的种种怀疑和否定，但长期支配着红学研究；曹作高续则直到１９５９年“梦稿本”出世后才受到质疑。新红学得以建立的方法即考证，迄今仍是红学的基本方法之一。他晚年说：“我对《红楼梦》的最大贡献，就是从前用校勘、训诂考据来汉经学、史学的，也可以用在小说上。”（１７）用这种方法胡打破了近百年中有关红楼的种种猜测附会之论，破除发索隐派的种种迷雾，第一次把红楼带到正当的学术研究的轨道。从此后的红学发展来看，考证不但可以用在红学上，而且差不多就是红学唯一的方法。幸运的是，从作者到文本，《红楼梦》确实有许多问题需要考证，而不时发现的一些新材料的发现又使考证得已可能。比如早期抄本的出现，曹雪芹家世材料的发现，使红学考证数十年香火而不坠。只要有问题、有材料，新红学考证就可维持。
就宣传科学方法而言，胡取得了最大的成功。顾颉刚说：“适之先生第一个从曹家的事实上断定这书是作者的自述，使人把秘奇的观念变成了平凡；又从版本是考定这书是未完之作而经后人补缀的，使人把向来看作一贯的东西匆忙地打成了两橛。我读完之后，又深切地领受历史研究的方法。”（１８）后来在给俞平伯的《红楼梦辩》写序时，顾又提到：“我希望大家看着这旧红学的打倒，新红学的成立，从此悟得一个研究学问的方法，知道从前人做学问，所谓方法实不成为方法，所以根基不坚，为之百年而不足者，毁之一旦而有余。现在既有正确的科学方法可以应用了，比了古人真不知便宜了多少；我们正应当善保这一点便宜，赶紧把旧方法丢了，用新方法驾驭实际的材料，使得嘘气结成的仙山楼阁做了砖石砌成的奇伟建筑。”（１９）顾是当局者，以他为主的“整理国故”的工作一直得到胡鼓舞，但他的评价并不杂有个人感情。１９４３年８开始，上海的《学术界》曾把胡、俞、顾有关红学的通信辑为《考证红楼梦三家书简》分期连载，编者的按语中说：“这三个人，于考证工作进行之际，相互讨论商榷，极为密切。其书翰往来，数不在少。我们可在这些书翰中，见出三家治学论证的方法，其重要性，有过于考证之结果者。”现代新儒家的开创者之一力熊十力是对红学考证鄙视的人，对胡这方面的贡献却有一个客观的说明：“在五四运动前后，适之先生提倡科学方法，此甚要紧。又陵先生虽首译名学，而其文字未能普及遍。适之锐意宣扬，而后青年皆知注重逻辑。视清末民初，文章之习，显然大变。”（２０）以至于不但郭沫若等３０年代的马克思主义者要批判他，１９４９年后还需要专门一个运动来清算他的“主观唯心主义”。
所以，无论是在胡的主观构想还是在学术发展的意义上，新红学的起源和根本都在“科学方法”四个字。除了悲剧性结局外，胡对《红楼梦》评价不高。在立意革新文学时，他以平民的立场推崇古代白话小说。《文学改良刍议》一文以《红楼梦》等小说为中国“文学正宗”，为“吾国第一流小说”。《建设的文学革命论》一文以自身体验设问：“我们今日居然能拿起笔来做几篇白话文章，居然能写得出好几百个白话的字，可是从什么白话教科书上学来的吗？可不是从《水浒传》、《西游记》、《红楼梦》……等书学来的吗？”（２１）但具体到《红楼梦》的文学价值，胡从未推崇，“我写了几万字考证《红楼梦》，差不多没有一句赞颂《红楼梦》的文学价值的话。”（２２）１９６０年他给苏雪林写信时说：“在那些满州新旧王孙与汉军纨绔子弟的文人之中，曹雪芹要算是天才最高的了，可惜他虽有天才，而他的家庭环境和社会环境，以及当时整个的中国文学背景，都没有可以让他发展和修养文学的机会。在那一个浅陋而人人自命风流才士的背景里，《红楼梦》的见解与文学技术当然都不会高明到那儿去。……
他的《红楼梦》，依据我们现在发见的可靠资料来看，是随写随抄去换钱买粮过活的，不但全书没有写完，前八十回还有几回显然‘未成而芹逝矣’，我当然同意你说‘原本《红楼梦》也只是一件未成熟的文艺作品。”（２３）在与高阳的信中又说：“我常说，《红楼梦》在思想见地上比不上《儒林外史》，在文学技术上比不上《海上花》，也比不上《儒林外史》，──可以说，还比不上《老残游记》。”（２４）
但恰恰是通过胡的考证，《红楼梦》的地位在现代中国冉冉上升，红学成为其他学科可以仿效的典范学科，令学界人士竞相钻研。这正是“科学方法”的魅力。胡认为，提高像《红楼梦》这样的小说的地位，重要的不是美学、文学上的赞扬，而是把它提升为科学研究的对象。“我在中国文艺复兴运动的初期，便不厌其烦地指出这些小说的文学价值。但是只称赞它们的优点，不但不是给予这些名著应得的光荣底唯一的方式，同时也是个没有效率的方式。要给予它们在中国文学上的就有的地位，我们还应该采取更有实效的方式。我建议我们推崇这些名著的方式，就是对它们做一种合乎科学方法的批判与研究，也是就寓推崇于研究之中。我们要对这些名著作严格的版本校勘，和批判性的历史探讨──也就是搜寻它们不同的版本，以便于校订出最好的本子来。