产生了横渡太平洋的冲动。”
但俞敏洪出国奋斗的梦想最终并未能实现。1988年1月，俞敏洪第一次参加了托福考试，获得了657分的好成绩，准备踏上了连续三年多的联系出国留学之路。但美国那边的学校只给他发了几张印刷得很漂亮的录取通知书而不愿意出一分钱的奖学金。没有经济能力自费出国的俞敏洪，出国梦只能打住。
出国无望，经济也陷入困境，而此时，随着中国留学热潮的兴起，北京街头出现了各式TOEFL和GRE培训班，俞敏洪于是想起了自己对托福考试的深刻研究，就背上书包到各个培训机构教书谋生。在当时，他教书的目的主要是为了谋生赚钱，赚钱有两个目的，一是把家庭维护好；二是把多余的钱攒起来，以备自费出国。
就是因为在北大学校外开办培训教育，他最后被迫离开北大。但俞敏洪没有放弃自己的梦想，他抓住了当时一片“出国热”的机会，凭着北大训练的头脑和一张嘴，再加上自己失败的出国梦积累下来的经验，一头扎进了民办英语培训领域。他找到了一家叫做“东方学校”的民办学校，为他们创办了外语培训部，以承包的方式大张旗鼓地做了起来。
最开始，俞敏洪在中关村第二小学租了间平房当教室，外面支一张桌子，放一把椅子，一堆用毛笔写的小广告，一个刷广告的胶水桶，“东方大学英语培训部”正式成立，成员两人：他和他老婆。为了吸引更多的人报名，俞敏洪当时不得不在托福、GRE报名册上各填30个假名字。甚至在北京寒风怒号的冬夜，俞敏洪骑着自行车在北京的大街小巷刷广告。
为了找到成功办学的方法，从1991年到1993年开始，俞敏洪还在创办新东方学校期间，去其他培训机构打了两年工，从这些培训机构里，他找到了新东方成功的一些方法，如免费试听、学生选择老师等，也找到了这些培训机构的一些弊端。
到1994年，新东方学校已为俞敏洪挣够了学费，他可以出国留学了。但俞敏洪权衡之下，还是决定继续办新东方。因为这时他已发现，新东方的学生，1994年比1993年增加了好几百倍，还有继续增加的趋势。到1995年年底，新东方学生已有1.5万人了。随着教学方面在蓬勃发展，俞敏洪开始觉得自己一个人的力量实在太有限。他面临两个选择，要么把新东方关掉，要么把新东方干大，最后选择了把新东方干大。
为此，他专门跑到美国和加拿大，去说服当时的同学王强、徐小平等人回国。这一次的出国，让一批名师成就了新东方在留学英语培训市场的地位：徐小平的出国留学咨询，王强的“美式思维口语教学法”，包凡一、何庆权从加拿大带回超凡的英语写作……