到了北大。“毕业分配那时候有两个选择，去文化部或者是去北京大学。当时选择到北大去，目的也不是特别明确，但是做团的工作，到北大去教书，做个北大教授，以及在北大这样一个地方和青年人在一起打交道，搞校园文化，还是很有意思的。当时八十年代有一种现象叫‘周末病’，我是要改善校园生活，再造一代大学生的精神状态，怀着这么一种理想去的，在团委工作应该说我找到了我的位置。”
徐小平就像一个充满激情的音符，在人生舞台上欢快跳跃。就是在北大，徐小平认识了俞敏洪、王强这一帮人，成为他后来事业的基础。“你一直在寻找一种可以增长的机会，可以让自己增值的机会，这时候你发现一个什么样的机遇，这时候重振是走不通了，搞学术我也不是这块料，我不喜欢搞本专业。那么干什么呢？其实那个时候，我是真正地陷入了巨大的困境，强烈的痛苦，想出去学社会学，我也申请过奖学金，也没拿到。想出去读音乐学，但是我知道我不喜欢，我也学不好。我自己知道‘人喜欢什么不喜欢什么’是比较重要的。”
徐小平在北大遇到了一个现实的问题：没有住房。“我是外地人，也不能跟爸爸妈妈挤在一起，其实这里面浓缩了一个北大教师和一个外地民工共同的人生困境，后来我还在几个朋友的帮助下，撬开一个空闲的房间就住进去了，住的当天就被人家赶出来了。作为一个北大老师，我得不到一个起码的尊严。这在80年代所有的老师都是一样的。当时有一个说法，要分到一个一居室的单元要等到40岁，那40岁我也不需要住房了。”
“我当时真的彻底失落，甚至想学新闻，我也考过中文研究生，这是在八十年代中期。我当时想，搞学术失败了，想调工作也失败了，四面楚歌。当时确实是出国没有目的，出去再说。”30多岁的徐小平随着北大学生出国留学的热潮去了美国，一年后又转到加拿大。他读了个音乐硕士，“这时候有人逼我读音乐博士。我发现我在的那个普通的大学要招聘一个音乐教授，结果来了50个音乐博士。我觉得读完博士我就成了五十分之一，就没有读。”徐小平后来考了一个音乐教师的执照，做了一个中学音乐老师。
生活稳定了，富足了，但徐小平并没有平息下来。“我的小汽车有两辆，带花园的洋房足有300平米。这样优越的生活在国内的时候我是想都不敢想的，我知道我成功了。但却觉得好像自己还有更多的事情要做，我感觉到这个事情也许只有我才能做！”徐小平感觉到，自己应该尝试设计人生，设计更多人的人生，应该为人们找出个叫做“轨迹”的东西，使生命运行在一个轨道上。
从俞敏洪突然出现在加拿大那一刻起，徐小平的生活就彻底改变了。俞敏洪极力说服徐小平一起创业。1995年底，徐小平回到国内，参与创建新东方学校。40岁回国创业，徐小平并不认为很迟，“只要心中有目标，那么浑身就有青春的活力。”