转任驻美公使。同年11月至1922年2月，美国为解决巴黎和会遗留的远东问题，召开了华盛顿会议。北京政府委派施肇基为首席代表，顾维钧、王宠惠为全权代表。曹云祥为秘书长。虽然华盛顿会议上施肇基等收回的权益有限，但毕竟是中国历史上少有的一次成功行动，北京政府大为赞赏。1923年1月施肇基被任命为外交总长，但任命未获参议院通过。随后，施肇基与美国谈判庚子赔款返还事宜。1924年作为中国全权代表出席海牙国际禁烟会议。1926年，施肇基被颜惠庆内阁任命为外交总长。有了这层关系，曹云祥在清华去职之后，没有再回外交界，也就不难理解了。
而在当时，曹云祥很快就在外交部的重要代表名单里出现了。
1919年在伦敦服务了几年之后的曹博士回到了中国，但是年末他的政府派他到哥本哈根任命他为第一个中国公使团秘书，随后的第二年他被任命为临时代办。1921年，他代表政府参加了日内瓦的大会，并于同年到美国为受哈丁总统邀请参加限制军备大会的中国代表进行前期准备工作。回国后，他被任命为国务院委员并兼任7年以前他就曾计划任教的清华大学校长。《耶鲁大学历史》中说：“由于同在北京的大学及外交部相距较远，他每天都要为两地各留出一些时间，所以他必须放弃其中的一个职位。他选择了留任清华大学校长，虽然那意味着他必须进行重组……他当清华大学校长时，有一次，他受邀到远东最大的出版社当效率专家……经过考虑，他决定放弃那个职位，写道：‘对我而言，我的去留无关紧要，我只想把精力放在最需要我的地方，以便于最大限度地服务社会和国家，’他总是这样无私而热心公益，只考虑他的国人，而从不考虑自己……