1792年，洪堡提出国家无权插手教育，新型的大学应该是塑造完善的个人，致力于真正的学术，教授和学生都应该成为真理的追求者，学术自由与教育独立乃是达到这一目标的必须途径。蔡元培先生长期在德国学习、研究，深受洪堡的影响。他曾说过，德国近代的发展是基于成功的高等教育培养了一大批小学教师，造成了一代优秀的公民。作为教育家，他的兴趣偏于高等教育。1917年，他在给汪精卫的信中说：“吾人苟切实从教育着手，未尝不可使吾国转危为安，而在国外所经营的教育，又似不及在国内之切实。……而德意志统一之盛业（普之胜法，群归功于小学教员；然所以有此等小学教员者，高等教育之功也），亦发端于此。”
民国元年，蔡元培出任首届教育总长，邀请另一位教育家范源濂为次长，范说：“小学没有办好，怎么能有好中学？中学没有办好，怎么能有好大学？所以我们第一步，当先把小学整顿。”蔡说：“没有好大学，中学师资哪里来？没有好中学，小学师资哪里来？所以我们第一步，当先把大学整顿。”后来他自“把两个人的意见合起来，就是自小学以至大学，没有一方面不整顿。不过他的兴趣偏于普通教育，就在普通教育上多参加一点意见。我之兴趣，偏于高等教育，就在高等教育上多参加一点意见罢了”。
蔡元培做教育总长为时很短，他的教育理想并没有得到实践的机会，不久他就再度赴欧洲学习、考察去了。直到1917年他正式出任北京大学校长，才一举奠定学术自由、思想自由、教学自由的原则，开创了中国现代高等教育的新局面。
1916年，袁世凯脱下皇袍，在一片唾骂声中死去。光复会老会员、国会议员陈黻宸、北大教授马叙伦等向教育部推荐蔡元培出任北大校长。他还在犹豫，不少老同盟会会员也有不同意见，有人坚决反对（如马君武），认为北大太腐败了。孙中山认为，北方需要传播革命思想，像蔡元培这样的老同志，应当去帝王思想和官僚习气笼罩下的北京，主持带有全国性的教育，主张他去。所以国民党把他看作是“隐伏在北方的文化教育界的极其重要的革命棋子”。这些说法未免把蔡元培出长北大的动机狭隘化了，其实从蔡元培的思想境界看，从他以后在北大的作为看，他的目光要远比这宏大得多，早已不是“传播革命思想”这样简单化的政治目标可以涵盖的。
当年北洋军阀的手伸得还不是太长，他们还懂得有所敬畏，并不是直接插足他们所不熟悉的教育文化领域，教育基本上还是教育家们的事。他们不可能不知道蔡元培的信仰，但他们选择的只是一个有经验、有学问的蔡元培，让他来办大学，和他的政治态度没有太大的关系。