1916年12月，北洋政府教育部任命蔡元培为北大校长。据沈尹默回忆，“蔡元培长北大之来由”是教育部专门教育司司长沈步洲与北大校长胡仁源发生矛盾，沈步洲报眦睚之怨，必欲扳倒胡仁源而后快，他抬出蔡元培，资望、才学均在胡仁源之上，教育总长范源濂也就顺水推舟。彼时，蔡元培刚从海外归来，风尘仆仆，到上海后，许多朋友都劝他不要率尔衔命，北大腐败透顶，烂到流脓，他若就职，恐怕整顿不力，清誉反受其累。但也有几位朋友鼓励蔡元培放手一搏，用手术刀割治这个艳若桃李的烂疮，给中国教育开创前所未有的新局，纵然败北，尽心也可无憾。蔡元培的使命感极强，他选择了锐意进取，而不是临阵脱逃。1917年1月4日，他到北大视事，着手收拾这个令人掩鼻的烂摊子。
有人说，蔡元培接手北大，是为了做一次安那其主义的实验，这不是全无道理的。安那其主义信奉者的口号是：“无地球以外的别个，又无他生来世的另一个，要做好就在这一个上做到好，要改良世界就在本街坊内改良。”蔡元培是坚定的安那其主义信奉者，他将北大视为亟待改良的“街坊”，并不奇怪。
北大的前身是京师大学堂，与其称之为大学，还不如称之为官僚养成所。这样的看法是否有点失之武断？京师大学堂的创办者张百熙就曾礼贤下士，聘请文章经济极负时名的桐城派大家吴汝伦任总教习，吴汝伦不肯就任，张百熙便在吴汝伦跟前长跪不起，比程门立雪的杨时更有诚意。吴汝伦也是个认真的人，高龄应聘之后，他一丝不苟，即赴日本考察教育，惜乎病魔窥伺于侧，赍[jī，怀抱]志以没。1905年，大学堂的管学大臣降格为监督，首任监督张亨嘉发表就职演说，只有寥寥一语，总计十四个字：“诸生听训：诸生为国求学，努力自爱！”放在全世界大学范围来看，如此言简意赅的就职演说也是独一无二的。大学堂的生源很杂，其中有秀才、举人、进士，甚至还有翰林，因此在运动场上，体育教官会礼貌端端地喊口令：“大人向左转！”“老爷开步走！”大学堂离学界远，离官场近，又何足为奇呢？活动能力较强的学生，上乘的做法是猎官，组织同乡会，巧妙运作，做一任会长或干事，借以接近学校当局，毕业后即稳获升官的阶梯；下乘的做法是钻营，用嫖娼、赌钱、看京戏、捧名角来结交社会上的实力人物，以之为借重的资本。民国初年，京师大学堂与国会的参议院和众议院被外界并称为“两院一堂”，其中的各色人物乃是八大胡同鸨儿妓女最欢迎的客源，无非是因为他们腰包鼓胀，喜欢吃喝玩乐，舍得拿大把光洋撑场面。有的学生一年花销高达五千银元，相当于普通人家十年的用度。总而言之，在京师大学堂，乌烟瘴气和歪风邪气很盛，唯独研究学问的风气荡然无存。
比蔡元培出掌北京大学晚两年，1918年12月，美国学者司徒雷登出任燕京大学校长。上任伊始，这位中国通即公开表态，他并不希望燕京大学成为世上和史上最有名的大学，而急切地希望它成为当下中国最有用的大学。司徒雷登主张学术自由，言论自由，教育以求真务实为鹄的（目的），他亲订燕京大学校训为：“因真理得自由以服务。”（Freedom through Truth for Service）燕京大学是美国教会大学，司徒雷登是美利坚的自由公民，他有此学术观和教育观，合情合理，并不令人意外。蔡元培也曾赴欧洲游学数年，但他毕竟在中国传统教育体制和封建政治体制下浸润了半个世纪之久，这位清朝翰林、民国元勋果然能破能立吗？破要有大勇，立要有大智。“有怎样的校长就有怎样的大学”，“所见即所得”，这两句话在当年还是能够成立的。北大注定要打上蔡元培的烙印，这既是历史的偶然，也是历史的必然。
蔡元培出任北大校长后，迅即发出呼吁：“大学生当以研究学术为天职，不当以大学为升官发财之阶梯。”他说：“自今以后，须负极重大之责任，使大学为全国文化之中心，立千百年之大计。”为了矫正学风，蔡元培从消极和积极两方面入手：发起组织进德会，发表《进德会旨趣书》，会员必须恪守不嫖、不赌、不纳妾的基本戒条（另有“不作官吏、不作议员、不饮酒、不食肉、不吸烟”五条选认戒）；设立评议会，实行教授治校；组织各类学会、研究会，如新闻学会、戏剧讨论会、书法研究会、画法研究会等，使学生养成研究的兴趣；助成消费公社、学生银行、平民学校、平民讲演团。
在蔡元培的心目中，“所谓大学者，非仅为多数学生按时授课，造成一毕业生之资格而已也，实以是为共同研究学术之机关。研究也者，非徒输入欧化，而必于欧化之中为更进之发明；非徒保存国粹，而必以科学方法，揭国粹之真相”，因此大学理应是“囊括大典，网罗众家”的学府，遵循“万物并育而不相害，道并行而不相悖”的自然法则。他打过一个极具说服力的譬喻，人的器官有左右，呼吸有出入，骨肉有刚柔，它们相反而相成。蔡元培决意改造北大，并非打碎另做，推倒重来，凡饱学鸿儒皆得以保留教职，更在国内延聘名师，不问派别，不问师从，但求其术有专攻，学有专长。至于不合格的教员，他坚决黜退，决不手软，不管对方究竟是什么来头，有什么靠山。一名法国教员被黜退后，曾四处扬言要控告蔡元培。一位被黜退的英国教员更加神通广大，居然搬出英国驻华公使朱尔典这尊洋菩萨来与蔡元培谈判，蔡元培坚持成命，不肯妥协。事后，朱尔典怒气冲冲地叫嚣：“蔡元培是不要再做校长的了！”对于这些外缘困扰，蔡元培一笑置之。
诚如冯友兰所言，“大学应该是国家的知识库，民族的智囊团。学校是一个‘尚贤’的地方，谁有知识，谁就在某一范围内有发言权，他就应该受到尊重”。学术乃天下之公器，一致百虑，殊途同归，蔡元培不持门户之见，唯致力将北大改造成为中国的学术渊薮。蔡元培的改革理念和举措，最令人称道的便是“学术第一”“教授治校”“讲学自由”和“兼容并包”。以党见和政见论，王宠惠信奉三民主义，李大钊、陈独秀信奉共产主义，李石曾信奉无政府主义，辜鸿铭憧憬君主立宪；以文学派别论，胡适、陈独秀、钱玄同、刘半农、周作人倡导新文学，刘师培、黄侃、吴梅坚持旧文学。特别是“性博士”张竞生，被封建卫道士辱骂为“三大文妖”之一，他在北大讲“美的人生观”，在校外出版《性史》，竭力提倡“情人制”“外婚制”和“新女性中心论”。在半封闭半蒙昧的中国，张竞生的言论绝对算得上离经叛道，惊世骇俗，也只有在蔡元培的保护伞下，他才不会被大众的唾沫淹死。北大学生办了三个大型刊物，分别代表左、中、右三派，左派的刊物叫《新潮》，中派的刊物叫《国民》，右派的刊物叫《国故》，各有其拥趸，各有其读者群，尽管彼此笔战不休，但相安无事。
蔡元培开门办学，最具特色的是，学校“三生”共存。“三生”是正式生、旁听生和偷听生。正式生是考进北大的学生，旁听生办了旁听的手续，得到了校方的许可，偷听生则未办任何手续，自由来听课的，尽管未获许可，但也没人将他们撵出课堂。偷听生中也是藏龙卧虎，不可小觑，其中的代表人物就有金克木和许钦文。上课前，教授指定专人发放油印的讲义，对上课者不问来历，一视同仁，发完为止。有些正式生姗姗来迟，反而两手空空，他们也不觉得有什么好委屈好奇怪的。“来者不拒，去者不追”，听课之自便由此可见一斑。有人说：“学术是天下公器，‘胜地自来无定主，大抵山属爱山人’，这正是北大精神的一面。”偷听生也因此得到正名了。
当年，北大被称为“自由王国”。你爱上课，可以；你不爱上课，也可以；你爱上你爱上的课而不爱上你不爱上的课，更是天经地义的准可以。贬低北大的人以此为口实，称北大是“凶、松、空三部曲”，意思是：学生投考时题目“凶”，入校后课程“松”，毕业生腹中“空”。还有一种类似的说法：北大把后门的门槛锯下来，加在前门的门槛上，即谓进校难，毕业易。事实上，北大约束少，最能出怪才。朱海涛有一段回忆文字写得极到位：“北大的教育精神是提倡自立、自主的……给你逛窑子的机会你不逛，那才是真经得起试探的人。给你抄书的机会你不抄，那才是真有读书心得的人。将你搁在十字街头受那官僚封建腐烂的北平空气薰蒸而不染，那才是一个真能改造中国的人。关在‘象牙塔’里受尽保护的，也许出得塔门，一阵风就吹散了。”既然行为自由，思想也会同样自由。当时中国有多少党派，北大师生中就有多少党派；中国有多少学派，北大师生中就有多少学派。办大学，兼容并包其实是非常危险的，弄得好固然可以形成“酒窖”；弄不好呢？就会形成“粪沼”。蔡元培对于中西文化择善而从，对于各类人才兼收并蓄，使之商量旧学，探讨新知，和平共存，不相妨害。他的态度绝无偏袒，他的器局皆可涵盖，处事公平，无适无莫，大家自然心服口服。
世事无绝对，在北大，阋墙[xìqiáng，兄弟不和]与内讧总还是有的，而这些响动多半与辜鸿铭和章太炎的大弟子黄侃有关。辜鸿铭对胡适很不买账，他认为，胡适治哲学史，既不懂德文，又不懂拉丁文，简直是画虎成猫，误人子弟。黄侃也瞧不起洋味十足的胡适，但他对章氏旧同门诋诃更多，骂他们曲学阿世。于是众人暗地里戏称蔡元培为“世”，到校长室去竟被谑称为“阿世去”，意思是“巴结蔡校长去”。黄侃上课，骂师弟钱玄同有辱师门，骂得相当刺耳，两人的教室毗邻，字字句句都听得清清楚楚，学生不免偷笑，而钱玄同若无其事。
陈独秀在《蔡孑民先生逝世后感言》中称赞道：“这样容纳异己的雅量，尊重学术自由思想的卓见，在习于专制、好同恶异的东方人中实所罕有。”陈独秀尤其应该感谢蔡元培对他的爱护和包容。这位为科学与民主鼓与呼的急先锋，圭角毕露，锋芒侵入。他放浪形骸，不检细行，不拘琐德，往往予敌对者以攻讦的口实。陈独秀去八大胡同消遣，甚至遭到过妓女的控告，被警局传讯，经小报大肆渲染而成为轰动社会的丑闻。尽管陈独秀运笔如枪，其盖世神功能够辟易千人，但若是没有蔡元培为他屡次三番解围，攻击者驱逐他出北大的愿望岂会落空？蔡元培是北大进德会的模范会员，“不嫖，不赌，不纳妾”这三条，他绝对遵守，但他只以道德律己，并不以道德责人，这非常不易。蔡元培爱护陈独秀，因为后者是难得的人才，其言论主张值得会意和同情。
守旧派的头面人物林纾原本是赞成“新学旧学并行”的，但新学分子破坏力巨大，竟宣布“古文死了”“孔家店破产了”，使他不免生出“未得其新，先殒其旧”之慨，旧学被打上耻辱的烙印，这尤其令他痛心。一怒之下，义愤爆棚，理智告退，他在上海《新申报》发表小说《荆生》和《妖梦》，前一篇中的人物田必美、狄莫和金心异，分别影射陈独秀、胡适与钱玄同，说这三人聚在一起诋毁前贤，侮灭斯文，荆生偶然听到了，于是愤愤不平，怒火中烧，将他们暴打一顿。荆生，即暗指时任陆军部次长的徐树铮，此人是段祺瑞的智囊，极为霸道，对新文化运动恨之入骨。后一篇则说作者梦见那班非圣非法的人全被一个怪物捉去吃掉了，其中有个叫元绪公的，即影射蔡元培，将他比作乌龟，用意可谓刻薄。守旧派人物林纾敌视新文化运动，仇视科学与民主，与蔡元培、陈独秀、胡适、钱玄同等人志不同道不合，是可以理解的，但他摆出一副急于助纣为虐的模样，动辄扬言“宜正两观之诛”，宣称要将异己“寝皮食肉”，以恐吓、谩骂为取胜的手段，这种做法着实令人不敢恭维，斥之卑劣也不为过。
林纾的小说是经由北大法科学生张厚载之手转寄《新申报》发表的，张厚载写信给蔡元培说明情况，蔡元培回信批评张某的做法有欠妥当，既非爱护其师林纾，也非爱护母校北大。在这封回信中，蔡元培表明了自己对《荆生》和《妖梦》的看法：“仆生平不喜作谩骂语轻薄语，以为受者无伤，而施者实为失德。林君詈仆，仆将哀矜之不暇，而又何憾焉。”蔡元培的大度宽容真是常人望尘莫及的。
此后不久，林纾在《公言报》（此报专与北大为敌，专与新文化运动为难）上发表致蔡元培的公开信，这一回他跳将出来，攻击北大的教育“覆孔孟，铲伦常”，“尽废古书，行用土语为文字”，他纯粹以谣言为依据，如此荒腔野板：“乃近来尤有所谓新道德者，斥父母为自感情欲，于己无恩。此语一见之随园文中，仆方以为拟于不伦，斥袁枚为狂谬；不图竟有用为讲学者，人头畜鸣，辩不屑辩，置之可也。”这段话的意思是：“近来有些讲新道德的人，贬斥父母因为自身情欲发作才孕育了儿女，对自己并无恩德。这句话在袁枚的文章中可以见到，我认为这是不符合人伦的，应斥之为狂妄荒谬；没想到竟然有教授拿它来讲学，他长着人脑袋，却发出畜生的叫声，不值得与之辩论，放在一边就行了。”蔡元培答复时特意指出林纾笔下的这个典故出自于《后汉书·孔融传》，路粹枉状弹劾孔融，致使后者遭遇杀身之祸。袁枚只不过拾古人的牙慧，并非原创。林纾听信传言，妄加指责，捡根柴棍当枪使，实在有些贻笑大方。林纾展读蔡元培的公开答复，身在自家书斋，也必定面红耳赤，汗出如浆吧。
在答复林纾的公开信中，蔡元培阐明了自己的两项主张：“（一）对于学术，仿世界各大学通例，循‘思想自由’原则，取兼容并包主义，与公所提出之‘圆通广大’四字，颇不相背也。无论为何种学派，苟其言之成理，持之有故，尚不达自然淘汰之运命者，虽彼此相反，而悉听其自由发展。（二）对于教员，以学诣为主。在校讲课，以无背于第一种主张为界限。其在校外之言动，悉听自由，本校从不过问，亦不能代负责任。例如复辟主义，民国所排斥也，本校教员中，有拖长辫而持复辟论者，以其所授为英国文学，与政治无涉，则听之。筹安会之发起人，清议所指为罪人者也，本校教员中有其人，以其所授为古代文学，与政治无涉，则听之。嫖、赌、娶妾等事，本校进德会所禁也。教员中有喜作侧艳之诗词，以纳妾、狎妓为韵事，以赌博为消遣者，苟其功课不荒，并不诱学生而与之堕落，则姑听之。夫人才至为难得，若求全责备，则学校殆难成立。且公私之间，自有天然界限……然则革新一派，即偶有过激之论，苟于校课无涉，亦何必强以其责任归之于学校耶？”对于胡适等人提倡白话文，林琴南诟病尤多，蔡元培的精确打击更为神准：“《天演论》《法意》《原富》等，原文皆白话也，而严幼陵译为文言。小仲马、迭更司、哈德等所著小说，皆白话也，而公译为文言。公能谓公及严君之所译，高出于原本乎？”这一问，就问得林琴南哑口无言了。此外，蔡元培对林琴南宽待《红楼梦》《水浒传》的作者而苛责同时代的胡适、钱玄同、周作人，也不以为然，他强调，胡、钱、周等新文化运动的干将无不博极群书，并不是借白话文藏拙的“二把刀”（假内行）。
蔡元培的公开信以道理服人，以事实讲话，无懈可击，林纾笔头再厉害，也无隙可乘。对此话题，林纾从此噤声，也算是有服善之智和改过之勇吧。
守旧派并非个个都像林纾那样操切应对，甚至有人认为严纾以七十高龄“作晨鸡”“当虎蹊”（挡住老虎的去路），写小说，骂群生，等于迎风撒尿，徒然弄得自己一身臊。严复就不肯接招，他以包容的心理说话：“优者自存，劣者自败，虽千陈独秀，万胡适、钱玄同，岂能劫持其柄？则亦如春鸟秋虫，听其自鸣自止可耳。林琴南辈与之较论，亦可笑也。”这段话的意思是：“优秀的人自然能生存，鄙陋的人自然会失败，即使有一千个陈独秀，一万个胡适、钱玄同，岂能劫持这道法则？这也像春天的鸟儿、秋天的虫子，听由它们自己鸣叫自己停止就行了。林琴南与他们较量辩论，庸人自扰，也未免太可笑了。”刘师培的观点更有意思：通群经才能治一经。没通经不敢吭声，通了群经不屑吭声。他不作任何辩驳，就等于作出了辩驳，简直就像装聋作哑的大禅师，能悄无声息地默杀一切。
北大学生很幸运，由于蔡元培的办学方针鼓励百家争鸣，他们仿佛漫步在山阴道上，千岩竞秀，万壑争流，自是大饱眼福，大饱耳福。学风丕变，人才蔚起，确为水到渠成。
在旧势力依然磐固的环境里，以效益论，激烈对抗反不如稳健从事。蔡元培能在北大取得成功，决非偶然。比如男女同校，当时是很难办的事情，北京好一点的戏楼（广和楼、富连成社）不卖堂客票，女人不能进去听戏。次一等的戏楼，也是另开一门，标明“堂客由此进”，男女之分，壁垒森严。因此北大招收女生，实行男女同校，就绝非不起眼的小举措了。蔡元培的做法很稳当，他先让女生旁听，然后再行招考，并不向教育部明文通报，以免碰硬钉子，反为不美。他心明眼亮，早瞅准了教育部的规定（是他在教育部总长任内制定的）并无禁止女生上大学的条款。那些反对者眼见木已成舟，社会舆论偏向于赞成男女同校，也就不再横加指责了。
最巧妙的是，蔡元培引经据典，将自由、平等、博爱（他译为“友爱”）这一法国大革命时代所标举的公民道德纲领推演出与中国文化相对应的解释：“自由者，‘富贵不能淫，贫贱不能移，威武不能屈’是也，古者盖谓之‘义’；平等者，‘己所不欲，勿施于人’是也，古者盖谓之‘恕’；友爱者，‘己欲立而立人，己欲达而达人’是也，古者盖谓之‘仁’。”此说一出，那些习惯訾议诋诃自由、平等、博爱的封建卫道士，弯弓搭箭，茫然迷失标靶，只好敛怒收声，哪儿凉快待哪儿去。斗士陈独秀喜欢打南拳，虎虎生威，刚猛之极。智士蔡元培则擅长于太极推手，柔若无声，四两拨千斤。
在北大，蔡元培的权威也曾受到过挑战。当年，北大学生不肯交纳讲义费，为此包围红楼。面对气势汹汹的数百名学生，蔡元培挺身而出，他厉声质问道：“你们闹什么？”为首的学生讲明来由：“沈士远（北大庶务部主任）主张征收讲义费，我们来找他理论！”蔡元培说：“收讲义费是校务会议决定的，我是校长，有理由尽管对我说，与沈先生无关。”这时，学生中有人恶语相向：“你倚老卖老！”蔡元培毫无惧色，他挥拳作势，仿佛怒目金刚，公开叫阵：“你们这班懦夫！我是从明枪暗箭中历练出来的，你们若有手枪炸弹，只管拿来对付我，站出来跟我决斗！谁要是敢碰一碰教员，我就揍他。”当时，观者如堵，听闻先生此言，无不面面相觑。五十岁的老校长平日驯如绵羊，静若处子，现在忽然摇身一变，变成了拼命三郎，变为了正义之狮，大家都傻了眼。蔡元培的可畏之处在此，可敬之处在此，可爱之处也在此，一旦显露无遗，千人为之辟易[bìyì，拜服，倾倒]。学生自觉理亏，满怀敌意受此激荡，竟霍然消解了。学生收了队，讲义费呢？教务长顾孟余答应延期收取，实则无限延搁。北大的这场“讲义风潮”仍是学生占到上风，蔡元培心知尾大不掉，也无可奈何。
在北大，蔡元培重视美育，并且亲自授课。蔡元培所提倡的美育是美感之教育，他说：“美感是普遍性，可以打破人我彼此的偏见；美学是超越性，可以破除生死利害之顾忌，在教育上应特别注意。”他还说：“美感者，合美丽与尊严以言之，介乎现象世界与实体世界之间而为津梁……在现象世界，凡人皆有爱恶惊惧喜怒哀乐之情，随离合生死祸福利害之现象而流转。至美术则以此等现象为资料，而能使对之者自美感以外，一无杂念。例如……火山赤舌，大风破舟，可骇可怖之景也，而一入图画，则转堪展玩。”审美无疑是一种有待培养的能力，常人的层次较低，机会也有限，蔡先生主张以美育代宗教的主张就成为了“过高之理”，终于停留在纸面上。
早在爱国学社任教时，蔡元培就曾断发短装，与学员一同练过正步。在北大，蔡元培也特别重视体育，他添设兵操、射击和军事学等课程，聘请军事专家蒋百里、黄郛等人任教习。中国大学生实行军训，自北大始，应属无疑。北大学生军最光荣的历史是：1925年孙中山到北京时他们去前门车站担任欢迎和警卫的任务，还去铁狮子胡同孙中山的住处轮流站岗。据林语堂《记蔡孑民先生》一文所述：当年他在清华教书，有事去北大见蔡元培，“最使我触目的，是北大校长候客室当中玻璃架内，陈列一些炸弹，手榴弹！我心里想，此人未可以外貌求之，还是个蘧伯玉吧”。蘧伯玉名璩，是春秋时期卫国的头号大贤人，是孔子的好友，他最为人称道的就是“行年五十而知四十九年非”，知过就改，精进不息。蔡先生年方五十，林语堂将他与蘧伯玉作比，确有深意存焉。
但凡了解蔡元培的人就知道他自奉甚谨的“三不主义”（“一不做官，二不纳妾，三不打麻将”），他出掌北京大学，是为教育尽力，并不是来当官，其萧然物外的书生本色一点也没变。有一次，冯友兰为弟弟冯景兰办理北大预科肄业证明书，由于时间紧迫，为了省去中间环节，便直接去景山东街北大校舍的一所旧式院落找蔡元培签字。他见到的景象是这样的：“校长室单独在一个大院子中，我走进院门，院子中一片寂静，校长室的门虚掩着，门前没有一个保卫人员，我推开门走进去，外间是一个大会客室兼会议室。通往里间的门也虚掩着，门前没有秘书，也没有其他职员。我推开门进去，看见蔡先生一个人坐在办公桌前看文件。”冯友兰当时的印象很深，蔡校长显然不是官员，而是学者，甚至是一介寒儒。若将林语堂的所见与冯友兰的所见合在一处看，就真是相映成趣了，蔡元培从来就不是心口相违的人。
在五四运动之前，由于北大师生的言论主张过于激烈，北洋政府将北大视为眼中钉、肉中刺，对蔡元培施加了很大的精神压力。有一天晚上，蔡元培在家中与两位谋客商量对策，其中一位谋客劝告蔡元培趁早解聘陈独秀，制约胡适，以保全北大的命脉，为国家保存读书种子，这样的说法似是而非。另一位谋客别无高见，也从旁附和。他们苦口婆心劝了许久，蔡先生终于站起身来，正气凛然地说：“这些事我都不怕，我忍辱至此，皆为学校。但忍辱是有止境的。北京大学一切的事，都在我蔡元培身上，与这些人毫不相干！”若非蔡元培硬扛硬顶和巧妙周旋，北大那片息壤早被军阀政府的铁蹄践踏得寸草不生了，还哪有什么新文化运动的硕果可以结出？
据周策纵《五四运动史》所记，“五四”前夕，蔡元培召见过北大学生领袖狄福鼎，明确告诉后者，他对学生的爱国举动深表同情。
五四学潮，闹出的动静的确很大。十二校学生出于爱国赤诚，不仅打伤了被指斥为卖国贼的驻日公使章宗祥，还纵火焚毁了同属亲日派的交通总长兼交通银行总理曹汝霖的豪宅（赵家楼）。此次学潮，北大学生是理所当然的先锋和主力，被捕者也是多数，三十二人中占去二十人。北京大学生的爱国正义之举立刻博得了全国舆论的广泛同情和支持。蔡元培毫不畏惧军阀政府的淫威，联合学界进步人士，极力营救被捕学生，三位重量级人物汪大燮（前国务总理）、王宠惠（前司法总长）、林长民（前司法总长）也联名具呈警察总监吴炳湘，自愿充当被捕学生的保释人，以为“国民为国，激成过举，其情可哀”。众多长者的努力总算没有白费，爱国学生于5月7日脱身囹圄，重获自由。
当时，外间传言满天飞，最耸人听闻者有二，其一是总统徐世昌要严办北大校长，安福系军阀甚至悬红要刺杀蔡元培；其二是盛传陆军次长徐树铮已命令军队把大炮架在景山上，将炮口对准北大。不管传言是否可信，形势总是咄咄逼人。1919年5月9日，蔡元培深夜出京，报上登出他的辞职公告，引用《白虎通》中的话，词颇隐晦：“我倦矣！‘杀君马者道旁儿’，‘民亦劳止，汔[qì，差不多]可小休’。我欲小休矣。北京大学校长之职，已正式辞去。其他向有关系之各学校，各集会，自五月九日起，一切脱离关系。特此声明，唯知我者谅之。”这段话值得细细玩味。所谓“杀君马者道旁儿”，就是说那些在路边吆喝的人能让骑手忘乎所以地狂奔，最终必然累死坐骑才肯罢休。蔡元培已经意识到，五四学潮正迅速向全国蔓延，其势难控，那些想推举他做领袖的人何尝不是大声吆喝的路旁儿，“马”就是北大。他若再狂奔下去，马就必死无疑。所以他要悄然离京，为北大留下喘息之机。
蔡元培的辞职非同小可，引起全国学林的关注，都想了解他辞职的真实原因。天津的《大公报》为释众人之疑惑，刊出《由天津车站南下时的谈话》，透露了蔡元培辞职的内幕消息。一位朋友问蔡元培何以坚决辞职，蔡元培说：“我不得不然。当北京学生示威运动之后，即有人频频来告，谓政府方面之观察，于四日之举，全在于蔡，蔡某不去，难犹未已。于是有焚烧大学、暗杀校长之计划。我虽闻之，犹不以为意也。八日午后，有一平日素有交谊、而与政府接近之人又致一警告，谓：君何以尚不出京！岂不闻焚烧大学、暗杀校长等消息乎？我曰：诚闻之，然我以为此等不过反对党恫吓之词，可置不理也。其人曰：不然，君不去，将大不利于学生。在政府方面，以为君一去，则学生实无能为，故此时以去君为第一义。君不闻此案已送检察厅，明日即将传讯乎？彼等决定，如君不去，则将严办此等学生，以陷君于极痛心之境，终不能不去。如君早去，则彼等料学生当无能为，将表示宽大之意敷衍之，或者不复追究也。我闻此语大有理。好在辞呈早已预备，故即于是晚分头送去，而明晨速即离校，以保全此等无辜之学生。我尚有一消息适忘告君。八日午后，尚有见告政府已决定更换北京大学校长，继任者为马君其昶。我想再不辞职，倘政府迫不及待，先下一免职令，我一人之不体面犹为小事，而学生或不免起一骚动。我之急于提出辞呈，此亦一旁因也。今我既自行辞职，而继任者又为年高德劭之马君，学生又何所歉然，而必起骚动乎。我之此去，一面保全学生，一面又不令政府为难，如此始可保全大学，在我可谓心安理得矣。”
如果说报纸上的文字难免失真，蔡元培于5月10日写给学生的公开信则字字出自肺腑：“仆深信诸君本月四日之举，纯出于爱国之热诚。仆亦国民之一，岂有不满于诸君之理。唯在校言校，为国立大学校长者，当然引咎辞职。仆所以不于五日提出辞呈者，以有少数学生被拘警署，不得不立于校长之地位，以为之尽力也。今幸得教育总长、警察总监之主持，及他校校长之援助，被拘诸生，均经保释，仆所能尽之责，止于此矣。如不辞职，更待何时？至一面提出辞呈，一面出京，且不以行踪告人者，所以避挽留之虚套，而促继任者之早于发表，无他意也。北京大学之教授会，已有成效，教务处亦已组成，校长一人之去留，决无妨于校务，唯恐诸君或不见谅，以为仆之去职，有不满于诸君之意，故特在途中，匆促书此，以求谅于诸君。”从这封信，我们不难看出，蔡元培勇于负责，颇有大局观和全局观，他悄然离京，是为了事态能尽快得到缓和，使各方趋于冷静，也是对北洋军阀发出抗议，表明其不合作的严正立场。
时隔多年，蔡元培作回忆文章《我在北京大学的经历》，把他当年辞职的原因做了更清晰的梳理：“……但被拘的虽已保释，而学生尚抱再接再厉的决心，政府亦且持不做不休的态度。都中宣传政府将明令免我职而以马其昶君任北大校长，我恐若因此增加学生对于政府的纠纷，我个人且将有运动学生保持地位之嫌疑，不可以不速去。”蔡元培的苦衷由此可见分明。个人的名利得失皆服从于大局的需要，这就是蔡先生的一贯作风。
为了挽留蔡元培，教育界极为齐心，不仅北大八教授去教育部请愿，而且北京各高校校长提出总辞职，连教育部长傅增湘也挂冠而去。军阀固然强悍野蛮，眼下见势不妙，只得让步。总统徐世昌老奸巨猾，但众怒难犯，他智穷力绌，别无良策，赶紧下令慰留蔡元培。然而蔡元培去意甚决，他于6月15日发表声明，措辞激烈：一、北京大学校长是简任职，是半官僚性质的，所以他绝对不能再做政府任命的校长；二、思想自由，是世界大学的通例，但北京大学却被强权干涉，所以他绝对不能再做不自由的大学校长；三、北京是个臭虫窠，无论何等高尚的事业，一到北京，便都染了点臭虫的气味，所以他绝对不能再到北京的学校任校长。一篇宣言，三个“绝对”，要让蔡元培回心转意，难度就大了。
当年，在北大，有几只著名的“兔子”，蔡元培，陈独秀，胡适，刘半农，四人都属兔，被人称为“兔子党”。完全可以这么推论，假若陈独秀、胡适先生只有《新青年》这个作战的堡垒，缺少北大这个讲学的营盘，没有北大教授这个堂堂正正的身份，新文化运动就不可能具有高屋建瓴之势，不可能收获摧枯拉朽之功。假若蔡元培不崇尚法国大革命的精神，不主张学术自由，不倡导“读书不忘爱国”，五四运动就不会轰轰烈烈地开展起来。这个推论可算有理有据。
蔡元培颇有先见之明，不愧为大智者，从一开始，他就对学生运动的后果忧心忡忡。蒋梦麟在回忆录《西潮·新潮》中写道：“他从来无意鼓励学生闹学潮，但是学生们示威游行，反对接受凡尔赛和约中有关山东问题的条款，那是出乎爱国热情，实在无可厚非。至于北京大学，他认为今后将不容易维持纪律，因为学生们很可能为胜利而陶醉。他们既然尝到权力的滋味，以后他们的欲望恐怕难以满足了。”
五四运动后，北大学生对于政治过分热心，对于权力愈益迷恋，蔡元培针对这一不良苗头，倡导“救国不忘读书”，予以矫正。他不赞成二十岁以下的学生走上街头参与政治活动，不喜欢在大学校园里政治气息浓过学术氛围。然而五四运动之后，北大学生身上的政治标签日益彰显，最终完全走到了蔡元培愿望的反面去，他对此也无可奈何。
五四运动促使中国人解放了被缚的普罗米修斯，也诱使中国人开启了潘多拉匣子（古希腊神话中的魔匣，善恶俱在其中）。是非功罪，迄今争议不休，尚无定论。只有一点是确定无疑的，蔡元培领导的北大成为了中国学术界的重镇，也成为了国共两党的人才基地。
1920年4月，蔡元培在《新青年》上发表《洪水与猛兽》一文，指出洪水（新思潮）自有洪水的好处，就看谁能疏导它；猛兽（军阀）自有猛兽的可怕，就看谁能驯服它。这篇短文只有六百余字，摆事实，讲道理，令人信服。蔡先生巧妙地将了保守派一军：
二千二百年前，中国有个哲学家孟轲，他说国家的历史常是“一乱一治”的。他说第一次大乱是四千二百年前的洪水，第二次大乱是三千年前的猛兽，后来说到他那时候的大乱，是杨朱、墨翟的学说。他又把自己的距杨、墨比较禹的抑洪水、周公的驱猛兽。所以崇奉他的人，就说杨、墨之害，甚于洪水猛兽。后来一个学者，要是攻击别种学说，总是袭用“甚于洪水猛兽”这句话。譬如唐、宋儒家，攻击佛、老，用他；清朝程朱派，攻击陆王派，也用他；现在旧派攻击新派，也用他。
我以为用洪水来比新思潮，很有几分相像。他的来势很勇猛，把旧日的习惯冲破了，总有一部分的人感受苦痛；仿佛水源太旺，旧有的河槽，不能容受他，就泛滥岸上，把田庐都扫荡了。对付洪水，要是如鲧的用湮法，便愈湮愈决，不可收拾。所以禹改用导法，这些水归了江河，不但无害，反有灌溉之利了。对付新思潮，也要舍湮法用导法，让他自由发展，定是有利无害的。孟氏称“禹之治水，行其所无事”，这正是旧派对付新派的好方法。
至于猛兽，恰好作军阀的写照。孟氏引公明仪的话：“庖有肥肉，厩有肥马，民有饥色，野有饿殍，此率兽而食人也。”
现在军阀的要人，都有几百万几千万的家产，奢侈的了不得，别种好好作工的人，穷的饿死；这不是率兽食人的样子么？现在天津、北京的军人，受了要人的指使，乱打爱国的青年，岂不明明是猛兽的派头么？
所以中国现在的状况，可算是洪水与猛兽竞争。要是有人能把猛兽驯服了，来帮同疏导洪水，那中国就立刻太平了。
在乱世，洪水不易疏导，猛兽也不易驯服，洪水泛滥，猛兽食人，总归是常态，太平的愿景不易成为现实。
1923年初，为抗议北洋军阀政府任命“早已见恶于国人”的政客彭允彝为教育总长，蔡元培发表《不合作宣言》，随即辞去北大校长一职，他在辞呈中剖白心迹：“元培目击时艰，痛心于政治清明之无望，不忍为同流合污之苟安，万不忍于此种教育当局之下支持教育残局，以招国人与天良之谴责！”这次辞职，不同于上次，蔡元培确实去意已决。同年7月，他携新婚妻子周峻前往欧洲旅行和考察。1926年6月，蔡元培回国后不久，即在上海致电国务院，永久辞去北大校长一辞。翌年，国民政府成立，蔡元培出任大学院院长，其北大校长的名义才正式取消，他与北大的十年半缘分至此完结。
可以这么说：蔡元培成就了北大，使之成为名副其实的最高学府；北大也成就了蔡元培，使之成为德高望重的教育领袖。二者双赢，相得益彰。