大约在1916年底到1917年初的某一日，汤尔和对沈尹默说：“我告诉你一件事。你看沈步洲（时任北洋政府教育部专门教育司司长，北京大学之主管上司）这个人荒唐不荒唐，他要蔡（元培）先生来当北京大学校长。你看北大还能办吗？内部乱糟糟，简直无从办起。”沈尹默答曰：“你以为胡次山（亦名珊，字仁源，此时为北大代理校长）在办学校吗？他是在敷衍，如果蔡先生来办，我看没有什么不可以。”汤说：“你的话和夏浮筠一样，他也认为蔡先生可以来办北大，既然你们都认为如此，那我明天就去和蔡先生讲，要他同意来办北大。”此后，汤尔和曾面见蔡元培，劝其主持北大。1917年1月4日，蔡元培到北大上任。蔡元培决定出任北大校长或有多种因素，然汤尔和向蔡转陈夏、沈等人意见，或是起到了积极作用。
蔡元培到北大上任前，曾访问了汤尔和，以了解北大情况。汤向蔡建议：“文科预科的情形，可问沈尹默；理工科的情形，可问夏浮筠君。”于是，蔡元培1月4日上任当日便来到北大看望沈尹默。沈尹默随后又回访蔡氏，并向蔡提出改革北大的几点建议。沈尹默在《我和北大》一文中写到：“汤尔和对我谈蔡元培到北大当校长的时候，我和蔡先生尚无一面之雅。尔和对我谈话以后大约第三天，我在译学馆上课（北大预科当时不在马神庙，在北河沿译学馆旧址），忽然门房来通知我：有一位蔡元培先生来看您。我大吃一惊，一则是素昧平生，颇觉意外，二则是心中不免思索：社会上已轰传蔡先生将任北京大学校长，蔡先生已是中年以上的人了，阅历、世故应是很深，可这次不大世故，既然要看我，大可到我家里，何必到北大预科这个公开场所来呢。蔡先生和我见面后，谈及尔和介绍，特来拜访。略谈片刻辞去，目的在于相识一下。蔡先生出任北大校长后，在我心中就有一个念头，北京大学应当办好，蔡先生负重名，我们应当帮助他把北大办好。有一天，我去看蔡先生，和他作了一次长谈。我说：蔡先生，这次北洋政府借您的招牌来办北大。到了有一天，您的主张和政府有所不同，他马上就会赶走您。所以，您现在对北大应进行改革，但有一点要注意，凡改革一件事，要拿得稳，不然的话，一个反复，比现在更坏。蔡说：你的话对，你的意见是怎么办呢？我说：我建议您向政府提出三点要求：第一，北大经费要有保障；第二，北大的章程上规定教师组织评议会，而教育部始终不许成立。中国有句古话：百足之虫，死而不僵，与其集大权于一身，不如把大权交给教授，教授治校，这样，将来即使您走了，学校不也会乱。因此我主张您力争根据章程，成立评议会；第三，规定每隔一定年限，派教员和学生到外国留学。我的建议，以成立评议会为最重要，蔡先生深以为然，完全采纳，向当局提出，果然达到目的。”周作人在《三沈二马》一文中写到：“沈尹默与马幼渔很早就进了北大，还在蔡孑民长北大之前，所以资格较老，势力也比较的大。实际上两个人有些不同，马君年纪要大几岁，人却很是老实，容易发脾气，沈君则更沉着，有思虑，因此虽凡事退后，实在却很起带头作用。朋友们送他一个徽号叫鬼谷子，他也便欣然承受。”
1916年11月26日，为筹谋群益书社和亚东书社合并及招股等事宜，陈独秀与汪原放从上海启程，28日到达北京，下榻于前门中西旅馆。大约在12月上旬，沈尹默从琉璃厂经过，忽遇陈独秀，故友重逢，甚为欣喜。沈问陈：“你什么时候来的？”陈答：“我在上海办《新青年》杂志，又和东亚图书馆汪原放合编一部辞典，到北京募款来的。”沈尹默问了陈的住址后，要他暂时不要返沪，过天去拜访。沈尹默回北大后将陈独秀来京一事告诉了汤尔和。12月中旬，蔡元培抵京后不久，在向汤尔和了解北大的情况时，汤尔和即将陈独秀来京一事及请陈独秀来北大的想法告诉了蔡元培。蔡元培回忆到：“我到京后，先访医专校长汤尔和君，问北大情形。他说：文科预科的情形。可问沈尹默君；理工科的情形，可问夏浮筠君。汤君又说：文科学长如未定。可请陈仲甫君；陈君现改名独秀，主编《新青年》杂志，确可为青年的指导者。因取《新青年》十余本示我。我对于陈君，本来有一种不忘的印象，就是我与刘申叔君同在《警钟日报》服务时，刘君语我：有一种在芜湖发行之白话报，发起的若干人，都因困苦及危险而散去了，陈仲甫一个人又支持了好几个月。现在听汤君的话，又翻阅了《新青年》，决意聘他。从汤君处探知陈君寓在前门外一旅馆，我即往访，与之订定；于是陈君来北大任文科学长，而夏君原任理科学长，沈君亦原任教授，一仍旧贯；乃相与商定整顿北大的办法，次第执行。”
从目前的材料来看，从蔡元培在汤尔和处得知陈独秀在北京，到蔡元培亲自到旅馆拜访陈独秀，中间至少相隔几日。在此期间，汤尔和向沈尹默打听陈独秀的具体住址，并请沈尹默向陈转告蔡元培有意请他来北大之意（请沈尹默向陈言说，亦有可能为蔡元培之意）。于是，沈尹默即找陈独秀言及此事，征其同意。不料，陈独秀却以要回上海办《新青年》为由而拒绝。蔡元培得知此情况后，即表示可让陈独秀将《新青年》杂志搬到北京办。并于12月26日晨首次登门拜访陈独秀。而且一连几日到访聚谈，据汪原放回忆，蔡元培差不多天天要来看陈独秀，有时来得很早，陈独秀还没起来，他就招呼茶房不要叫醒，只要拿个凳子给他坐在门口等候就即可，实见蔡邀陈之情恳切。值得一提的是，蔡元培初晤陈独秀之日，教育部即正式任命蔡元培为北大校长，此日下午蔡元培应信教自由会之邀在中央公园演讲，陈独秀亦随行，并作记录，后以《蔡孑民先生在信教自由会演说》为题，首次发表蔡之文章于《新青年》第2卷第5号。陈独秀在蔡元培之感召下，遂改变初衷，欣然应允了蔡之邀请。1917年1月11日，蔡元培以北大名义，函请教育部任命陈独秀为北大文科学长。13日，教育部长范源廉令派陈独秀为北大文科学长。15日，蔡元培以北京大学校长名义发布布告：“本校文科学长夏锡祺已辞职，兹奉部令派陈独秀为本校文科学长。”
陈独秀受聘为北大文科学长后，并将《新青年》移至北京编辑出版。该杂志之正式在北京编辑出版应自第3卷开始。第3卷的新作者主要有章士钊、钱玄同、蔡元培、恽代英、毛泽东等。1918年出版了第4卷，主要作者有周作人、沈尹默、沈兼士、陈大齐、鲁迅、林损、王星拱、俞平伯、傅斯年、罗家伦、林语堂等。至此之后，《新青年》迅即成为北大革新力量的言论阵地，而北大的情况亦如蔡元培所说：“旧教员中如沈尹默、沈兼士、钱玄同诸君，本已启革新的端绪。自陈独秀君来任学长，胡适之、刘半农、周豫才、周岂明来任教员，而文学革命，思想自由的风气遂大流行。”一刊一校为中心的新文化倡导力量基本形成。在此期间，沈尹默作为该杂志的编辑之一，不仅参加了许多工作，同时还从1918年至1920年在《新青年》第4、5、6卷上发表了18首白话诗，特别是1918年1月出版的《新青年》第4卷第1号上所发表的胡适、刘半农和沈尹默的9首白话诗，被称之为中国新诗的开山之作，三位作者亦被文坛称之为初期白话诗的三闯将。而沈尹默所发表的《人力车夫》、《鸽子》和《月夜》3首诗作，其影响甚至超过了胡适的诗作。在其后出版的《新诗年选》中，有人曾评论说：“胡适的所谓新诗，当时还不成什么体裁……第一首散文诗，而具备新诗美德的是沈尹默的《月夜》。”
沈尹默在北大期间曾任文科预科教授（1917年）、文科国文教授（1917年）、国文教授会主任（1917年）、编译会评议员（1917年）、评议会委员（1917年）、进德会会员（1918年）、国史编纂处成员（1919年）、学余俱乐部成员（1919年）、中国文学教授会主任（1919年）等。蔡元培主持北大后，曾委托马衡、沈尹默、刘三等组建北大书法研究会，倡导书法艺术。如学者所论：“在大学中成立书法社团，又时值蔡元培提倡美育代宗教，它绝对可以表明，书法开始进入新文化教育的层面，当然它也为书法走向现代化的理论研究与教育研究提供了可能性。”当年北大第一、二、三院牌匾即出自沈尹默手笔。自1917年起，沈尹默与蔡元培等人开始筹建孔德学校。美术家王子云曾在该校任美术教师，物理学家钱三强、戏剧家吴祖光、作曲家吴祖强、话剧表演艺术家于是之以及知名人士陈香梅等，都曾是孔德学校的学生。
1919年5月4日爆发了学生爱国运动，5月5日北京各校罢课，要求严惩国贼，释放被捕学生。沈尹默积极支持学生运动，并为营救被捕学生与同仁一道多方周旋。5月7日，被捕的32名学生终于获释。5月9日，蔡元培在当局及其他种种压力下被迫离京，不知行踪。北大评议会决定派沈尹默、马裕藻、徐森玉等到杭州去找汤尔和（汤此时在杭），目的是迎蔡返京。沈尹默等人到杭州通过汤尔和见到蔡元培后，蔡答应可以返京，但暂时还难成行，此后，蒋梦麟做代理校长，而蔡元培却再未返回北大。在此期间由于各种原因，沈尹默遂有了离开北大的想法。是年6月11日，陈独秀、邓初、高一涵等人在新世界散发传单，陈独秀被北洋军警逮捕，邓初和高一涵脱险。陈被捕后被关押3个月，至年底释放。陈遂辞去北大文科学长。1920年，陈独秀回上海，《新青年》亦迁回上海。至此，沈尹默与陈独秀再未相见，与《新青年》之关系亦即结束。
有学者指出：“沈尹默对新文学、新文化理念上的支持，并不代表沈尹默即是绝对的新文学改革论者、抱持厚今非古观念的人物。反之，笔者以为沈尹默乃是新旧文化、文学冲突中的典型调和派文人，即以不薄今人爱古人的中庸观点。兼擅新、旧文学。”这实质上亦是沈尹默兼容精神及平和尚静的性格体现。他的性格决定着他的处世态度及文学与书法风格。在五四运动中，沈尹默即非激进派，又非保守派，他支持学生运动，营救被捕学生，但更多地发挥着有利于运动发展的协调作用。他的诗词风格亦是始终统一的，他精熟古典诗词，也偶作白话诗，而无论新诗、旧诗，风格神韵尚皆一以贯之。他的书法亦是如此，他推崇帖学，即使临习北碑，亦无霸悍之气，流露出含蓄中和的趣味。这都是他的个性特质和家学遗传带给他的精神气质和文化品格所致。
1921年，应蒋介石之请，孙中山为蒋母王氏题写“蒋母之墓”四字，汪兆铭撰碑文，沈尹默书丹并题盖。是年，经北大评议会批准，依照北大章程规定，沈尹默赴日本研修一年。翌年，沈尹默返回北京后，任北京女子师范大学教授。1924年，女子师范大学校长许寿裳被迫辞职，杨荫榆继任校长。杨极力反对新文化，主张复古，并将学生自治会干事数人开除。于是全校哗然，遂有坚拒杨荫榆之风潮爆发。次年5月27日，沈尹默与马裕藻、周树人、李泰菜、钱玄同、沈兼士、周作人等教员联名在《京报》发表《关于北京女子师范大学风潮宣言》，公开支持女师大学生的正义斗争。
1927年4月5日清明节时，北大一批教员同往海淀去找沈士远。同行的有北大教员的子女，李大钊之子李葆华也一起同行，大家在沈士远家住下。第二天，在城里的沈尹默得到李大钊被奉系军阀张作霖逮捕的消息，急忙打电话给沈士远，叫他马上把李葆华隐藏起来，不可让其外出，以免遇害。此后，李葆华在沈士远家住了两个星期。后因考虑到张作霖的侦缉队就在沈士远家附近，不甚安全，沈尹默就和周作人商量，决定把李葆华安置在八道湾周宅。4月28日，李大钊就义。翌日，报纸头条新闻报道李大钊、路友于等20人被害的情况，周作人见报大吃一惊，急忙和沈尹默商量，由沈尹默出面劝慰李葆华：“你令尊为主义而牺牲，本是预先有觉悟的……”并将李大钊遇害的情况告诉了李葆华。不久，沈尹默和周作人等人将李葆华改名为杨震，以孔德学校的名义将其送往日本留学。在40多年之后的“文革”之中，沈尹默曾对戴自中等人说：“守常是我的老朋友，曾在北大图书馆任主任，还教过经济学，又一起编过《新青年》，往来甚为密切。李葆华是守常的儿子，很早就参加革命，尝在孔德学校读书，孔德学校是我和蔡孑民、马幼渔、钱玄同诸人在1917年12月筹建的，蔡任校长，这所学校从小学到高中读10年，是培养北大教师子弟的学校，是我国第一所男女共读的学校，北大教员兼教这所学校的高中。在守常被捕后，我曾搭救过李葆华，后来，我又以孔德学校的名义把李葆华送往日本留学。”沈尹默的长女沈令融曾回忆与父亲在北京生活时所发生的一件事：“有一次，我有急事要出门，让保姆给我梳个流行的发式，保姆手忙脚乱没梳好，气得我对她大发了一顿脾气。此事正好被父亲回来看见了，他先把保姆安慰了一番，然后让我跟他走，出了大门，我问：去啊儿？他答：去孔德学校。我又问：叫车吗？他低低说了声：不。随后他就默默地走着，再没说话。来到孔德学校，父亲带我径直走到书库门前才站住脚。他指着放在书库里的木箱沉重地说：这是我的一个老友（即李大钊同志）的遗物，他为了老百姓的自由和平等，先走了一步，他用他的血，帮我想通了许多问题，但我没有想到在我家里还能发生这样的事情！子不教，父之过啊……他叹息着，让我站在李大钊同志留下的书籍前反省，他自己也陪着我站着，我偷偷看着父亲沉重的面容，终于认了错。”
1929年，在蔡元培、李石曾的推荐和河北省政府主席商震的邀请下，沈尹默出任河北省政府委员兼教育厅厅长。在此稍前与褚保权女士相识。此年，沈尹默将所作诗词辑为《秋明集》，分上下二册由北京书局出版。1930年前后。沈尹默又着重对米芾、智永、虞世南、褚遂良、王献之、王羲之诸家进行了系统研究，尤其对褚遂良诸帖用功颇深。在此阶段又购得米芾《草书七帖》、王献之《中秋帖》、王珣《伯远帖》、王羲之《丧乱帖》和《孔侍中帖》等墨迹影本，并时常博览故宫历代名迹，法书由是精进。诗词创作亦不断。然最费心耗时之河北教育事业，却举步惟艰。沈尹默在河北省教育厅长任内，依然秉承学者风范，不愿上捧下征。政府对教育之投入甚微，经费匮乏时，公务员薪金以九折发放。至1931年时，仅厅内经费即亏欠两万余元，幸得李石曾相助，终摆脱困窘。于是沈尹默也只好在1931年辞去厅长一职，重返北大任教。