刚回到国内的罗家伦，一度担任过东南大学的史学教授。后来，却卷入了民国政治，曾担任过蒋介石的政治秘书、北伐军战地动员委员会文化教育方面的负责人，算得上是一个北伐功臣。
1928年，蒋介石北伐成功。于是，新组建的蒋介石南京政府，为了标榜自己推崇大学教育的诚意，一度推行大学院制度，所请的第一任院长便是罗家伦的恩师蔡元培先生。蔡先生根据自己对弟子罗家伦的了解——当时，罗家伦虽已投身政治，但是他的本性，却仍属于宁愿为知识、理想、自由而殉道的一类文人，政治于罗家伦的气质未必合适——推荐罗家伦为清华大学校长的人选。1928年8月29日，由南京政府的外交部部长王正廷正式签署了罗家伦为清华大学校长的任命书。后来，有人羡慕地说：像罗家伦那样31岁即出任一所名牌大学校长的际遇，在中外的现代教育史上，都是难得的。
实际上，罗家伦在清华园执掌校长大印的时间并不长，从1928年8月至1930年5月间，大约不过20个月的时间。可是罗家伦对于清华大学的发展却是开拓型的。罗家伦在1928年9月18日的清华大礼堂宣誓就职大会上，即以“学术独立与新清华”为办学宗旨，提出了清华大学的“廉洁化、学术化、平民化、纪律化”四项办学指标。如此，清华能把握自1928年至1937年的十年民国黄金建设时期的机遇，从最初的一个半旧半新的学堂，一跃而为一个巍巍然屹立于世界各大学校的现代化名牌大学，除了周诒春、曹云祥诸位前校长的奠基性工作，罗家伦具有一个承前启后的相当重要的作用。
罗家伦走马上任伊始，仅带了在东南大学任教时自己所欣赏的郭廷以、戈定邦、唐培经三个学生，以及中央党务学校的马星野、唐心一两位学生。这五人只能在未来的校长室做秘书，承担一些具体的事务工作。罗家伦真正得力的哼哈二将，却是请来当年北大时的同窗好友杨振声与冯友兰，分别出任教务长与秘书长的重要职务。罗家伦在就职时，虽然曾口口声声向清华的师大们说明自己的自由主义倾向，但之前的罗家伦在做蒋介石的秘书之时，也曾经一再表白自己的“国民党忠实党员”的身份；加上清华的两个重要位子——教务长与秘书长，罗家伦一上手便礼请了两位北大派的干将来掌握，因此罗家伦治校伊始，便有清华的教授与学生，在暗中失声惊呼了一声：呀，这国民党与北大的势力，要联手来侵占清华园了。
不过，不管当时的人们，对于罗家伦的治理清华存在过怎样的议论，现代研究民国教育史的专家们，则基本上肯定了罗家伦在清华期间的四大作为。
第一大作为，便是他一力促成了“国立清华大学”的新生。
我们知道，清华的起源，来自于“辛丑条约”之后的庚子赔款。1911年，美国人在促成“清华学堂”的成立之时，并没有多大的雄心，他们只是想办起一所留美的预备学校，资助中国学生赴美留学，以便在中国的知识界培养一点亲美的种子。因此，它起步时“殖民”与“买办”的气息是颇为浓郁的。为了改变这种过分依赖美国的状况，清华第二任的校长周诒春，即已提出了将清华提升为正规大学的规划。但是，一直到曹云祥校长治校之时，清华才于1925年成立大学部。当时，曹校长将清华灵活地划分为游美预备部、大学部和国学研究院三个学制。但是清华想要进入国立正规大学的行列，仍然困难重重。
1928年，罗家伦走马上任时，蒋介石顾忌美国的感受，在发给罗家伦的“清华大学校长”委任书时，仍然不敢冠上“国立”二字。罗家伦大为不满。他请民国的大书法家谭延闿先生，为自己写了“国立清华大学”六个颜体大字，然后，请来当年北平的所有新闻媒体，集体观摩“国立清华大学”的学校招牌之揭幕仪式。罗家伦给蒋介石通电话：清华原有的学校招牌太旧了，卑职换了一块新的，请总司令指示！蒋介石忖度罗家伦是敢说敢做敢承揽的一类书生，便不再多讲，便责成有关方面理顺关系，从速将清华园纳入国立大学的体系。终于，在罗家伦手上，实现了数代清华校长的梦想。为此，冯友兰颇有感慨地说：国立清华大学的问世，实为中国现代教育史上的一座里程碑。
第二大作为，罗家伦强硬地从贪官污吏手中夺回了“清华基金”。
前面我们已经讲过，清华学堂的经济开支是靠“庚子赔款”支撑起来的。当年，美国为确保这项资金专款专用，曾经成立了一个由美国公使和中国外交部共同负责的“清华基金保管委员会”。后来，这笔资金的实际使用权，却落在了少数的外交部实权人士手中，学校董事会也对该项基金负有一定的监督责任。
不久前，罗家伦在履行战地政务委员责任时，曾经于偶然中看到过清华基金账目报告，他发现有一笔外交部的股票，正栏填的却是当时外交次长陈篆的名字，仅此一项，陈篆即堂而皇之地将20万“清华基金”转入了私人的账户……如此，罗家伦上任伊始，即在给学校董事会的报告中，猛烈抨击外交部的少数官员投机倒把、大肆以“清华基金”中饱私囊。例如，罗家伦冷颜疾言地说：“清华基金向来是一个哑谜，很少人能够明白其实情。”“大家知道清华有800万基金，但追问实际，就不免使人气短，必须彻底清查，严究以前的损失。”罗家伦忘了，学校董事会对于“清华基金”也是负有监督之权的。罗家伦指责“清华基金”管理混乱，实际上也是在指责学校董事会的监督缺失。学校董事会决定给这位年轻的校长一点颜色看看。于是，1929年4月，学校董事会全盘否决了罗家伦提出的学校发展规划和相关预算。
罗家伦立即以辞职为反击手段。罗家伦的态度很坚决：这劳什子破校长，一个媳妇，有教育部、外交部、清华董事会三个婆婆管着；同一件事情，大婆婆喊你往东，二婆婆喊你向西，小婆婆则让你立正。这样的校长，不让人家整出神经病来才怪呢。咱罗爷不伺候了，谁愿意伺候，民国政府请谁去干！
罗家伦摆出辞职的姿态，并不是真心想走，而是想把“清华基金”的控制权拿回教育线，以及教育部对之的专辖权。清华师生莫不认为罗校长在做一件大好事，便发动声势浩大的示威活动来声援罗家伦。罗家伦自己的反击手段也是澎湃有声。他回到上海的家中，即向各大报刊披露了权威会计师事务所对于“清华基金”的查账结果，其舞弊、贪污和流失的严重情况，引起了社会各界的震惊。美国驻华公使从罗家伦处知悉了“清华基金”的猫腻，也向南京政府表示不满。于是，罗家伦说服民国大佬戴季陶、陈果夫二人联名提案，又事先取得了蒋介石、谭组庵、孙科三位政府大员的支持，终于将清华基金的主权拿回了清华，而清华今后的管理权也专辖于教育部。如此，因教育、外交两部共管而衍生出来的清华董事会也失去了存在的基础。此役罗家伦赢得痛快淋漓！
此后，“清华基金”为了避免由校长支配所带来的误解，实际上是交由教育部辖下一个叫“中华教育文化基金董事会”的组织代为管理的。该董事会的第一任正、副董事长为蔡元培、蒋梦麟，操作具体事务的则为胡适、任鸿隽等专家学者。以后历届中华教育文化基金董事会之成员组成，均大抵遵循罗家伦时期由专家学者视事的组织原则，这是清华后来能贯彻“教授治校”之理念的，一个相当重要的经济基础。
第三大作为，罗家伦及时为清华更新了一大批教育设施。
“清华基金”拿回清华之后，中华教育文化基金董事会的代管团队，俱是罗家伦心意相通的同道中人。花钱已不是一个问题，问题是应该怎样花。于是，罗家伦起草了一份《整理校务经过及计划》的报告，提出了兴建图书馆、生物馆、学生宿舍和气象台等六大基础工程。罗家伦说：“大学里知识的发源地，就在图书馆和实验室里。”为此，罗家伦做出硬性规定，以后学校的年度开支预算中，必须将图书仪器的添置费增加到20%以上。清华图书馆的图书结构起先是偏重于西文书册的，不久即跨进到中西图书并藏，后来更发展成为跟北大图书馆、国立北平图书馆鼎足而立的三大图书馆之一。国立清华大学能从罗家伦的改制至抗战全面爆发的短短十年间，培养出钱钟书、费孝通、王力、季羡林、曹禺、王淦昌、钱伟长、钱三强、何泽慧、王大珩、赵九章等一大批大师级的人物，应该与罗家伦当初重视人文环境配套建设有很大的关联。
第四大作为，是罗家伦对学术独立理念的深化。
学术化与学术独立化，清华受欧美学风影响，在周诒春、曹云祥二任校长手中即已打下了一定的基础。罗家伦到来后，使学术独立的思想更加深入人心。这方面的内容说起来不过是一两句话，做起事情来就繁密而复杂了。
罗家伦刚到清华时发现一个奇怪的现象：后勤不教书的职员之经济待遇，普遍好过一线教书育人的专家教授。罗家伦感到十分震惊。这应该是过去清华的辖治长期归口于外交部所带来的弊端。外交部的一批老官僚，一时失意，无其他地方可去，便纷纷看中了清华这个避风港可以养老。这些人的来头大，在外交部的关系也还有，所以在工资与生活福利方面也就好过在一线做实事的专家教授。人家一般的高校，校长致辞最通常的称谓是“教职员”，可是，北平的学界嘲笑清华的结构是“职教员”。当初的清华，为贯彻教授治校的理念，曾经在校长的权力之外，设立“评议会”、“教授会”两个教职员组织，以制衡校长的滥权。另外，还有一个“学生联合会”的组织，恼起来的时候，同样是校长与教授们都惹不起。民国时期的大学，学生是“皇帝”，教授是“神仙”，校长是“走狗”，校长是为教授与学生们服务的。但是，在罗家伦莅临清华的时期，“清华最高机关的评议会及各委员会，其中主要成员，大多为各部职员，而非各系教授”，这就极大地挫伤了广大教授治校的积极性。
罗家伦的措施，便是想把颠倒了的本末重新扶回来。首先他精减后勤闲杂人员，将职员数由95人减至72人，一下子便砍去了23个名额。当时，清华教授的待遇，比北平的北大、燕京等各大高校都要低，罗家伦承诺经济待遇上要向北大看齐，将正教授的薪俸上浮到了360元至500元，其他各级别教师的待遇均有一定的提高。教授们高兴地说：来了罗校长，我们也可以将原先的“职教员”更正回“教职员”了。
不过，也不是所有的教授们都可以开心地笑出声来。罗家伦说：“要大学好，必先要师资好。”又表示今后在选聘教授时，坚决“不把任何一个教授地位做人情，也决不以我自己的好恶来定去取”。所以在罗家伦手下想要拿高薪的教授们，手中没有一点教书育人的真本事，还真的混不过去呢！因此，在罗家伦续聘的专家教授中，原有55名教授，因暮气与惰性，被辞去37人。罗家伦从国内各大高校广泛招揽了一批充满朝气的年轻人，充实教授队伍，像当年的萨本栋、周培源、杨武之、朱自清、俞平伯、叶公超等人，都是30岁上下的青壮年。当然，对于原先清华的文化重镇，罗家伦始终是执礼甚恭的，诸如陈寅恪、赵元任、金岳霖、陈达这样超一流的专家学者，罗家伦则亲自登门恳请留任。
罗家伦用人一个最大的特点便是唯才是举，没有什么个人的偏执心，也不理会民国学界的小团体小派别。当时，在清华执教外文系的吴宓，“五四”新文化大辩论时，吴宓曾经将罗家伦骂了一个佛祖升天！这次罗家伦来到清华做校长，吴宓心里哪里还能淡定，便请赵元任代为探一探罗家伦的口风。罗家伦哈哈而笑：“吴宓有什么可慌的？当初我们争的是文言和白话，现在他教的是英国文学，根本不是同一码事情。”后来，吴宓果然是有惊无险，每月的薪水还提升了40元。当日的吴宓日记中暗喜：“宓之月薪，已内定增为三百四十元。宓向不持与人比较或虚空立论之态度，自家能增四十元，亦佳事也。”
但是，一些滥竽充数的洋教头就没有吴宓那样的好运气了。清华园中有一个著名的饭桶教授，是来自美国的史密斯。这人名誉上是英文、拉丁文教授，但是上课时从来没有什么理义阐述，他的拿手绝活便是一堂课叫这个学生读一段课文，等到一段课文快念完了，又让另一个学生接下去再念，如此反反复复，生命不止，念课本不止。全体学生对他厌烦死了。但是，这个人在美国公使馆有人事关系，前面的数任校长均无奈何于他。罗家伦做过革命军中的少将，他可不能容忍这种事情，一拍桌子，立即请史密斯走人，同时被出局的外教有6人。果然，罗家伦这边刚动了史密斯，那边便惊动了美国公使出面为他说情。罗家伦很客气，说什么“公使先生也不想让外界误以为，史密斯先生即代表了当前美国的学术水平”之类的话语，这令美国公使赧然，不能再说出求情的话。
罗家伦的求才若渴还表现在对历史系主任的聘用一事。当时，罗家伦已经礼请来了自己的老师朱希祖先生。朱先生资格老，中国史又做得精，大家都认为由朱希祖来坐系主任这把交椅名至实归。可是，罗家伦却另有盘算，觉得让自己的老师朱希祖来领导历史系，朱先生的世界史是一块短板，这就令清华的历史系很难做成国际知名的品牌。于是，罗家伦想到了学贯中西的蒋廷黻先生。当时，蒋廷黻博士已经接下了天津南开大学的聘书，罗家伦便跑到蒋廷黻在天津的家中去恳请。罗家伦认真地跟蒋廷黻说：“如果你不答应到清华来帮我的忙，我就坐在你家不走。”罗家伦说到做到，他果然在蒋家“磨叽”了蒋廷黻一个晚上。蒋廷黻挺不住，后来果然答应了罗家伦的要求。
其实，在制度的建设上，罗家伦还做过一些鲜为人知的尝试。例如，他整理原有学系，关闭一些不实用的学系，强化理学院；大幅度地扩大招生，以培养更多的国家人才；改良学术刊物，促进学术交流。当年，清华园是不招收女生的。罗家伦讲，要破了这个陋俗。可是，如果要把这个问题提交“评议会”、“教授会”磋商，则不知要费用多少个春夏秋冬。罗家伦的处理很明快，自己提笔在招生简章上加了“男女兼收”四个字，问题就解决了。他后来特招同样数学吃了鹅蛋的钱锺书，则明显地存了一分惺惺相惜的英雄意气了。
当然，罗家伦在清华园也走过麦城。谈到罗家伦的四项治校原则，冯友兰肯定地讲：“学术化的成功最为显著，军事化的失败最为彻底。”其中，冯友兰所谓的军事化，便是罗家伦在德国柏林留学时，从那里的大中学学来的，德国人试图用它来训练一种一体化的国民素质。罗家伦将它搬到清华园之后，将全校学生分成了四个方队，各设方队长一名；要求学生一律穿制服，早晚点名，按点作息；无故缺席要记过，三次小过算一次大过，累计三次大过即开除。起先学生的感觉还好，大家相互调侃，可以改掉睡懒觉的坏习惯。后来到了冬天，能够早晨六点起来上操的学生就寥寥无几了。冬季微雨的一天，只有罗家伦与教务长杨振声两人穿了制服马靴，精神抖擞地站在训练场上。同学们都躲在寝室中，往窗玻璃上呵着白气，取笑操场上的罗家伦、杨振声像两只猴儿。这早操一项，在学生们的“集体抵制”下，最后消失得无影无踪。这件事情，令罗家伦跟学生会的关系一度相当吃紧，这后来也成了罗家伦黯然离开清华的一个诱因。
想当初，罗家伦挟“国民革命”之余威，羽扇纶巾，雄姿焕发，以少将军衔入主清华园，他在清华园中开局的几步棋走得都不算坏。他曾经有在清华园中，好好地做一番事情的大梦想。
只是，后来，时局有了很大的变动。1930年1月，阎锡山公开与蒋介石决裂。5月1日，中原大战正式拉开帷幕。阎锡山出重兵阵列于华北。以当时的情形而言，罗家伦属于蒋介石江浙一派国民党成员，他是非走不可的。当时，像蒋介石、李宗仁、阎锡山等一些国民党的政治强人，都有附会风雅的怪脾气。仗要打，血要流，人要杀，政治上的肮脏照旧，却每个军政大佬都喜欢摆出重视教育的姿态，或许当时的政治强人们都认为这是名垂青史的好机会。阎锡山仗打得稀松平常，却也对入主清华园兴趣盎然。他推荐山西籍的乔万选为清华大学校长的新人选，这才在暗中发起了驱逐罗家伦的学生运动。
后来，罗家伦在总结自己入主清华园的20个月校长生涯时，曾经有过这样一句话：“我不知道什么顾忌，人家对我的仇恨我不管，我为的是清华的前途，学术的前途。”罗家伦不论在什么环境下，做什么事情，总是充满信心的。于是，后人在总结罗家伦的失败时，便又有人讲：罗家伦毕竟不是一个完人，他那时才30多岁，年轻好胜，好展现自己的才华，思想激进，对于现实中萎靡的状况毫不容情，所以他在无形之中，就得罪了相当一部分的人。再加上他的国民党政治背景，而且他在办几件大事之时，也切实利用了自己在国民党上层的关系，这就令标榜自由与独立的清华人，颇有点看不上罗家伦。此后，罗家伦试图破除清华人的“小群意识”，他引进了一批有北大背景的教授，这也触犯了当年某些清华教授中，“清华人管清华”的心理底线。所以，当时在清华学生会的压力之下，罗家伦摆出了走的姿势，教授会却没有站出来挽留。如此，罗家伦在这样一种复杂的政治、文化、学术环境与利害冲突的情景下，除了选择娜拉式的出走明志，已经没有其他的空间了。
关于罗家伦在清华园经营20个月所取得的成绩，有两个人的评价是颇为中肯的。
一个是罗家伦的老朋友、国学大师陈寅恪，说到罗家伦的出色之处，他也不为亲者讳：“志希在清华，把清华正式地成为一座国立大学，功德是很高的。”台湾的苏云峰教授研究清华校史，所取得的成就至今无人能及。他认为在清华的百年发展史上，周诒春、曹云祥、罗家伦、梅贻琦四位校长，是值得让后人景仰的仁者。周诒春、曹云祥拓荒，罗家伦拔刺，无为而治的梅贻琦校长则开创了清华园的“杏花疏影里，吹笛到天明”的一个风流时代。因此，苏云峰击掌赞许道：“现在很多人只知道梅贻琦是清华大学的功臣，而不知道罗家伦的奋斗成果与经验，实为梅氏的成就，铺下了一条康庄大道。”