戊戌政变挫阻了中国近代自上而下改革的通道，但梁启超并没有就此放弃变法图强的努力，他在痛定思痛之余，认为中国要改革，首先还是要从教育人民做起，补思想启蒙的课。因此，他到日本后，除参与组织保皇会，发动自立军起义外，把大部分的精力都用在办报上。
梁启超到日本后创办的第一份刊物是《清议报》。该报在旅日华商冯镜如、冯紫珊、林北泉的资助下，于12月23日在横滨正式出版，10天1期，每期40页。梁启超在《清议报》上宣传的内容，比在国内时有了很大的进步。他一方面在报刊上大力宣传民权理论，介绍各种西方资产阶级政治理论和社会学说，大胆批评中国人民在封建制度下形成的奴性、愚昧、好伪、自私、怯懦、好静等国民劣根性，号召人们树立冒险精神，树立独立和合群思想。在那篇著名的《少年中国说》一文中，梁启超以热情洋溢的语言，呼吁中国的年轻一代克服老大帝国的衰颓，努力创造一个青春活泼的少年中国。他的这一呼吁在当时思想界产生了强烈共鸣，从此之后，“少年中国”一词便被广泛用开了。
与此同时，梁启超对以慈禧太后为首的反动势力公开进行猛烈抨击。他痛斥慈禧太后、荣禄、刚毅等一批后党官僚是一伙狼狈为奸、祸国殃民的“逆后贼臣”；攻击慈禧太后垂帘听政，阻挠变法，卖官鬻爵，结党营私，使得中国的大好河山和4万万百姓“一并断送于其手”，宣称西太后把持的清政府完全是一个没有希望的“伪政府”。梁启超的这些言论吓得国内的慈禧太后和后党官僚胆战心惊。他们将梁启超看作是比孙中山更危险的革命分子，于是发布通缉令，以10万重金悬赏捉拿梁启超和康有为，并严禁国内人士阅读和贩卖梁启超的著作和所办刊物。
1901年12月，《清议报》因遭火灾停刊后，梁启超又于1902年2月创办《新民丛报》。《新民从报》每半月1期。梁启超之所以将刊物取名为“新民”，他的意思就是要用一套新的道德理想和价值观念，如权利义务思想、国家思想、生利思想、合群思想、尚武精神、进取冒险精神，以及自尊自重、自治自立、平等自由等观念来武装中国人的头脑，把中国封建社会下的臣民改造成一代适应时代需要的新的国民。
为实现这一目标，梁启超以前所未有的热情介绍西方的思想文化、历史地理。在1902年的一年里，梁启超发表专门介绍西方思想家学说的文章就有《亚里斯多德之政治学说》、《进化论革命者颉德之学说》、《法理学大家孟德斯鸠之学说》、《天演学初祖达尔文之学说及其传略》、《近世文明初祖二大家之学说》和《论泰西学术思想变迁之大势》等多篇。此外还有多篇西方人物传记、西方地理、西方小说。据不完全统计，《新民丛报》介绍的西方思想家、学者、科学家多达百人以上，所介绍的内容包括政治、经济、法律、哲学、历史、地理、文学、科学史等，几乎无所不有。例如古代希腊罗马的哲学，培根的方法论，笛卡儿的怀疑论，康德、黑格尔的哲学，达尔文的进化论，约翰·弥尔的自由论，波伦哈克和伯伦知理的国家学说，亚当·斯密与李嘉图的经济学说，圣西门与傅立叶的空想社会主义，直到马克思学说，梁启超都作过深浅不同、详略不等的介绍。梁启超还在报中开设“新知识之杂货店”、“绍介新著””、“海外汇报”、“海外奇谈”等栏目，专门介绍国外新知识、新书刊、新消息。在当时介绍西方思想文化的刊物中，梁启超创办的《新民丛报》独占鳌头。
在介绍引进西方思想文化的同时，梁启超还对中国传统旧学进行改造，提出学界革命、史界革命、文界革命等口号。在学术思想领域，梁启超主张学术民主，反对学术专制。他说：“使一学说独握人人良心之权，而他学说不为社会所容，若是者谓之学说之专制。苟专制矣，无论其学说之不良也，即极良焉，而亦阻学问进步之路。此征诸古今万国之历史而皆然者也。”他在《新民丛报》上连刊的《论中国学术思想变迁之大势》一文，洋洋7万余言，首次撇开封建纲常名教思想和儒家正统观念，打破学派门户之见，对先秦诸子学、佛学及清代学术思想的发展演变及长短得失作了概括的论述和客观的评价，并注意到学术思想的演变与社会发展的联系，以及各派学术之间的相互影响，乃至中外文化交流，成为中国近代学术史上的开山之作。胡适当时读了这篇文章，认为它给他“开辟了一个新世界，”使他“知道《四书》、《五经》之外，中国还有学术思想。”
在史学领域，梁启超自《新民丛报》第一号起，就连载他的《新史学》一文，“为史界开辟一新天地”。他说，史学是学问中最博大而最切要者，是“国民之明镜”，“爱国之心源泉”，与国家民族的发达最有关系。但中国以往的史著却存在诸多弊端，譬如只知有朝廷则不知有国家，只知有个人而不知有群体，只知有陈迹而不知有今务，只知有事实而不知有理想，结果将中国的史书弄得难读难解，不易使人生感动。中国史学外貌极发达，但对启发民智、鼓舞民心却没有起到应有的作用。他严厉抨击传统史学以帝王为中心，把中国几千年的历史，摘成为帝王“二十四姓之家谱”，无休无止地进行所谓的“正统”与“闰统”之争，为专制独裁自私其国服务，同时煽扬民族的奴隶性，贻害无穷。梁启超主张新史学应以“叙述人群进化之现象，而求得其公理公例”为宗旨，“使后人循其理，率其例以增幸福于无疆”。为此，梁启超身体力行，在当时就用新的史学观念和方法撰写出多种专题史和人物传记，为新史学的成立做了开榛辟莽的工作。
在文学领域，梁启超在1898年《清议报》第1册发表的《译印政治小说序》里，就对中国旧小说作了总体批判，提倡翻译“外国外儒所撰述而有关切于今日中国时局者”的“政治小说。”1902年《新民丛报》创刊后，他从第2号起，就专辟“小说”一栏，长年连载《十五小豪杰》、《新罗马传奇》、《殖民伟绩》等文艺译作和创作。在1902年的1年里，《新民丛报》共刊出6篇小说，其中5篇是以西方国家的人物故事为题材，内容都是有关那些国家或历史上的仁人志士和青少年，如何为国家、为民族、为追求自由、平等的新生活，不怕牺牲、顽强奋斗的英勇事迹。同年冬，他又在日本创办中国近代第一本有影响的文学杂志《新小说》，提出“今日欲改良群治，必自小说界革命始；欲新民，必自新小说始。”他第一次将历来被人们视为文章小道末技的小说，提升为最有文学价值又最具有社会教育功能的艺术，呼吁文学作品必须密切关注社会、人生，努力避免流于诲盗诲淫，或为“尖酸轻薄毫无取义”的游戏之文。同时，他还大力提倡白话文学，指出由古语文学变为俗语文学，这是文学史的一个普遍发展规律，说：“文学之进化有一大关键，即由古语之文学变为俗语之文学是也。各国文学史的开展，靡不循此轨道。”梁启超倡导小说界革命，对于小说在近代中国的变革产生了巨大的影响。在他倡导新体小说之后，写小说、读小说，蔚然成为一代之新风。一时之间，《小说林》、《新新小说》、《月月小说》等文学刊物接踵而至，极大地改变了人们对小说的传统偏见。
梁启超在《清议报》时代和《新民丛报》头两年里所写的文章，通俗易懂，恣肆汪洋，充满感情，不但与他政治立场相同的人喜爱它，称颂它，即使政治立场与他不同的人也爱看他的文章，承认他的文章别有一种“魔力”，“使读的人不能不跟着他走，不能不跟着他想。”（胡适语）。辛亥革命老人吴玉章回忆1902年求学的情景时，就说自己非常爱读梁启超创办的《新民丛报》和《新小说》。1936年，毛泽东在延安与斯诺谈话中，毫不讳言他青年时代对梁启超的崇拜，说自己曾对《新民丛报》喜爱到了爱不释手的程度，“读了又读，直至可以背出来。”郭沫若在谈到自己青少年时代时，对梁启超的宣传也作了高度的评价，认为“当时的有产阶级的子弟——无论是赞成或反对，可以说没有一个没有受过他的思想或文字的洗礼的。”梁启超在1899—1903年间所作的启蒙宣传，对中国近代的贡献极大，不但对当时思想界产生广泛影响，而且在许多方面成为五四新文化运动的先声，整整影响了从邹容到毛泽东两代先进的中国人，其意义远远超出他的政治活动，是他一生最富创造力的时期。梁启超本人也因此被人们尊敬的称为“舆论界的骄子。”