道光三年（1823）二月初，林则徐到江苏清江浦接任淮海道，不到半个月，又升任江苏按察使。从此他走上频繁调迁、奔走四方的仕宦道路。他所到之处，兴利除弊，治河赈灾，被誉为“林青天”。
按察使是主管一省司法刑狱的官吏。按清朝制度，每年三月，各省要将审拟重犯的材料上报刑部，等候七月会审具题，请旨裁夺，以便秋后把死囚正法，是为“秋审”。
林则徐就任之初，就发现“两江案牍繁多，视浙省不啻数倍”，单京控就多至30余起，而省及以下各属员却拖延不审。对此，林则徐明确规定，人证尽管就地取证，非重要证据，不必提解人证。限期审判，过期即予特参。几个月以后，九成的案件已经结案。
林则徐对于诬告十分气愤。因此着手“力拿讼师”，“以冀此风稍息”。此外还规定，一些偏远县份，一些轻案，可由巡道审理，减轻各地负担。同时要求官吏亲自审案，亲自阅审文牍。
为了稳定社会秩序，林则徐经过调查，捉拿了一批包揽妓船、开设烟馆、勾结胥吏、把持地方的地头蛇，使社会风气大为好转。
道光三年五月，江苏发生特大水灾，受灾遍及42个州县，5个卫所。田园、人畜、房屋损失严重，特别是贫苦之民，“颠连之状，呼号之声，不忍睹而所睹皆是也，不忍闻而所闻皆是也”在大灾之年，引发了松江饥民闹府署的事件。其起因主要是地方官赈灾不力。松江知府以报灾期限已过，阻止娄县（1912年并入华亭县，今上海松江）知县上报，于是饥民拥入府署，以至使府署受到破坏。知府将这事件视为“造反”，上报巡抚韩文琦，派兵弹压，并令候补道钱俊会同按察使林则徐究办，从严惩处。饥民殴打知府，这在封建法理是不可宽恕的，但是，经过审讯，林则徐只将殴打知府的严海观处决，其他17人流徙。林则徐不可能违反封建法律，但在允许的范围内，从宽处理。他认为这是因为官吏赈灾不力引起的，不能视为谋逆；对于那些赈灾不力的官吏，决不宽恕、回护，遂将娄县李传簪革职，发军台效力赎罪，松江知府杨树基交部“察议”。这表明林则徐的正直、无私，深得士绅赞许。
1823年12月，林则徐抵京，道光帝两次召见，再次表彰林则徐。道光帝对他说：“你系翰林出身，文章学问好，此数年在外办事亦好，但刑名关系甚重，总须慎之又慎，准情酌理，不可稍存成见。”又说：“你是精明的人，不要自恃精明，仍须靠定书本办事，所以律例是不可废的。”
1824年1月，林则徐往苏州接署江宁布政使，并继续采取重要措施解决全省灾害善后问题。他把稳定封建社会秩序作为最重要的事来抓，发布《禁止贫民借荒滋扰告示》，严禁骚扰大户，严禁为匪，在此前提下，采取措施，以解决饥民生活和生产问题。如：
一是劝说富户平粜，严禁奸商囤积居奇。
二是强行劝谕官吏、地主捐赈。当时一些地区，“业田甚多之户，相率阻捐”，有的竟把赈灾诬为“勒派”。对此，林则徐十分气愤，斥之为富不仁，坚决打击“为富不仁”的气焰。
三是鼓励邻省大米入境，并以免税刺激大量粮食流入，利用外省的粮食平抑灾区粮价。这项措施，确起了明显的作用。林则徐的政绩再一次受到当地士民的称颂。
1824年，林则徐刚好40岁，步入不惑之年。这之后，清政府对他越来越看重，因而，调动也极频繁。他奉旨总办江浙七省水利。接任不久，九月间母病故，请假回籍奔丧。十一月间，高家堰十三堡、山盱六堡被冲决，洪泽湖外灌，导致与洪泽湖相连的淮河，水位下降，直接影响到漕运。漕运是清政府维系京都百官生活的重大政事，忽视不得。道光帝得讯，大为震怒，除将南河河运总督张文浩革职之外，特旨令林则徐“夺情”离家到工地主持修堤大事。1825年5月，他来到高堰六堡大堤工地，检查工作。由于疲劳过度，他的旧病复发，不得已请假在家治病。
第二年清廷又谕令以三品卿署两淮盐政，林则徐以持服未满，辞未就任。
1827年5月20日，林则徐抵京候缺。不久奉命出任陕西按察使，兼署布政使。林则徐刚到达西安，突然又接到擢授江宁布政使的命令。这年年底，他父亲的去世，又改变了他的历程，南归奔丧。这几年，林则徐几乎是在动荡中度日的。他调动频繁，却忠于职守，认真办事，任劳任怨。
林则徐于1828（道光八年）扶父柩返乡，在籍丁忧，1830年8月受任湖北布政使。
林则徐在湖北布政使任上还不到四个月，朝廷又改任林则徐为河南布政使。1831年7月，江苏发生水灾，运河决口，除省会江宁外，共66个州县受灾。两江总督陶澍要求林则徐支援，道光帝又把将他调任江宁布政使。从他的频繁调动也可看出，朝廷很重视他，认可他的才能。
他马不停蹄，沿仪征、六合、上元、江宁等县勘查水情，只见江水弥漫，已分不出哪里是河道了。林则徐到达江宁，凭着他的救灾经验，向陶澍建议：劝捐以赒贫乏，资送流民以免羁留，收养老病以免流徙，劝收幼孩以免遗弃，劝谕业户以养佃农，殓瘗尸棺以免暴露，多设粜厂以平市价，变通煮粥以资熟食，捐给絮袄以御冬寒，劝施籽种以备种植，禁止烧锅以裕谷食，收牧牛只以备春耕等。“耕牛之无力豢养者，别设当牛局以处之，至春耕发还”。
当地百姓对林则徐赈灾政绩热情赞颂。“林青天”的名声越来越大。