1876年春，丁日昌接任福建巡抚，立即整顿吏治，对放纵兵勇挠害百姓且视公务为儿戏，私自释放要犯的彰化县令朱斡隆奏请革职查办。针对各地税契陋规严重，严饬台湾道府将各厅县税契陋规全行裁革，并以巡抚衙门名义出示晓谕加以禁止。
在丁日昌担任闽抚期间，除了原有的八旗、绿营兵勇已经腐败不堪之外，即使新式地方武装，如湘军等也因日益失去朝气而大部分被裁撤。进驻台湾的营兵不仅数量显得单薄，更因天高皇帝远，管束十分困难，致使台湾岛兵勇纪律松弛、战斗力低下。早在初任闽抚时，丁日昌就曾会同闽浙总督文煜对台湾营兵状况作了详细的分析，计划有所裁撤。当他亲临台湾了解到军队的实情后，就曾多次奏劾各级营官数十人，其中如参将黄得桂、黄金升，都司何积祖、陈光华，副将郝富有、王盛春，管带朱名登等，或因虚报兵额、多占勇粮，或因听任部属为非作歹、扰害百姓，或因吸食、贩卖鸦片，得到革职、降级、正法等处罚。尽管一些人对丁日昌十分不满甚或恨得咬牙切齿，但谁也不得不对其敬畏三分。结果，驻台军营的积习得到改变，士兵战斗力有所加强。
对于台湾海防建设的问题，丁日昌给予了高度重视。早在担任闽抚之初，他就向清廷提出了购买铁甲舰、练水雷车，建新式炮台、练洋枪队等建议。到达台湾经过实地考察之后，又奏请购置中等铁甲舰二三只以及水雷、大炮、快枪等，打算预练新式军队二三十营；请饬李鸿章拨借格林炮20尊，克鹿卜炮20尊，配备子药之水雷10具；请饬沈葆桢拨借克虏伯、博洪两式40磅至120磅之大小炮各六七尊，以及格林炮20尊。尽管这些要求基本上得到清中央朝廷的允准，但因财力严重不足，大都不能落到实处。后来，他为了解决这个问题，或是上奏朝廷陈述己见，或是利用各种关系与有关地方督抚大员积极磋商，希望能得到实际支持。即使在辞官居乡之后，他仍不忘情于台湾的海防建设。
为了建设台湾，丁日昌还向朝廷建议兴建铁路，开发矿产。他认为台湾铁路建成后，既可活跃经济，有利于台湾的整体开发建设，更重要、更直接的作用还在于文报通达、军队调遣，内可稳定社会秩序，外可抵御外敌入侵。针对顽固守旧势力的有关建造铁路而引发的奇谈怪论，他还逐条进行了驳斥。有人认为，兴建铁路“必致伤人庐墓，百姓怨嗟”。丁日昌指出，这种论调愚昧无知，不知台湾空地较多，修路并不会妨碍到田地和房屋的实情。至于有碍风水之说，一般百姓并不深信；即使有顾虑，只要向他们说明道理，也就不成问题。有人认为，铁路运行后用煤很多，将来煤尽铁路则会成为废物。丁日昌指出这一说法的错误，是不知台北地区盛产煤炭，可以用之不尽，取之不竭的缘故。现在看来，那些反对意见十分可笑。
丁日昌的正确建议，很快得到洋务大员李鸿章、沈葆桢等人的赞同。但最终，丁日昌有关兴办台湾铁路的建议，因守旧势力的阻挠和经费严重缺乏，未能付诸实践。
丁日昌是中国近代史上第一位关注台湾并且，在思想和行动上对台湾加以全面开发建设的地方督抚大员。他敏锐的眼光、务实的作风，维护国家统一的爱国精神，都值得人们敬仰。