前期的招贤纳士工作已经做了不少，但是，如何让这些来自各方面的人能够团结起来，形成强大的战斗力也是一个大问题。郑成功和众谋士商议后决定，立即开始整饬军队，严明纪律。
顺治十二年（1655），在厦门港南普陀寺前的广场上，郑成功修建了一个约500平方米的演武练兵的演武场，又命工官冯澄世在厦门港院东澳仔岭之交修筑演武亭楼台，为郑成功住宿和教练观兵之用。郑成功经常不分日夜在演武场上督操，教练官兵，教授士兵演习五梅花操练法、各阵合操法等战术，训练极为严格。他还训练出一支“铁人”劲旅，他们武艺精熟，膂力过人，头戴铁面，身披铁臂铁裙，手执砍马大刀，并佩带弓箭，号称“铁人”。作战时三人一组，一兵执团牌保护其他二人，一兵砍马，一兵砍人。“铁人”弓法娴熟，弯弓射箭能很远命中。这支英勇善战的“铁人”，在后来收复台湾的战斗中，给荷兰侵略者以沉重打击。
不仅如此，郑成功在演武亭旁还修建了一个演武池，作为训练水师和停泊军舰之用。演武池呈半圆形，面积很大，出口通往大海。水师是郑军的骨干力量，对水师的选拔训练，比陆军还要严格。水兵的选拔条件是必须熟习水性，惯于海上生活，能耐风涛颠簸之苦。据说，郑成功训练水师时，命战士们下海，手拿大刀或铳枪，游水进退，水只能淹到腰部，不能齐胸，要求水兵不仅会游泳，而且要有相当好的游泳技能等，否则不得入选。
水师的大部分官佐是郑芝龙旧部，他们有着丰富的海上生活和作战经验，水师将士以漳、泉、潮、惠沿海一带人居多，经郑成功严加训练，成为一支强劲的海上舰队。当时的西方传教士说：“国姓爷握有大量船舶，由他指挥的强大海军所树立的威名，使邻近海岸一带为之震动。”
郑成功在攻下了许多城池之后，便将金门和厦门作为抗清的又一阵地，并且以此为根据地开始操练军队。郑成功看到当时明末军令废弛，武备不修，兵将分离，形同乌合，不堪战守等现状，深感痛心，他知道要想让义军能够与弓马娴熟、兵力强悍的清朝八旗劲旅相抗衡，就必须要认真加强军队的管理与训练，改革军务弊端，只有这样，才有可能打败清军，实现反清复明的大计。为了改变现状，他先是健全军队组织，完善编制。他承袭明朝军制，建立前后左右中五军，作为战斗的主力部队，每军设提督一名，负责军事指挥。每军有五镇，分别设镇将一员；每镇有五协，各设协将一员；每协设五正领，十副领，每副领管十班；班设班长，每班50人。在厦门共建陆军72镇，水师20镇。各镇用中协作预备队，前、后、左、右四协配置相等兵力，战时不管受任何方面敌人的进攻，都可有充分兵力进行攻击或防御。在各协中有刀、牌、弓箭各兵种，相互配合作战。水师除水战士兵外，每大舰另配陆军兵士40名，中舰20名，小舰10名，以备登陆战斗。除五军之外，另设左右虎卫镇，也就是郑成功的亲军，行军出征，随郑成功同行，护卫左右。虎卫镇的兵将都是由郑成功亲自在各镇中经过严格挑选的武艺精熟者组成，是郑军中最精锐的部队。
不仅如此，郑成功还在这些基础上有所创新。当时，郑军中还设有类似政治工作的人员，称监营，每军设总理监营一员，左右协理监营各一员；各镇设监督监营。由总理监营统管大小监营，行军作战随同提督统镇一起出征。负责参谋、情报、军纪等工作。全军设置总督五军戎政，主持召开军事会议，制定作战计划，是类似于总参谋长性质的官员。另设监纪、饷司，分别负责各提镇军法、军需等工作。他们在名义上附设于各提镇，但又自成系统，不完全受提镇控制，遇重大军机要事可以随时呈报，对提镇起着监督的作用。这种分层节制的严密组织，有利于贯彻全军的作战指令，使指挥权更加集中，更加增强了军队的统一性和战斗力。
关于政治建设方面，郑成功在以金门、厦门为根据地后，漳州、泉州百姓聚拢而来此的日见其多，因此百姓的生产、生活管理等事日趋繁杂，于是郑成功在顺治十二年（1655）春，在中左所设吏、户、礼、兵、刑、工六部，分掌地方行政和民政事务。为了招纳明室旧臣、缙绅，培育阵亡将士的后代，在设六部之后，又设储贤、育胄二馆。储贤馆招纳明室旧臣和文人，及闽浙一带的缙绅。让他们入馆协助六部办事，或外派军中为监纪、通判，使人才得尽其用。育胄馆是郑成功为培养和抚育死难将士和官员子弟而设的育才机构，不仅在生活上给他们照顾，而且严师教导，使他们得以成材，作为各级官将的后备人选。由此可见，郑成功文韬武略，卓有见识，是南明政治舞台上文武双全的一位优秀人物。
关于经济建设方面，为了坚持长期抗清，必须有充裕的财政和经济力量做后盾，以解决军事物资及粮饷开支等问题。郑成功明确提出“以商养战，通洋裕国”的主张。早在顺治三年（1646），郑成功向隆武帝所上条陈中就提出“通洋裕国”，即发展海外贸易的建议。他的父亲郑芝龙是东南海上武装商贸集团的首领，郑氏家族在经营对外贸易方面有长期历史和丰富经验。所以发展和扩大外贸是郑成功“以商养战”的中心内容。
郑成功的大规模经营国内外贸易活动是以厦门为根据地的，1650年，他采纳部将冯澄世建议，委派户官郑泰和洪旭负责对外贸易，下令建造航海大型商船，航驶日本和东南亚诸国。为了取得外贸货源，他又分山、海两路，各设五大商栈，一面向内地收购原料和商品，一面贩运东西两洋货物。郑成功并不垄断对外贸易，而是在派官员专门经营的同时，也允许其他“散商”参加，往往借资本给“散商”，鼓励他们从事外贸经营。一些向郑成功借贷资金的商人，自愿为他做耳目，搜集政治、军事情报。郑成功的通洋经商收入据估计每年有数十万元，在相当程度上，解决了军械、粮饷的需要，同时还有利于侦察敌情，帮助军事斗争。
郑成功以商养战的思想，在实践中取得了很大成果，为抗清和后来驱逐荷兰殖民者在财力、物力上准备了比较充分的条件，同时对于中国当时商品经济和沿海一带资本主义萌芽的发展都起了一定的促进作用。
前面所说的这些方面都是郑成功治理军队的基础和延伸，郑成功知道，要想让自己的军队真正地成为一支王者之师，仅仅靠操练士兵还是不够的。因为当时郑成功的军队中有来自各方面的士兵，甚至还有海盗等。要想让这些士兵都能够听从统一的指挥，形成一支纪律严明的军队，就必须要严明军纪，制定严格的军队纪律和奖惩制度。这些制度为鼓舞士气发挥了巨大的作用。顺治七年（1651），他公布“杀虏大敌中敌赏格”，每一战役结束，都召集将士进行分析总结，公开议定官兵功罪，赏功罚过，奖惩严明。每出战，令监督监营在军前高举铁杆红旗一面，上书“军前不用命者斩，临阵退缩者斩”，违犯者，副将以下当场枭首示众，统领总镇捆解军前枭首示众。郑成功即使对自己的亲人骨肉也毫不徇情，执法无私。如顺治六年（1650），清将马得功袭击厦门，叔父郑芝莞临阵脱逃，就被他依法处斩。郑成功从建军开始，就制订并公布《出军严禁条令》，严禁奸淫、焚毁、掳掠、宰杀耕牛，如果违犯纪律，本犯斩首，大小将领从重连罪，不论官、兵、夫役，凡捉拿和检举违纪者有赏。至此，郑成功的军队成为了一支名副其实的劲旅，一支名副其实的王者之师。
郑家军不仅军纪森严，而且执纪不苟。北伐南京期间，师抵湄州，有一士兵在打水时拾得老百姓一只鸡，监营发现就将兵士解送，大将甘辉当时担任总镇，自认统驭部下不严有罪，脱衣自请责打十棍，犯兵斩首。郑成功多次教育官兵，出征作战，应以民为本，要求军队要做到“行师而耕市不变”，考核官兵功绩时，要战功大小和执行军纪情况并重。所以郑成功军行所至，民户不惊，市井不扰，深得民众的称颂和拥护。如北伐南京时，沿海沿江人民纷纷来郑军水师船舰争做买卖，往来如织。大军进入镇江时，军队夜宿商馆，不进民家。这些严明的军纪使军队保持了良好的斗志与纪律，同时得到民众的有力支持和配合，产生了很好的政治影响。