从第2集开始分别讲述了他们在抗日战争时期不同经历的故事。姜大牙和朱一刀想到山北蓼城投奔有枪有饷的国军，陈默涵和韩春云想到山南投奔新四军。结果阴错阳差，姜大牙和朱一刀在蓼城东门外的榆林寨，被新四军麒麟山支队的战士当做“奸细”抓了起来。在司令部里，姜大牙被他几年前曾经救助过的支队司令杨庭辉认了出来，于是受到热情接待。杨司令劝姜大牙留在新四军里一起打鬼子，姜大牙却回答得不太痛快。在杨司令招待他们吃面鱼时，年轻漂亮的政治部宣传部长东方闻英进来了，姜大牙一见新四军里面还有这么漂亮的女兵，就转变态度坚决要求留在新四军里打鬼子。这一切都被政治部主任张普景看在眼里，他认为姜大牙是个流氓无产者，对他印象极差。但是姜大牙打起仗来却非常勇敢，第一次参加战斗，他一个人用大刀就砍死了十几个鬼子，被提升为小队长。后来由于战功卓著，职务一级级地提升，最后当上了陈埠县大队的队长。在东方闻英的帮助教育下，他入了党，学习文化，讲究卫生，进步很快。而且他作战勇敢，肯动脑筋，军事指挥能力也提高很快，他领导的陈埠县大队成为麒麟山根据地最有战斗力的部队。
与此同时，一直跟随他的朱一刀也进步了，成为中队长。但由于违反纪律与地方妇女干部岳春云发生了男女关系，受到了处分，最后他与岳春云正式结了婚。在麒麟山根据地的领导圈里面，对于如何看待姜大牙有两种观点：杨庭辉司令和王兰田副政委认为姜大牙是可造之才，可以对他的缺点逐渐加以教育、克服；而张普景、窦玉泉、万古碑、李文彬四人，所谓的“苏区派”，认为自己是“真正的布尔什维克”，他们坚决反对使用姜大牙。由此，姜大牙从投身革命伊始，就陷入了激烈的戏剧冲突中。这种冲突的范围广泛，不仅包括了新四军与日本鬼子的冲突，与国民党军队搞“摩擦”的冲突，与自己的缺乏文化、不良习气和落后思想之间的冲突，而且还包括麒麟山根据地的党内斗争。这也正是这部电视剧显得精彩纷呈之处。正如曾庆瑞说的：“把人物放到动荡中去，放到戏剧冲突中去，让人物动起来，在人物之间通过动作形成情节，形成叙事结构中的情节线索。”
这部长达32集的电视连续剧里面的人物所起的作用不同于电影故事片的人物所起的作用。其特点是有的人物从全剧看不是中心人物，但是在其中的某几集里面会成为故事的中心人物。如万古碑这个人物形象，这个人物正如姜大牙说的：“是个坏人”。他作为麒麟山分区的政治部副主任，热衷于挑拨是非，散布对杨司令不满的情绪，接着在追求东方闻英时，他那种大献殷勤的方式使人感到厌恶。后来当他发觉东方闻英对姜大牙有好感时，妒火中烧的神态使人感到他是个非常阴险的人物。在第12集里面，杨庭辉和王兰田都被调离了麒麟山分区，从西北回来的万古碑代理书记并主持特委工作，真是小人得志便猖狂，他大权在握后立即在麒麟山根据地开展“整风纯洁”运动。因此，从第12集到第14集，故事的中心人物是万古碑，他表现得极端阴险毒辣，残酷无情，先抓了朱一刀，又抓了姜大牙，把朱一刀折磨得想寻短见。他亲自审问姜大牙，要他承认自己勾结日军等罪行，最后还布置手下准备把姜大牙悄悄杀了。好在中央派杨庭辉及时赶回来，纠正了“整风纯洁”运动，姜大牙等人才得救。经过这样曲折痛苦的“炼狱”般的考验，姜大牙才真正成熟了。姜大牙和东方闻英产生了感情，东方闻英建议姜大牙把名字改为姜必达，他欣然同意。
从蓝桥埠逃出来的四个老乡中，想投奔新四军的陈默涵和韩春云走错了道路，撞到了高汉英的国军第246团的阵地，被国军抓住。高汉英听说他们要投新四军就想枪毙了他们，陈默涵据理力争，石云彪说服高汉英把他留在自己的79大队当兵。韩春云则进了高汉英的妹妹高秋江领导的战地女子服务队。陈默涵在79大队从当兵开始，一步一个脚印，升为大队参谋，他了解到79大队是杂牌军79军的残留人员，石云彪想把这支部队壮大发展起来，恢复原来的实力，实际上是一种幻想。当79大队扩大为79团后，高汉英处处想法掣肘他们，最终还是借用日军的手，把石云彪的79团大部分力量都消灭了，石云彪也牺牲在战场上。剩下的人员改编成79营，由陈默涵当营长，编入246团。高秋江的女子服务队在一次与日军的战斗中，韩春云负伤后离开了国军，她来到麒麟山找到王兰田副政委，王兰田派她到日军占领的洛安城当地下工作者。高秋江被高汉英派到洛安城了解日军化学武器的情报。她们在洛安城联手提供情报，炸掉了日军的毒气弹仓库，联手杀了投降日本人的叛徒李云彪。高秋江苦苦追求石云彪，石云彪答应与她重归于好，却牺牲于杀敌战场。陈默涵开始追求高秋江。
从第19集开始讲述解放战争时期的故事。在这个时期，故事人物的职务发生了很大变化，姜必达（姜大牙）成了旅长，朱预道（朱一刀）成了团长。东方闻英是团政委，上级派她去军区学习，她计划在学习结束之后就与姜必达结婚。张普景成为旅政委，窦玉泉成为副旅长，万古碑成为政治部副主任。陈默涵当上了国民党79团的中校团长。韩春云继续在乌龙集从事地下工作，后来由于身份暴露回到了二旅卫生部工作。为做好79团起义的工作，东方闻英被上级派到79团，以护士的身份直接做陈默涵的工作。在她的努力工作下，79团正式宣布起义，但是在起义的关键时刻，为了掩护79团脱离高汉英部队的追击，东方闻英牺牲了。东方闻英牺牲以后，姜必达把怒火倾泻在陈默涵的身上。由于陈默涵的79团已经起义，加入了解放军，姜必达的言行自然影响到起义官兵的情绪。在领导们的帮助下，姜必达认识到自己的错误，主动向陈默涵承认错误，要求他们留下来，起义部队被改编成二旅新二团。姜必达向陈默涵的部队学习军容风纪和训练有素，陈默涵的部队也向姜必达的部队学习吃苦耐劳连续作战的作风。最后过了长江天险后，陈默涵的部队连续行军，堵住了高汉英的残部，迫使他们战场起义。姜必达和陈默涵之间依然有着较大的思想隔阂。
从第23集开始讲述解放战争结束后直到“文化大革命”前的故事。首先讲述了姜必达的二师进驻庐州市，在朱预道和岳秀英的帮助下，姜必达和韩春云成了亲。陈默涵在麒麟山的小学找到了高秋江，他们两人也结了婚。接着讲述了当上战斗英雄和副师长的朱预道，被一个崇拜他的女学生追求，朱预道被她的年轻貌美而打动，于是打主意要换老婆。他主动提出要跟岳秀英离婚，使岳秀英受到意外打击。于是她假意同意成全他们的好事，要朱预道把女学生带回家看看。朱预道信以为真，果真把女学生带到家中，岳秀英一见到争夺自己丈夫的第三者，勃然大怒，拔出手枪朝她的脚下连开三枪，将其吓晕，然后又痛骂朱预道是当今的陈世美。最后，姜必达主持师党委开会决定，给予朱预道党内警告处分，从副师长降为正团长。之后，姜必达的二师也赴朝参加抗美援朝战争。该师在战役的最后阶段，被部署在清化里一带20公里的正面上，抵挡两个美国师和两个李承晚加强团的进攻。
这时，担任师参谋长的陈默涵在部署部队的配置时，把自己老部队二团放在无险可依的重点防守的地段，把姜必达的一团放在易守难攻的次要阵地上，他明知自己的部队可能遭受重大牺牲，甚至打光，也要让自己的部队“啃硬骨头”，在全师树立起战斗力最强的名声。但是姜必达一看到这个部署，立即将一团和二团的位置进行了对调，这样安排实际上是有意保存二团的实力，陈默涵见到后，非常感谢姜必达。但是，战斗一打响，美军却选择易守难攻的二团阵地进行猛烈进攻，对一团防守的阵地却按兵不动。眼见二团的伤亡越来越大，师指挥里的政委张普景，参谋长陈默涵等人都沉不住气了，要姜必达用一团的部队增援二团部队，姜必达坚决不同意。他认为这是美军的花招，声东击西，一旦调动了一团的部队，美军就要乘虚而入，后果不堪设想。战后，美军的战报证实了这一点。入朝参战任务完成后，部队又回到原驻地。电视剧重点表现了姜必达、张普景、朱预道等人家居生活中的小矛盾，如为小孩取名字、照片的悬挂等。最后表现了军长杨庭辉被打成“彭德怀军事俱乐部”的成员后，被发配到三线工作，姜必达带领师干部到火车站为他送行。