由于2006年的改革没有将财政制度的问题纳入议程，因此，联邦上下两院在2006年12月15日作出决议，决定开启第二步的改革，也就是《基本法》中财政制度的改革。
根据联邦上下两院的决议，由32名代表组成联邦国家制度现代化第二委员会。其中16名来自联邦（包括联邦政府的4名成员：司法部长、内政部长、财政部长以及总理办公室主任），另外16名成员为各州总理。此外，委员会还包括4名州议会代表，1名州议会主席，以及社会民主党、自民党、绿党联邦议院党团的主席，他们没有表决权，但有发言权和提案权；3名来自乡镇联合会的代表只有发言权。社会民主党联邦议院党团主席彼得·斯特鲁克和担任巴登-符腾堡州总理的基民盟党人冈特·H。厄廷格担任委员会主席。
2007年3月8日，委员会召开了第一次会议，宣告成立。各方商议的议题主要是三个问题。
第一个问题是联邦与州的财政关系，尤其是联邦和州之间税收收入的分配问题以及联邦行使立法权给州和乡镇带来的财政负担问题。现在，联邦与州在财政领域存在不少纠缠。税收立法为联邦垄断，但州通过联邦上院参与一切涉及自己财政问题的联邦法律的制定。州能自行决定的只有极少数意义不大的税种，如养狗税、第二套住宅税以及娱乐税等。个人所得税在联邦、州以及乡镇之间分配，增值税在联邦与州之间分配，因此，政治责任极不清楚。
在联邦颁布法律而法律的财政义务由州和乡镇承担时，双方常常产生冲突。例如，联邦有权对托儿所看顾的儿童人数作出规定，却不能命令乡镇为此掏钱，因为这是州的管辖范围。另一方面，联邦决定了遗产税和载重车税的税率，但其收入却归各州所有。此外，区域经济扶持、社会福利房建设或者高校建设由联邦和州共同出资。这些共同任务不但缺乏效率，而且政治责任交织在一起，人们无法监督。
第二个问题是各州之间的财政平衡，也就是每年在5个富州和11个穷州之间怎样分配约为300亿欧元的个人所得税和增值税的问题。财政平衡应拉平各州不同的财力，以实现《基本法》所规定的“同等价值”的生活条件。但是，其计算的方法、补偿的基数、人口的权重以及特种负担都非常复杂，让一般人根本没有办法理解。“予”州觉得自己受到不公正的对待，它们的经济成就和节约事实上受到惩罚，经过财政平衡的拉平之后，其财政收入有时甚至还比不上“取”州。
第三个问题是限制财政赤字的问题。在过去的15年间，联邦、各州以及乡镇的举债一直没有受到有效的约束。到2007年，债务总计已达15万亿欧元。巴伐利亚是唯一一个在2007年没有举债的州。萨尔州负债累累，已经向联邦宪法法院提请上诉，要求获得特种补助。不莱梅州同样如此。这两个州在1994—2004年间共计已经从联邦得到150亿欧元的特殊补助，但都未把补助用于巩固财政。柏林在财政上同样债台高筑，只不过其向联邦宪法法院提请获得特殊补助的上诉未获成功。下萨克森、石勒苏益格-霍尔斯泰因以及东德各州的财政也如履薄冰。
这三个问题实际上是相互联系在一起的，因此从原则上说应该一起解决。
2007年3月到2009年2月，委员会举行了多次会议，讨论的问题包括财政预算、财政危机的预防以及预警制度；现有财政危机的解决方法——财政整顿和扩大各州自主权；审核联邦和州现有的任务，确立标准；消除官僚主义，提高效率；加强财政资金与任务的一致性；加强联邦和州的自我财政责任；加强各州自愿性的合作，简化州自愿合并的方法；实行癌症数据登记制度等。
和从前一样，由于联邦与州之间、各个党派尤其是社会民主党与联盟党的不同利益，穷州与富州之间、大州与小州之间、东部各州与西部各州之间的分歧，联邦制委员会中的冲突和争执一直不断。2009年2月5日，委员会在其举行的秘密会议中终于就主要的观点达成原则性的一致。在随后的一周之内，宪法修改意见在各个工作小组会议以及2月12日举行的委员会会议中相继得以通过。2009年3月5日，委员会在两名主席的建议下对此进行表决，改革联邦与州财政关系的一揽子措施以26票同意、3票反对（绿党、左翼党和梅克伦堡-前波美拉尼亚州代表）、两票弃权（柏林、石勒苏益格-霍尔斯泰因州代表）得以通过。
一揽子改革措施的中心内容主要是：（1）从2011财政年度开始，实行新的联邦和州共同的负债规定（《基本法》第109条）。按照这一规定，除了在某些例外情况下，联邦和州的财政原则上必须在不举债的情况下实现平衡。为了使原东德5个财政困难的州能遵守这一规定，应为它们巩固财政提供援助。（2）避免财政危机的方法（《基本法》第109a条）。除了新的举债规定之外，为避免财政危机，应实行联邦和州合作的预警制度。这就是成立一个稳定委员会，其成员包括联邦和各州的财政部长和联邦经济技术部部长。它将监督联邦和州以及接受巩固援助的5个州的预算执行情况，每年通报和检查联邦和州的财政状况。在出现财政危机的情况下，共同协商整顿计划。（3）税收管理。为改善税收管理效率，应加强联邦税务局参与查税的权力，并使它有权获得各州税收数据。联邦财政部应能与各州最高税收机关协商税法执行的目标。对某些纳税人的税收减免，应由联邦税务局统一管理。（4）保险税和防火税。联邦现在对保险税拥有立法权和收益权，对防火税拥有立法权。为了提高管理效率，应将原由各州负责的这两个税种的管理权移交给联邦，防火税的收益仍归州所有。为保证各州防火税的收益，应制定确定和监督其课税估算基础的详细规定。（5）公共IT。为了改善信息技术领域的行政合作，实现公共行政管理领域中安全、有效和节约成本的IT基础设施的目标，应修改《基本法》及相关法律。在《基本法》中补充加入第91c条，为联邦和州在计划、建立和运行履行其任务所需要的信息技术系统奠定法律基础。对此，联邦应拥有将联邦和州的信息技术网络连接起来建立一个互联网络、维护其运行的权力，并拥有制定相关规定的专属立法权。此外，应建立一个IT计划委员会作为协调和调控委员会，它对IT内部的运作和安全标准作出规定。（6）绩效基准对比（《基本法》第91d条）。委员会认为绩效基准对比是有助于公共行政管理现代化的工具，因此，建议在《基本法》中加入新的第91d条，对联邦和州在行政领域绩效基准对比方面的自愿合作作出宪法规定，以在德国促进绩效基准对比的做法。（7）癌症登记。委员会达成一致，支持联邦卫生部提交给委员会讨论的《癌症登记数据法》（BKRG），建议将它纳入联邦制改革第二步的立法程序。应建立全国性的癌症登记制度，提供整个德国的癌症数据，使跨地区的研究成为可能。（8）放开联邦财政帮助（《基本法》第104b条）。现行《基本法》第104b条限制了联邦在属于其专属立法的领域中提供财政帮助的可能性。委员会建议根据新的第109条和第115条的规定，在自然灾害或危机等特殊情况下取消对联邦的这种限制。这样能够保证在危机情况下——如2009年的金融危机，看得见的手在所有投资领域的投资活动都能得到联邦的支持。
2009年3月11日，联邦内阁同意了这一方案。2009年3月底，它在联邦议院进入一读程序。2009年5月29日和6月12日，联邦议院和上院分别以2/3的多数通过了《基本法》修正案和《改革法》，联邦制第二步改革顺利实现。
显然，联邦制第二步改革的力度并没有人们预想的大。它在限制财政赤字和加强税收管理方面作出了新规定，但还是没有触动德国联邦制财政制度的核心问题——财政平衡制度。这也不难理解，改革是建立在联邦和州以及各个政党能够达成的妥协的基础上的。只有在联邦和州以及各个政党都觉得自己的利益不受到损害的情况下，这一步的改革措施才能通过。而且，11个财政平衡中的“取”州在联邦上院拥有明显的多数，因此，改革的结果当然不会违背它们的利益。
人们曾经设想，如果第二步改革方案得以通过，那么第三步的联邦制改革就有了启动的基础。所谓第三步改革，指的就是困难重重的各州重组。由于原来各州的边界是二战结束盟军占领后随意划分的结果，既没有考虑到历史传统，也没有考虑到经济发展的需要，随着各州经济发展的日益失衡以及原东德各州的加入，一些州的经济存活能力问题日益突出。如上所述，一些小州如果没有联邦的援助和补贴，在财政上根本无法维持下去。为了一些州能在将来日趋激烈的各州之间的联邦式竞争中发展，很早就有专家提出建议，不莱梅、汉堡、下萨克森以及石勒苏益格-霍尔斯泰因州合并为一个州，柏林、勃兰登堡和梅克伦堡-前波美拉尼亚州合并为普鲁士州，萨尔、莱茵兰-法尔茨和黑森州合并为一个州，萨克森、图林根和萨克森-安哈尔特州也合而为一。
然而，州的合并难度极大，因为它必须经所在州居民的公决通过。联邦制第二步改革也没有为州的合并提供一些财政上的激励措施，如奖励一定的资金或由联邦承担各州从前的债务，或者考虑取消《基本法》所规定的公决程序。而且，2009年9月27日的德国大选结束了联盟党和社会民主党的大联合政府。联盟党和自民党组成联合政府，社会民主党、左翼党及绿党在野，进行重大的联邦制改革的政治条件不复存在。现在看来，除非未来政治形势出现新的发展，否则，第三步改革还将遥遥无期。