勃拉姆斯对交响乐创作的探索，促使他追溯古典乐派交响乐的源泉。他将大型交响曲的某些中间乐章处理成小夜曲风格可以证明他所作的实验，他力求对古典乐派管弦乐曲的英雄时代重新建立（当然是创造性的，并非照原样恢复），而像《第二交响曲》第三乐章的作法确是一个伟大音乐诗人的独创。《第二交响曲》是勃拉姆斯于1887年夏天构思并创作成的，那时，他在奥地利一个风景如画的湖边度暑，感受了许多宁静、安宁中的微妙，愉快之余，作成了《第二交响曲》，作品一经完成，年底就交给维也纳爱乐乐队首次演出。要知道，他的《第一交响曲》在前一年的首次演出时，曾经引起了许多议论，整整一年，人们对那部作品的成功与否都还在怀疑。然而，《第二交响曲》却是在听众的掌声中演出的，看起来听众对这部作品非常欣赏，据说在每一乐章结束时听众都报以热情的欢呼，同时还起立向勃拉姆斯祝贺致意。乘着这次的成功，勃拉姆斯在莱比锡亲自指挥了这部作品的第二次演出，同样受到听众的赏识。很快，《第二交响曲》一下子就传遍了整个欧洲，人们纷纷认为这部交响曲是勃拉姆斯所有管弦乐作品中最好的，以至后人凡是需要学习了解勃拉姆斯管弦乐作品的，一般都是从分析《第二交响曲》开始。
勃拉姆斯的《第二交响曲》和《第一交响曲》作成时间相距较短，但二者的思想内容和总的情绪特点却大不相同，《第二交响曲》完全不受《第一交响曲》的影响，基本上排除了紧张、严峻的悲剧性，抛开了热情而激昂的音调和阴暗而不安的色彩的结合手法。也就是说，不再以表现悲剧性和英雄性为主，而是着力谱写一首淳朴感人的浪漫主义田园诗，有点像“日落时分的荷兰”风景画，或者说保持着古风的维也纳的诗意画页，整个作品沐浴在宁静、柔美、明朗的光辉之中，是一种欢乐的生活感受。
像其他三部交响曲一样，勃拉姆斯的《第二交响曲》也没有标题性内容，但它比《第一交响曲》更“古典”化。我们可以从第四乐章的音乐中感受到海顿交响乐末乐章的爽朗充沛的精神，这大大超过了第一乐章尾声那种沉痛的悲哀和崇高的容忍隐退的情绪，也使人们将第二乐章长号那尖锐的送葬曲调完全抛到脑后。
这部作品的配器也比较简单、透明、乐队规模仍然限于标准的双管编制范围，在乐器使用方面，比《第一交响曲》简明。没有低音大管，也不用小提琴独奏，在第一、第四两个乐章中加用了三个长号和一个大号。本来勃拉姆斯同李斯特、瓦格纳或理查·施特劳斯是不一样的，作品中不需要那种色彩缤纷的调色板，他所关心的主要是突出个别乐器音型的效果。而这部交响曲中，他加强了在复杂的声部进行中妥善安排的明暗对比，削弱了个别乐器的个性化处理，追求精致的音色组合，手法接近贝多芬《第四交响曲》。
第一乐章，用传统的奏鸣曲形式写成。音乐从低音开始，由低音弦乐器柔弱地哼鸣。这只是个背景，旋律进行由四个音组成的动机不断反复而成。不一会，法国号和木管乐器在低音背景的基础上先后奏起了第一主题：这个主题很具幻想意味，它十分美丽，接近于慢圆舞曲的速度，风格上属于维也纳典雅的舞曲风格，可见勃拉姆斯对维也纳圆舞曲感受的根底，像这样用三拍子写成的第一乐章，在维也纳古典作曲家的交响曲创作中很难看到，因此，这个主题在奠定整个作品的田园诗特性的同时，也反映出作品的思想艺术形象的局限性。由于这个主题素材缺少戏剧性的紧张度，也不具有内在的冲突基础，不适合构筑起庞大的交响曲第一乐章。勃拉姆斯则在主题发展上作了很大的努力，涉及了多方面的可能性，甚至在旋律发展中包容了乐章开始时低音的背景因素。另一个原因是勃拉姆斯的大型交响乐第一和第四乐章常常比原来设想的要长，因为通过推敲加工，使形式在各方面都扩张了。这就使得乐章内的空间变大起来，需要人为地使这样大的空间里内容得到丰富，勃拉姆斯就采用了最复杂的、真正天才的对位写作法和最丰富的变奏手法。而他惯用的就是在低音背景的固定进行上配置另一个对位旋律，交响曲的第一主题的处埋就从这个对位旋律中去寻找乐思。这样创作出的音乐无疑是很具艺术价值的，同时也获得了第一乐章的思想情绪内容的紧张度，但缺乏浪漫主义那种新鲜感和灵感的直接性。
第二主题情绪忧郁，充满浪漫主义诗意，其温柔和冥想的表达，俨然如舒伯特转世，音乐填补了第一主题所缺乏的情调内容。
这个主题采用大提琴在上和中提琴在下的声部安排，两个旋律线条并行（音乐专业语统称和声式旋律）。大提琴的热情和中提琴的忧郁合在一起，具有精致的色彩层次，又产生特别的色彩效果，就像是一段表现吉普赛双人舞的场面的音乐。接着，出现了一段刚勇有力的穿插，不时还传出了狂暴的叫喊，如果说前面的“和声式旋律”具有女性特点的话，那么这段穿插则具有男性的特点。穿插过后，第二主题再次出现，不过，是在长笛的三连音背景上出现的，由于是在大调上，相对前面出现在小调时的情况而言，这时则有一种明朗、和谐的安全感。
展开部主要发展第一主题，但不是戏剧性的展开，主要因素在平稳的进行中被大量的重复，大有一种如歌的风貌。
到了再现部一开始处，第一主题却不见了，几经发展，第一主题保留到整个乐章最精彩的一刻才出现。这时候，已到达尾声阶段，音乐速度已经减缓。尾声是从勃拉姆斯最为喜爱的法国号开始的，它在弦乐器组的衬托下，宛如富有诗意和特别动人的独白（很接近朗诵），最后几个小节几乎是深沉的安宁和寂静，一切又回归到大自然。
第二乐章，充分展示了勃拉姆斯卓越的复调思维才能，音乐表现了沉思、壮美的、严峻的情绪。第一主题由大提琴和大管的对位演奏开始：由于是两种不同乐器——弦乐和木管的结合，融合性到底比相同乐器结合时差些。但这样一来却加强了两个声部的对比，突出了各自的音乐形象，使总体音乐形象丰富多彩。接在这一主题之后，法国号、双簧管和长笛引进了一个由新动机构成的赋格段，也是复调手法。使用的都是木管音色（法国号虽为铜管乐器，但常常作为木管乐器使用），表现的是郁郁不欢的神态。第二主题以切分节奏的形式出现了，它与前面的形象形成鲜明的对照，使音乐发展更具动力。
第三主题出现时，上面声部由音符时值中庸的进行构成，下面声部则以流畅的十六分音运动，从而加强了第二乐章紧张的戏剧性激情，使音乐在具有动力的同时也颇具复杂性。
整个第二乐章属于柔板乐章，它是勃拉姆斯崇高的哲学抒情诗中最独特的篇章。大量的复调手法突出了哲理性，复调运用中的多个声部同时进行，也更好体现了人类思维的多绪性，而这些又是建立在明朗而欢快的基调上。这些完全不亚于布鲁克纳交响曲中著名的慢板乐章，甚至在表现手法上比之更简练、紧凑，是一部世间少有的杰作。
第三乐章，复三部曲式写成，因其中穿插进两个乐段，因此又有点接近于回旋曲式。这个乐章是一首优美的小夜曲。它十分娇媚优雅，那奇特的节奏很自然地使人想到舞蹈的形象，或者说维也纳慢速度的连德勒舞曲（阿尔卑斯山民间对舞，舞伴面对面，女伴双手搭在男伴肩上，男伴双手扶住女伴的腰，等等）或圆舞曲。
第一主题一开始就在双簧管上明晰地奏出，背景有大提琴拨弦节奏以及单簧管和大管和声进行。这是一支朴素、典雅而有点伤感的旋律：这个三拍子的第一主题，风格上再现了古老的维也纳魅力，它同作者的《C大调小夜曲》中的小步舞曲也很相像。乐章的第一个“中段”，是从第一主题发展出来的，但在节拍上改变了。速度骤然加快，即使是音符的时值上也是由原来的四分音符变成了八分音符，还带有跳音，就像是门德尔松《仲夏夜之梦》中那些小精灵翩翩起舞的形象。
但这并不是真正的中段，仍属于第一主题的范围，等到新闯入进来一个新的素材的时候，乐章才进入真正的中段，而此时节拍又有所变换了。可以听出它是典型的匈牙利吉普赛的音调，我们甚至可从中看到欢呼雀跃的舞蹈场面。
在音乐将近结束的时候，第一主题不断在大调和小调之间游弋，从而带来了明与暗、乐与悲的色彩。这个乐章，属于一种默默的欢乐，轻微的伤感与激奋的热情的结合，感情十分微妙。
第四乐章，用奏鸣曲式写成，这是勃拉姆斯得意之作。它形象地再现了民间节日欢乐的五彩缤纷的画面，是一首充满坚毅力量和热情欢乐的终曲。在这个乐章里，勃拉姆斯集古典大师风采为一体，使音乐有海顿那样的活泼而有生气，也有莫扎特那样的温柔而多情善感，还有贝多芬那种刚勇而精力充沛的精神。
第一主题开始由弦乐器奏出，力度轻微而具有叙述性。
主题具有内在的活力，特别在它以强力度重复出现的时候，巨大的鸣响显示出明朗、光辉的形象，就此奠定了整个乐章的欢乐气氛。从这个主题的音乐中，我们仿佛看到一座堂皇的大厦正在建立。
第二主题步调宽广，有点带有诉说性质，一拍一个四分音符而具有进行曲风格，音乐由较低的位置慢慢向上发展，表现出一种期望可以实现的满足感。这样的情绪，可能因为勃拉姆斯在写这部交响曲时正处于潇洒阶段的缘故。
展开部以第一主题作为主要展开素材，通过各个层次的对比、切分节奏强调出强有力的和弦、雄健的管乐台奏。音乐在急速中行进，贴切地表现出一个盛大的欢乐庆典，让我们看到了一个巨大的民间游乐场面，一个人山人海的狂欢节日场面。当音乐进行快到再现部时，一个静态的田园风光跳入我们的眼帘，音乐的这个插段像是故意给听众一个呼吸的机会。
随着欢声再起，音乐进入了再现部，并且在尾声中再次形成了一个新的顶点，到达了欢喜若狂的程度，使全曲在一片欢呼声中宣告结束，这也是给第二交响曲划上了一个圆满的句号。然而也在听众的心中深深的植入了美妙的感受，一种永不忘怀并会随时升华的感受。