브람스와 각별한 친분이 있었던 당대의 거장 바이올리니스트 요제프 요아힘은 '자유롭게 그러나 고독하게(Frei aber Einsam)'를 삶의 모토로 삼았다고 하며, 브람스는 이 모토의 머리글자를 딴 ‹F.A.E. 주제에 의한 소나타›를 작곡해 요아힘에게 선물하기도 했다.
브람스의 전기작가 막스 칼베크는 브람스가 '자유롭게 그러나 고독하게'를 살짝 비튼 '자유롭게 그러나 즐겁게(Frei aber Froh)'를 교향곡 3번의 모토로 사용했다고 주장했는데, 이것은 학술적으로 그다지 신뢰할 만한 것은 아니다. 다만, 이 작품 곳곳에서 'F-A♭-F' 음형이 반복·변형되는 것은 분명한 사실이며, 전체 악곡의 조성 계획 또한 이 음형과 무관하지 않다.
이 작품의 원 조성은 F장조이고, 2악장과 3악장은 C음을 으뜸음으로 하는 장·단조인데 여기서 C음은 F음의 딸림음(dominant)에 해당한다. 결국, 전체 악곡은 F-C-F의 구조로 되어 있으며, F-A♭-F라는 F단조 화음에 생략된 5음인 C가 악곡의 전개에 중요한(dominant) 역할을 맡고 있다. 게다가 4악장에는 F-C-F라는 거시적인 구조가 다시 한번 축약되어 있기도 해서 전체 악곡이 4악장을 향한 구조적 추진력을 부여한다.
'즐겁게'와 '고독하게'가 공존하는 1악장과 평화로운 2악장을 지나면, 3악장에서는 브람스의 장기라 할 수 있는 애수 가득한 c단조 선율이 느린 왈츠 리듬을 타고 나온다. '살짝 발랄하게'(Poco allegretto)라는 나타냄말이 반어적으로 느껴질 정도로 쓸쓸한 이 악장은, 그래서 템포를 얼마만큼 느리게 할 것인지가 지휘자의 숙제이자 관객의 감상 포인트이기도 하다. 또한 이 악장은 잉그리드 버그먼(잉그리드 베리만) 주연 영화 ‹굿바이 어게인›에 사용된 것으로 유명하며, 영화의 원작은 프랑수아자 사강이 쓴 소설 ‹브람스를 좋아하세요?›이다.
변종 소나타 형식으로 된 4악장은 f단조에서 시작해 역동적인 과정을 거쳐 F장조로 나아가는 짜임새이다. 빠르고 꾸준한 템포로 달리다가 재현부에 이르면, 이제까지 쌓인 음악적 긴장감이 선명한 f단조에 의해 폭발함으로써 악곡의 전체 조성 구조가 절정에 이른다. 코다에 이르러 마침내 F장조가 회복되고, 이미 앞선 f단조 부분에서 모든 긴장을 폭발시켰으므로 일반적인 교향곡과는 달리 평화롭게 끝난다. 이때 연주가 완전히 멈춘 뒤 마지막 몇 초의 여운을 살리는 일은 관객의 몫이다.