在德意志國防軍體系當中,一直有一股反對希特勒的勢力,其中最厲害的就是「黑色樂隊」。這個反希特勒軍官俱樂部起源,倒是非常硬核:一戰過後德國悲催的結局有很多人不甘心,其中就有魏瑪共和國最後一任總理庫爾特·馮·施萊歇爾(Kurt von Schleicher)將軍,他是當時德國被允許保留的國防軍骨幹,在總部負責軍情秘密行動。借工作之便他秘密成立一個地下軍官團組織,綱領大致也就是要恢復德國的榮光,德國軍隊的容光之類,這與後來希特勒納粹黨那一套不謀而合,所以施萊歇算是最早融入納粹的國防軍高層,他狂熱的在組建衝鋒隊(德語:Sturmabteilung,縮寫:SA,德國納粹黨的武裝組織。因隊員穿褐色制服,又稱褐衫隊,佩戴「卐」字袖標。衝鋒隊於1921年8月3日成立。在成立的宣言中,衝鋒隊發誓願作「鋼鐵的組織」為納粹黨效力和「心甘情願地追隨領袖」)中出了大力,似乎是有意以衝鋒隊為基礎打造新的德國軍隊,一直在為衝鋒隊成為正規軍活動,結果1934年希特勒為跟國防軍達成妥協,出賣了衝鋒隊,施萊歇也在長刀之夜(德語:Nacht der langen Messer,又常稱為羅姆政變(Rhm-Putsch),是發生於納粹德國1934年6月30日至7月2日的清算行動,納粹政權進行了一系列的政治處決,大多數死亡者為納粹衝鋒隊成員,阿道夫·希特勒因無法控制衝鋒隊的街頭暴力並視之為對權力的威脅,故欲除去衝鋒隊及其領導者恩斯特·羅姆。他還想安撫厭惡衝鋒隊的國防軍高層,特別是當羅姆企圖想把國防軍納入自己領導的衝鋒隊之下。最後,希特勒清算其政權的政敵,特別是忠於副總理帕彭的人馬。至少有85人死於清算,不過最後的死亡人數可能達上百個。超過一千的反對者被逮捕,參與行動的大部分是黨衛隊及蓋世太保,此次行動加強並鞏固了國防軍對希特勒的支持)被槍殺,但是也許是職業本能,施萊歇在加入納粹時,並未主動暴露原本自己組建的秘密軍官團,他死後,這些軍官團成員異常憤怒,成立了以刺殺希特勒為他報仇的秘密團隊「黑色樂隊」。