1937年，"八-一三"淞沪抗战爆发后，上海文化界成立演剧队，在抗日民族统一战线的旗帜下到全国各地宣传抗日救亡。音乐家贺绿汀怀着对侵略者的强烈仇恨，参加了上海救亡演剧一队。
1937年冬，上海救亡演剧一队辗转来到山西抗日前线，为抗日部队演出，受到热烈欢迎，引起强烈反响。年底，他们到达山西重镇临汾。在城郊的一个八路军办事处(现在临汾尧都区刘村镇)，他们与指战员有了更直接的接触，并对游击战法产生了浓厚的兴趣。尤其在听取了朱德、任弼时、贺龙等首长的报告，从而，对抗日战争的形势和策略有了进一步的了解，认识到，要彻底打败日本侵略者，不仅要靠正规战，也要靠运动战、游击战。那是一个月黑风高的晚上，贺绿汀对着小小的油灯，将那些零碎、片断的音乐形象一下子缀成一个整体，连词带曲，一气呵成创作出了歌曲《游击队歌》。
由于这首歌曲准确刻画出游击健儿机智、灵活的英雄形象，其歌词更接近红军游击战法，尤其是"没有吃，没有穿，自有那敌人送上前，没有枪，没有炮，敌人给我们造"两句与会议的主题还十分贴近，故受到与会的朱德、刘伯承、贺龙、任弼时等高级将领的一致好评，认为当时部队正需要这样的歌曲。
新中国建立以后，《游击队歌》一直在全军中广泛传唱，并多次列入总政治部向全军推荐的歌曲，成为红军歌咏活动的必唱曲目。《游击队歌》也曾有其各种改编曲，其中作为军乐曲的《游击队歌》更为动人。
