“山坡羊”的牌名带有浓郁的乡土气息，且应该源自北方。
曲牌中有“绣鞋”、“纽丝”、“妆台”等物件名比较常见，但牌名中有动物、家畜名则不多见，似乎仅有“羊”一个，如“牧羊关”“山坡羊”“羊头靴”“山羊转五更”等。“山坡”、“羊”往往与北方人的游牧生活联系较紧密。
除了较好早的“山坡里羊”一名外，为显其特点，曲牌“山坡羊”往往还有附加前缀的变称，如“数落山坡羊”“侉调山坡羊”“奋调山坡羊”“吹调山坡羊”等。
此外，还有“苏武持节”一名。元曲“山坡羊”本与“苏武牧羊”没有什么关系，或许只因元明时诸多散曲作家（尤其是汉族曲家）面对现实的怀古之心和悲叹之声，借汉时苏武身处异邦、心系汉室、持节牧羊、深受煎熬的忠贞之心，而将其别称“牧羊曲”改称“苏武持节”。
山坡羊，较好早为宋元时的曲牌名，南北曲均有，常用于剧套与散曲小令。元末周德清《中原音韵》列北曲牌三百三十五调，于中吕宫下“苏武持节”一牌，自注“即‘山坡里羊’”