此曲是张养浩晚年的代表作，也是元散曲中思想性、艺术性完美结合的名作。在他的散曲集《云庄乐府》中，以“山坡羊”曲牌写下的怀古之作有七题九首，其中尤以《潼关怀古》韵味最为沉郁，色彩最为浓重。此曲抚今追昔，由历代王朝的兴衰引到人民百姓的苦难，一针见血地点出了封建统治与人民的对立，表现了作者对历史的思索和对人民的同情。
全曲分三层：第一层（头三句），写潼关雄伟险要的形势。张养浩途经潼关，看到的是“峰峦如聚，波涛如怒”的景象。这层描写潼关壮景，生动形象。第一句写重重叠叠的峰峦，潼关在重重山峦包围之中，一“聚”字让读者眼前呈现出华山飞奔而来之势、群山攒立之状；因地势险要，为古来兵家必争之地。山本是静止的，“如聚”化静为动，一个“聚”字表现了峰峦的众多和动感。第二句写怒涛汹涌的黄河，潼关外黄河之水奔腾澎湃，一“怒”字让读者耳边回响千古不绝的滔滔水声。黄河水是无生命的，而“如怒”则赋予河水以人的情感和意志，一个“怒”字，写出了波涛的汹涌澎湃。“怒”字还把河水人格化，“怒”字注入了诗人吊古伤今而产生的满腔悲愤之情。为此景所动，第三句写潼关位于群山重重包围、黄河寒流其间那除隘之处。“山河表里潼关路”之感便油然而生，至此潼关之气势雄伟窥见一斑，如此险要之地，暗示潼关的险峻，乃为历代兵家必争之地，也由此引发了下文的感慨。
第二层（四一七句）。“望西都”两句，描写了作者西望长安的无限感慨。长安，历史上赫赫有名的汉唐大帝国的国都，历代有多少励精图治的帝皇，曾在此施展过宏图，建树过功业；也曾有过多少无道的昏君，在此滥施淫威，虐杀人民，成为历史的罪人。长安，在这个特定的历史舞台上，演出过多少威武雄壮，悲欢离合的戏剧；又有多少诗人，作家，写过多少有关长安的诗文。特别是人民群众，曾在长安这块土地上流过多少血汗！这就是作者“意踟蹰”的原因和内容吧！
“伤心秦汉”两句，描写了秦汉两代，都已成为历史的陈迹。秦皇汉武曾苦心营造的无数殿堂楼阁，万千水榭庭台，而今都已灰飞烟灭，化为尘土。曾经盛极一时的秦汉王朝，在人民的怒吼声中，都已灭亡，犹如“宫阙万间都做了土”一样。这字里行间寄予了作者多少感慨。
第三层（末四句），总写作者沉痛的感慨：历史上无论哪一个朝代，它们兴盛也罢，败亡也罢，老百姓总是遭殃受苦。一个朝代兴起了，必定大兴土木，修建奢华的宫殿，从而给人民带来巨大的灾难；一个朝代灭亡了，在战争中遭殃的也是人民。他指出历代王朝的兴或亡，带给百姓的都是灾祸和苦难。这是作者从历代帝王的兴亡史中概括出来的一个结论。三层意思环环相扣，层层深入，思想越来越显豁，感情越来越强烈，浑然形成一体。全曲景中藏情情中有景，情景交融。
“兴，百姓苦”两句，指出一个朝代的兴也好，亡也好，受苦的都是老百姓。作者从对历史的概括中提炼出的这一主题是极其鲜明而深刻的，提出的问题是十分重要而尖锐的。它表达了作者对人民的深切同情和对封建统治者的无比愤慨。这一结尾，确实是千锤百炼，一字千钧，语气尖刻而警拔，予以丰富而深沉，是对全曲的一个十分精辟的总结。
《潼关怀古》中对历史的概括，显指元代现实生活：怀古实乃伤今，沉重实乃责任。这种复杂的感情要结合作家的生平经历才能理解。张养浩特殊的仕途经历，决定了他的怀古散曲中有一种参破功名富贵的思想，《骊山怀古》中写到“赢，都做了土；输，都做了土。” 《洛阳怀古》中写到“功，也不长；名，也不长。” 《北邙山怀古》中写到“便是君，也唤不应；便是臣，也唤不应。”这些曲中张养浩把胜负之数、功名之分、生死之际，看成了毫无差别的，只是借古人古事述说富贵无常、人生如梦。只有《潼关怀古》以难得的沉重，以深邃的目光，揭示了封建社会里一条颠扑不破的真理“兴，百姓苦；亡，百姓苦。”
在写法上，作者采用的是层层深入的方式，由写景而怀古，再引发议论，将苍茫的景色、深沉的情感和精辞的议论三者完美结合，让这首小令有了强烈的感染力。字里行间中充满着历史的沧桑感和时代感，既有怀古诗的特色，又有与众不同的沉郁风格。
从作品内容、作家其他怀古作品、同时期其他作家怀古作品三个层面上看，《山坡羊·潼关怀古》都表现为一份难得的沉重。