译文为了防备北方的胡人入侵，秦始皇修筑了长城。长城又高又长，上接云霄，沿边屯扎着千军万马。他怎么也无法预料后来起义推翻秦政权，却个个都是在长城内安家的人。
注释秦纪：史书中有关秦国历史的部分。《史记》有《秦本纪》及《秦始皇本纪》。万雉：形容极高极长。城三丈长一丈高为一雉。斩木为竿：指陈胜、吴广等起义。
这首咏史诗围绕秦始皇修筑万里长城一事发表议论。前两句叙写筑城相关情状，首句描绘长城高大宽广，城上驻守万千兵马，极力铺陈城池的坚固与戍守兵力的雄厚，尽显其难以撼动之势；次句点明筑城的目的，是为抵御塞外胡人的进犯，稳固自身政权，希冀帝业能从一世延续至万世。三四句语意陡然转折，指出秦始皇只将外部威胁放在心上，以为有了长城便可高枕无忧，却不懂得体恤百姓，最终引发内乱，陈胜、吴广揭竿而起，秦王朝很快便走向灭亡。诗作揭示出一条历史规律：不修整内政、对百姓残酷压迫，是国家灭亡的根本原因，外敌侵扰反倒只是次要因素。当时宋朝对百姓的盘剥十分严苛，民间怨声载道，诗人明为咏史，实则针砭现实，对当朝统治者发出了警示。
咏史诗若吟咏前人未曾涉及的史事，就需要理清事件的来龙去脉，直接发表议论；若所咏是众人熟知的史实，则务必转换视角、翻出新意，切不可人云亦云。胡仲参这首诗所写的秦因暴政亡国，本是前人多有论述的题材，因此诗作抓住修筑长城防备胡人这一切入点，先肯定长城的高广与防御功用，再从对立面展开阐发，说明秦始皇刻意防范的地方并未出现祸乱，反而是他未曾留意的内部问题，成了亡国的关键。这样的取材与议论方式，既能引人深思，又能带给读者新鲜感。
这首诗的构思布局，与唐代章碣的《焚书坑》颇为相近。章碣诗中讥讽秦始皇提防读书人，最终推翻秦朝的却是不读书的刘邦、项羽，和胡诗一样，都从对立的角度落笔行文。元代陈孚的《博浪沙》则从正面立意，也别有韵味，诗中说秦始皇收缴天下民间铁器，铸成十二金人，却没想到世间仍有铁椎留存，险些让自己遇刺身亡。由此可见，可入诗的素材随处可见，只要细心发掘，就能找到上好的创作题目。