尚方与尚方署有关，尚方署是官署的名称。汉代尚方在少府属下，是少府的属官。少府创设于秦，汉代为九卿之一，掌管山海池泽工商业的收入，是皇帝的大管家。少府的货物都是皇帝的私人用品。尚方的职责为保管、制作御用的刀剑器物，由尚方署造的剑，自然就可以叫做尚方剑。尚方制作的器物只能在宫中使用，诸侯王、朝臣等是绝对不能染指的。但如果皇帝很欣赏很看重某位重臣，便会赐予他尚方器物，表示荣宠。而赐剑给大臣，更是寄托了皇帝的信赖与希望。
西汉文景时有个大臣叫卫绾，为人朴实厚重，特靠谱，深受汉文帝汉景帝的信任。有一回，汉景帝令他处理特别棘手的公务，先赐给他一把“尚方剑”。卫绾辞谢曰:“先帝赐臣剑凡六，不敢奉诏。”卫绾说，先帝已经赐给臣六把宝剑，不敢再要了。汉景帝听了，大为感动，就更加仰仗信任卫绾了。
汉代以后，皇帝赐剑褒奖大臣追忆功绩的例子，后代史不绝书。
皇帝褒奖大臣，赐剑；皇帝喜欢某人，赐剑。不过尚方剑只象征了荣誉，并没有专断权力的意思。
尚方剑用来杀人的第一例就发生在西汉。汉成帝时丞相是张禹，他兼并土地、聚敛财富、放荡奢侈、骄奢淫逸，权势很大，满朝文武没人敢说什么。这时有个叫朱云的谏臣看不下去了。他给皇帝上了一封奏疏用激烈的言辞抨击了丞相张禹的恶行后，末了写上这么一句:“臣愿赐尚方斩马剑，断佞臣一人以厉其余。”意思是叫皇帝给他一柄“尚方斩马剑”，杀了张禹，就没人敢违纪。
何为“斩马剑”？汉高祖平定天下，消灭异姓诸侯王侯，与列侯们聚在一起，拔出宝剑，斩杀了一匹白马。大家用手指蘸着马血涂在嘴唇上，发誓说:“非刘氏不得封王，非有功不得封侯，如违此约，天下共击之!”能斩杀白马的剑，必定是极为锋利的。朱云此时请“尚方斩马剑”，要汉成帝效仿高帝订立新的盟约，维护大汉江山的长治久安。奈何汉成帝不是汉高祖。听了朱云的谏诤，成帝大怒，令左右把朱云拖下去处死。朱云可真是根硬骨头紧抱着殿前栏杆，就是不走，还和皇帝对呛，据理力争。一边玩命拉边使劲抱，栏杆都被折断了。群臣看不下去了。左将军辛庆忌出来为他求情，朱云才没有被杀头。尽管朱云请斩马剑的努力失败了，但他勇斗权臣的光辉形象却名留史册，以尚方剑除奸佞、赐剑专杀的习惯渐渐形成，不时有人运用。
宋辽金时期，都有过用赐剑专杀权的事例，但多在军政领域。宋代从未在司法领域使用过尚方剑，自然包拯包大人也就没有尚方宝剑，他用的是龙头铡（降龙）、虎头铡(伏虎)、狗头铡(斩犬)分别处置违法乱纪的皇亲国戚、贪官吏和地方黑恶势力。民众把尚方剑安在包大人头上，是因为无比崇敬清官，期盼包青天惩恶扬善的心理。
直到明代，尚方剑才被运用到巡视、军政中，成为正式的制度。有意思的是，这与明代皇权的加强与集中关系密切。明太祖朱元璋开国之初即建立了一套严密的双轨监察制度在中央，有掌管全国监察大权的机构都察院，并设六科给事中对国家的六部进行对口监督;同时，还向地方派出巡按监察御史，按照仓库、茶马盐政、河工等进行专项巡察。在地方，既有总督、巡抚坐镇，又设提刑按察使司负责司法监督，还对十三个省进行分省巡视。皇权集中的一个结 果，便是地方政、军、监各部门缺少独立办事的职责与能力。平时走走文书，不至于出漏子。一旦国家发生变乱，官僚机器便会运转不灵。这时便需要给予臣下专断甚至“专杀”的权力，绕开层层审批、步步掣肘，迅速弭平变乱。
万历二十年(1592年)明神宗先派遣魏学曾持尚方剑督战平叛。不料，魏学曾出师不利，皇帝改派甘肃巡抚叶梦熊顶替魏学曾也给了叶一柄尚方剑，让他节制诸路将领，统一指挥作战。叛乱被如期解决，朝廷尝到了运用尚方剑的甜头。从此大明王朝哪里有危机尚方剑就出现在哪里，赐尚方剑的典礼也越隆重。
三大征后，辽东烽烟四起，东北边防吃紧。督师蓟辽的诸位长官，都賜了尚方剑，令他们平辽，允他们专断专杀。发生在袁崇焕、毛文龙间的一段著名公案，便和尚方剑有关。
天启七年(1627年)崇祯皇帝即位，重新启用了袁崇焕，任命他做蓟辽督师。在皇帝面前袁崇焕许下誓言，保证五年平定辽东！袁崇焕走马上任，第一件事就以阅兵为名奔赴皮岛，给皮岛总兵毛文龙定了十二条罪名，请尚方剑斩了。
到了清代，皇帝明确赐尚方宝剑“代朕亲征”之事，再未出现。
,
