汉武帝的时候，有位大臣叫汲黯。他为人正直，对皇帝也敢当面提出意见，所以汉武帝虽然不太喜欢他，但又不得不尊重他。
汲黯是位老臣，当汉武帝还是太子时，他的职位就比较高了，可是后来他再也没有得到升迁，而他手下的人却一个个不断得到提拔，超过了他，这使汲黯很不舒服。
有一次，他终于忍耐不住，对汉武帝说：“你任用大臣的办法，就像堆放柴禾一样，越是后来的就越放在上边呀！”（原文是“陛下用群臣，如积薪耳，后来者居上。”）汉武帝知道他是在发泄对自己的不满，也就默默地听了。
“后来者居上”这句话经过演变，成了“后来居上”这句成语。“居”是在的意思。汲黯的原话是对汉武帝的批评、讽刺，意思是资格浅的、后来的人尽管缺乏才能，但反而超过了资格老的人。现在这句成语的意义有了变化，而是用来形容和赞扬后来的人超过了前人。
