这个成语故事出自唐代王昌龄《芙蓉楼送辛渐》诗。冰心:洁净、纯洁的心。
王昌龄三十岁那年中进士步入官场以后，恰是唐玄宗和杨贵妃日益荒淫并宠信权奸、藩镇的时候，国政日趋腐败，兵祸连年，他便通过边塞、宫怨、闺怨、赠答等多种形式的抒情诗，对此进行不同程度的揭露和鞭挞。与此同时，王昌龄又对为维护国家的统一而战的正义战争，进行热情的讴歌。在《从军行》中，王昌龄便热情地歌颂了边疆战士为保卫祖国与敌人拼死战斗的决心和英雄气概。全诗共四句:
青海长云暗雪山，孤城遥望玉门关。
黄沙百战穿金甲，不破楼兰终不还。
青海:即青海湖，唐时为吐蕃奴隶主贵族盘踞的地方，唐代的一大边患;玉门关:地名，今甘肃敦煌县西，这里为唐时另一边患 --突厥侵犯之地;穿:磨破;破楼兰:借用汉代一个典故，指平定边境奴隶主的侵扰。
诗的大意是:有这么一个边塞要地，那里战云翻滚，南拒吐蕃、西临突厥的袭扰。战士们终年生活、战斗在荒漠之地，铁甲被磨破了，但大家士气十分高昂，下定决心不打败敌人决不回还。
由于王昌龄对权贵豪门的触犯，虽一再被贬，但他仍以心地透明纯洁自慰。他在最为有名的《芙蓉楼送辛渐》诗里就有表露。这首诗共四句:
寒雨连江夜入吴，平明送客楚山孤。
洛阳亲友如相问，一片冰心在玉壶。
平明:早晨微明时;楚山:指芙蓉楼所在的江苏常州一带的山，战国时属楚，故名;冰心:形容性情淡泊，不热衷于功名。
诗的大意是:夜里寒气逼人的秋雨，落入吴地，与江水连成了一片。平明时分，就要送你(指辛渐)前去洛阳了，此时我那孤寂的心情，看楚山也觉得它格外孤单。你回到洛阳后，如果洛阳的亲友们问起我，就说我那颗冰玉般的心，像放在玉壶中那么明净纯洁。
后来，人们便由“一片冰心在玉壶”这句诗里引出“一片冰心”这个成语，用来比喻正直纯洁、清廉自守，决不与邪恶同流合污的品德。
,
