要说《素书》的由来，离不开“汉初三杰”之首张良张子房。
张良是战国时韩国人，祖上三代都是韩国的丞相，世代名门望族，所以张良也是韩国的贵公子。后来秦始皇统一六国，韩国自然也为秦国所灭，覆巢之下焉有完卵，张良也就从贵公子沦为平民，并与秦始皇结下了国恨家仇。于是张良就在博浪沙伏击秦始皇，雇佣力士椎击秦始皇的车辇。伏击失败后，张良一路逃亡。逃到圯下，遇上了黄石公。
相传这黄石公，是当时的天下第一奇人异士，具有通天彻地的智慧、经天纬地的才能。更有人传说这黄石公，其实就是老子的化身。黄石公眼见天下即将大乱，秦之将亡、汉之将兴，就集尧舜禹汤、文王周公的大智慧，将一统天下、经国济世的宏谋伟略，写成一本1336字、被后人称为“谋略之祖”的旷世奇书，到处寻找传人，但当时并未给此书取名。
后来黄石公在圯下的一座桥上巧遇张良，看到这后生才貌俱佳，就连续三次测试他的人品，这就是著名的“堕履圯下试张良”的故事。连续三个五日的测试，见张良不仅才能上品，人品也合格，认为“孺子可教”，就把这本奇书传给了张良，并且告诉他“读是则为王者师”，意思是说读了这本书，就可以当帝王的老师。而且又严厉地告诫张良：“绝不允许将此书传给不神、不道、不圣、不贤之人，否则将会遭受灾祸；但如果遇到合适的人不传授，也将遭受天谴和灾祸”。
后来秦始皇死在路上，天下大乱群雄并起，张良也拉起一支小队伍反秦。他一边率军作战，一边研读这本深不可测的谋略奇书。但由于战事频繁，他只悟透了这部奇书大约一半的内容。再后来张良率领他这一小股义军投奔了刘邦，合并一处征伐天下，张良也就从此成了刘邦身边最具雄韬伟略的谋士。
这刘邦本来是个乡村布衣、无赖混混，亭长顶多就是个乡长一类的不入流小吏。刘邦后来能够定鼎天下、一统九州，过程中也是充满了艰难险阻。整个与项羽争天下的过程中几乎所有的重大关键决策，奇谋妙计都出自于张良。所以张良对于汉朝的建立居功至伟。比如“先取关中”“暗度陈仓”“下邑之谋”“鸿门斗智”“韩信封齐”“封赏功臣”等等。
所以刘邦后来说：“运筹帷幄、决胜千里，吾不如子房”。这其中，黄石公传给他的这本未命名的天书，给他的智慧提供了决定性的营养。汉朝建立后，张良受黄石公天书中的思想影响，主动避开权力地位之争，看破放下名利、专心道家修行，受到刘邦以及吕后极大的尊崇但没有卷入立国后纷乱的朝局，得以善终。
但是张良整个后半生，一直没有遇到他认为适合传授这本天书的传人。在他的视野里，所有的人都没有同时具备“神、道、圣、贤”这四个必要条件。于是张良死的时候，命人把这本天书密封在他随葬的玉枕中，与他一同埋入了他的墓中。这本张良只悟了一半、就能帮助刘邦得天下的奇书，就此沉入地下、暂离人间五百年。
一直到了西晋年间，盗墓贼盗了张良墓，从玉枕中发现这本天书，此书才又重现于世。但得了此书的人一直奉守黄石公严厉的训诫，不敢轻易示人，历朝历代都只在皇室贵族中流传。后来武则天看到了此书后大惊失色，说：“如此权谋，朕未必过也”，急令焚毁不得传世。但是这本书已在民间得以保全并流传下来。
后来到了宋朝，有一个叫张商英的文人，给这本书作了序，才正式命名为《素书》。
之所以用“素”字命名，大约有以下三层意思：
首先是指书写这本书的材料。郭沫若先生在《李白与杜甫·李白的道教迷信及其觉醒》一文中说：“《素书》是用朱墨写在白绢上的道书。”
其次是说这本书有着“不该传绝不能传，应当传则必须传，否则必遭天谴”禁令和咒语，所以长时间只是隐秘流传。素，是指没见过世面，未流传于世；也有干净纯洁，尚未入世受世俗污染的意思。
再次则是说此书的内容，虽然字数少、但高度浓缩了人世间的大智慧和根本道理。这里的“素”，有万物的朴素本原、真理源头的意思。
关于这本被称为“谋略之祖”的旷世奇书，您有什么样的看法呢？
