1964年11月初，于右任进入了生命的最后时刻，他非常虚弱，已无法讲话，时而昏迷时而清醒。他的老部下杨亮功来看望他，俯在他耳边问他还有什么事要交待，于右任对他伸出一个手指，接着又伸出三个手指。
杨亮功没明白他的意思，想了想猜测道：“您是想三公子于中令了吗？”病床上的于右任摇了摇头。
杨亮功又试探着问了几句，于右任仍然摇头。他的身体微微颤动，因杨亮功没明白他的意思，显得有些着急。
见状，杨亮功赶忙俯在他耳边安慰道：“院长，等过二天您身体好一些，我再来问您，好吗？”
于右任这才平静下来，微微点了点头。
但此后，于右任的病情一天比一天沉重，没等杨亮功问清他想表达的意思，他竟于几天后溘然长逝，并被安葬在台湾淡水镇光明里海拔七百余米的山顶上。
有人为弄清于右任弥留之际的牵挂，对老先生去世前几年的所思所想进行了分析：
晚年不得志，分外想念大陆的亲人1949年初，国民党军队节节败退，政权已濒临崩溃。早已看透了国民党和蒋介石的于右任心灰意冷，向蒋介石提出辞去“监察院”院长一职，在蒋的极力挽留下，才勉强答应继续干下去。
不久后，中共领导人周恩来让于右任的女婿屈武转告他：我们渡江占领南京时，希望他在南方不要动，到时会派飞机接他去北平，将来组建新政协时，携手合作。
于右任听到这个消息非常高兴，他与中共领导人毛泽东、周恩来等很久之前就建立起了良好的关系，他热烈地期盼那一天的到来。
解放军打过长江后，于右任本以为他将被接往北平，不料，国民党方面却先行了一步。
国民党派人来到于公馆，来人对于右任说：“共军已经突破江防，请院长即刻离开南京。飞机已经准备好了。”
不想走的于右任推脱说：“现在我身体不好，等一等再说好了。”
来人坚持说：“情况紧急，必须马上离开南京！”没等于右任把衣服穿好，就强使他上车驰往机场。
辗转多地后，1949年11月29日，于右任被迫飞往台湾。飞机飞上天的一刹那，大陆便在于右任难以割舍的目光里成为一个遥不可及的背景，永远也不得亲近了。于右任的原配夫人高仲林、长女于芝秀等亲人留在了大陆，一家人从此天各一方。
于右任到台湾后，蒋介石因他在大陆期间与共产党交往密切，渐渐与他疏远，被边缘化了的于右任在失落与孤寂中进入了晚年。
与于右任相熟的人这样描述于右任的晚年景象：
“在他生命的最后两年，他痛苦的日子比快乐的日子多。在风雨的黄昏，常常看到他独自一人坐在书房中打盹，一本线装书滑落在地上。那象征着一个老人的寂寞…他的门前，人愈来愈少，每年除了过生日那天热闹一阵子，平常已是“门前冷落车马稀”了。”
在台湾的于右任不但门前冷落，在经济方面也非常紧张。
到台湾后，他住在一处小宅子里，院落很小，一条出入必经过的水泥小路年久失修，上面长满了青苔，于右任每次走过都得小心翼翼，不然很容易滑倒。
在台湾，物价不断上涨，加上于右任乐善好施，有人求助他就会慷慨解囊，这使他逐渐入不敷出，每每需向人借钱，甚至借高利贷才能周转。
去世前二年的1962年2月4日，于右任在日记中写道：“春节将近，费用太大，将如之何？”
几天后，又写道：“近来费用太大，实在对不起人。可见他经济方面压力之大。”
二月后，于右任因喉咙发炎住进医院，第二天稍有好转就非要出院，连医生的劝阻也不听。在出院当天的日记里，老先生写出了他的苦衷：“今日早起，疾已轻，有归去之意，开支甚大，如何能继？”
周总理安排人为于右任的老伴祝寿，于右任感动不已于右任赴台后，发妻高仲林与长女留在了原籍，结发妻子高仲林与于右任感情甚笃，于右任后虽又迎娶了四位夫人，但高仲林在于右任的生命里却是极为特殊的存在。
于右任与高仲林相识于1898年。那一年，陕西正闹饥荒，19岁的于右任奉命主持粥场。于右任在粥场发现有一位姑娘每天都扶着两个老太太来喝粥，但自己却从来不吃，这令于右任感到很好奇。
于右任一打听才知道这位姑娘是当地一位庄户人家的闺女，在灾情发生的时候，她家里来了两个老人，老人因饿得走不动了便坐在姑娘家屋檐下想讨口吃的，但姑娘家里却拿不出食物来接济老人，又不好赶老人走。于是，姑娘只好每天带两位老人来粥场喝粥。在粥场，姑娘除了照顾两位老人，还力所能及地做一些帮助其他灾民的事情。
于右任得知详情后非常感动，觉得这位姑娘心地善良，对这位小自己两岁的姑娘产生了爱慕之意，便托人上门去提亲。姑娘在粥场见过于右任，印象还不错，就答应了这门亲事。不久，于右任就与这位姑娘结为夫妻。这位姑娘就是高仲林。
1900年，八国联军攻陷北京，慈禧、光绪帝出逃西安，于右任所在的陕西中学堂校舍因为慈禧“扩充行宫”被拆除，师生被扫地出门，无事可做的于右任带着妻子高仲林回到老家三原，于右任因不满慈禧的腐败，开始写一些撞击时政的诗文，遭清廷下令拿办，于右任逃往上海等地。
与丈夫分离后，高仲林在老家三原侍奉老人，照看幼女，一个人挑起于家门户。
高仲林时时挂念着于右任，为于右任做鞋做衣，于右任所穿青鞋、白袜、衫褂、衣裤都是发妻高仲林一针一线缝制的。
于右任离开大陆被迫去台湾时，身上便穿着高仲林缝制的布鞋和布袜，到台湾后，于右任便将鞋袜收藏起来留作纪念，每当想起发妻，他便会将鞋袜拿在手里反复摩挲以寄托相思之情。
到台湾整七年后，于右任通过香港友人吴季玉，终于和大陆的亲人取得了联系，欣喜异常的于右任给妻女写了一封饱含深情的信，在信中倾吐自己对她们的思念之情，并拿出仅有的600台币，托吴季玉给妻女捎去。
1958年，是于右任与发妻高仲林结婚六十周年，金婚纪念日前夕，于右任分外思念发妻，他拿出发妻为他亲手缝制的鞋袜，抚摸良久，泪流不止。这种思念不是一天两天，而是数十年之漫长，耄耋之年的于右任已经不起这种思念之痛了。
心绪难平的于右任挥笔写下了《忆内子高仲林》一诗：
两戒河山一支箫，凄风吹断咸阳桥。白头夫妇白头泪，留待金婚第一宵。
1961年，快到高仲林八十寿辰的时候，牢牢记得这一天的于右任因无法亲自给老伴祝寿而分外的伤感，他在3月初给友人吴季玉的信中说：“今年是我老伴的八十寿辰，可惜我不在大陆，今年她的生日一定会很冷落，不会有人理睬她的，想到这点我十分伤心。”
吴季玉看到信后，立即告知同在香港的章士钊，章士钊将此事汇报给了周总理。
周总理立即委派于右任的女婿屈武去西安，为高仲林老太太办八十大寿。屈武召集了亲朋故友二十多人为高老太太办了一场隆重的寿辰，并将祝寿的照片托人带给于右任，看到照片上老伴幸福的笑容，于右任热泪长流。周总理的悉心安排使他十分感动，也使他更加思念大陆，思念亲人。
对故乡和亲人的思念和牵挂成了于右任晚年生命的最后支撑。于右任开始盼望着自己能够长寿，他很担心自己活不长久，担心自己无法再回到祖国大陆，无法活到见到老伴的那一天。
他的担心最终却成为了现实…
1963年9月，为于右任与大陆联系创造方便的吴季玉在台湾被国民党特务暗杀，听到这个噩耗，于右任悲痛欲绝，他亲赴吊唁，抚在吴季玉的尸体上号啕大哭，终因哀伤过度病倒在床。
已经八十四岁的于右任身体本就脆弱不堪，受此打击后，便一病不起。
稍早前，于右任便感身体不适，他自感到回大陆与亲人团聚的愿望恐怕难以实现了，于是便在日记里写下了对身后事的安排：
“我百年后，愿葬于玉山或阿里山树木多的高处，可以时时望大陆。我之故乡，是中国大陆。”
不久，他又在日记里写道：
“葬我在台北近处高山之上亦可，但是山要最高者。”
“我想葬在高山上，及今思之，如大太太何。不如说十年后非我子孙将我俩合葬。”
几天后，于右任在对故乡的无比思念中写下了那首《望故乡》。
这之后，不到一年的光景，于右任身体越发虚弱，由于经济方面非常拮据，他不得不一再拖延入院治疗的时间，直到病发三周后才入院医治。
入院后，自感时日无多的于右任曾想要写一份遗嘱，但千言万语竟不知如何下笔。三番五次地写了撕，撕了又写。怀着对祖国大陆和亲人的万般思念，于右任却未能留下一言。
在弥留之际，只对老部下杨亮功伸出一个指头，接着又伸出三个指头，急切地想表达些什么。
经过对于右任老先生晚年的所思所想所展开的分析和梳理，老先生临终时做作的手势的意思最终被一位非常了解老先生的记者所“破解”。
这位记者认为：于右任伸出的一根手指是希望祖国早日统一，而三根手指则是指他的老家陕西三原县。老先生是想着祖国统一后，能到老家三原县看一看，或者有一天能将他的尸骨运回大陆，运回陕西三原县与发妻合葬在一起。
晚年的于右任先生非常渴望叶落归根，但终未能如愿。浅浅的海峡，成了他跨不过去的一道鸿沟，他只能在台湾淡水镇光明里海拔七百余米的山上隔着海峡眺望大陆，将刻骨铭心的思念倾注在他所作的这首《望故乡》诗中：
葬我于高山之上兮，望我故乡；故乡不可见兮，永不能忘。
葬我于高山之上兮，望我大陆；大陆不可见兮，只有痛哭。
天苍苍，野茫茫，山之上，国有殇！
2014年岁末，来自祖国大陆，于右任先生故乡陕西的60余名乡党带着三原故里的土、泾河渭河的水，还有家乡的特产来到台湾阳明山上祭慰于公。
于右任的后人轻唤了一声：
“爷爷！我们来看你老人家了，这一趟，我们来得并不容易。这一湾浅浅的海峡，当年是您难以逾越的生死线。历史曲曲折折，让我们等了半个世纪。”
于右任的后人将故乡的黄土、泾渭的河水轻轻扬撒在于公的坟冢之上，以慰藉他那绵绵的乡愁……
,
