一是“叶落归根”的意识。所谓的“树高千丈，叶落归根。”树木从发芽到长大，无论树有多高，当树叶变黄时，它都会回落到它所生的土壤上。古人也是一样的，当他们年轻时，他们出去闯荡，成为一名官员。但是当他年老的时候，他应该回到自己的家乡。
此外，中国古代社会是一个“祖先崇拜”和“家天下”社会。家庭，家族的概念非常强大，一旦你出生，你将进入家谱。去世后，墓地应该进入家族的祖先坟墓，灵位将被放置在家族的祠堂里。
当一名官员身体不行请求退休时，他实际上是要面临死亡问题。换句话说，他死后应该埋葬在哪里。当然，必须在祖坟里。但如果你住在他乡并且死了，怎么把你的身体运到你的家乡？
古时候的交通不发达，这显然是一件非常困难的事情。此外，在古人的概念中，一个人死后，他的身体不能随便移动。如果你住在外地，在你去世后遗体再被送回家乡，那显然是不合适的。
二是“乡村贤达”的作用。古代官员退役后，他基本没有工作上的事情要处理了。通常他们回到家乡，继续发挥余热。但是，古代农村地区面积很大，交通不发达。
总会有各种各样的事情，如在当地发生争吵纠纷，这些事情必须要解决，显然不可能依靠县政府。因此，它通常依赖于“乡村贤达”来解决了。但如果该地区有退休官员，这些退休官员扮演着最重要的角色。
一般来说能做到京官的，都是一些朝廷要员，如果退休后还留在京城，一朝天子一朝臣，总不免让帝王担心会结党营私。而且古人对荣归故里有着根深蒂固的思想，退休后回到老家正是光耀门楣的好机会，因此古代官员退休后都不留在京城。
古代这官员与帝王之间，虽说是一主一仆的关系，但毕竟当朝大员们手中，被帝王赋予一些权力，因此这些官员多多少少在前朝之上有些影响力。如果帝王对其非常信任，官员的势力在帝王眼中就是如虎添翼的助力，但如果新帝继位，或者说官员已经失去了帝王的信任，那么曾经昔日荣耀加身的权力，就会成为他日锒铛入狱，身败名裂的一把刀。
这时官员为了自保，一般都会向帝王请辞。帝王批准后，官员就可以远离朝堂。虽然官员已经退出朝堂，但如果还留在京城，按照古人的社交理念，不是下属来探望，就是曾经的同僚来叙旧，还有提拔过的学生没事叨扰几下，也许这些只是普通社交，但在敏感多疑的帝王眼中，估计就得嘀咕这官员是不是在结党营私。一旦让帝王不放心，就算已经离开了朝堂，君要臣死臣也不得不死。所以为了让帝王安心，也为了让自己有个善终，一般京官退休后，都会远离京城。
当然也不是所有的官员都是因为被帝王猜忌，才会被迫退休，也有很多官员就是干到老，实在干不下去了，才会退休。这样的官员一生都得到帝王的重用与信任，自然不必担心帝王猜忌而远离京城。不过古人能够在朝为官，大多都是靠着十年寒窗苦读的努力，千百年来，多少读书人一辈子勤恳读书，最终也无缘仕途。所以一旦考中功名，可以在朝为官，那就是光宗耀祖之事。
不过古代交通信息不发达，除非是考中状元，这样拔尖之人，估计能够远近闻名，一般考中进士举人的，也不一定能够让乡里都知晓。可如果在朝为官多年，并且建树不小，最后还辞官回归故里，那么家乡人肯定就会知道当地出了个这么厉害之人。而且地方官员必然会大肆款待退休的京官，这样家乡人也会受到京官的提携，诸多官员庇护。退休京官也就会成为乡里间，有名望的绅乡。这种荣耀既有寒门子弟一朝跃龙门，跻身官僚阶级的光耀门楣之喜，也有荫护家族子嗣的光荣，因此落叶归根，光宗耀祖就成为古代读书人根深蒂固的思想。
古代的官员制度没有规定具体的退休时间，往往都是要自己上书当今帝王，才能退休。而这些官员退休都是告老还乡的，根本不会停留在京城，也不会在京城养老，都会回到自己的家乡，安度晚年。这是因为古代的京城大官的人脉非常广，因此帝王为了避免他们在京城的背后搅动风云，强制他们退休回乡，而且家乡也是人们的心灵归属。
能在京城当上大官的，一般都是非常有能力的，背后的人脉也是非常广的。帝王会对背后的人脉非常忌惮，一旦朝廷背后的势力壮大了，帝王就不能很好的控制整个国家。因此，帝王为了避免这个退休官员留在京城威胁自己的统治，就强制规定了，要么继续为自己效力，要么退休回到自己的家乡，不能随便回到京城。这样也形成了一个国法，也更好的维护了朝廷的统治的稳定性。强制规定了古代官员退休的方式只有一种，就是告老还乡。
故乡是大部分朝廷官员最初奋斗的地方，有很多小时候的玩伴和自己熟悉的风景，因为古代的交通不便，而且政务繁忙，回到故乡的次数也是很少的，而且回故乡的时间也很少。因此，在大部分的官员当中，故乡是心灵的寄托，是自己白手起家的地方，有这种特殊的感情在里面。因此，官员离开了自己奋斗大半生的岗位之后，回到故乡是他们最好的选择，在小时的玩伴和熟悉的风土人情中，逐渐老去，是一件很多人都追求的事情。因此，回到故乡也是古代官员自己的希望。
古代官员的退休非常复杂，这也是朝廷不希望看到这些老臣在京城的背后搅动格局，影响自己的统治。古代的官员回到故乡也会收到监视，这也是帝王之家的强制政策，再加上家乡本来在中国的传统文化当中有着非常重要的地位，是人们心灵的港湾。告老还乡是帝王也是自己希望的结局。