以至于就连吴人都不首接叫他名字，而是称呼为羊公。等到公元二七八年羊祜去世后，长江两岸人民如丧考妣，哭声一片，襄阳百姓自发的在羊祜常去的岘山立碑建庙，每年按时祭祀，看到碑的人都忍不住流泪，而此碑也就被称为堕泪碑。什么是好官，羊公就是。考虑到灭吴必用水军，羊祜向司马炎建议任命王濬为益州刺史，秘密造船。公元二七六年，羊公上《平吴策》详细如下：先帝顺天应时，西平巴蜀，南和吴会，海内得以休息，兆庶有乐安之心。而吴复背信，使边事更兴。夫期运虽天所授，而功业必由人而成，不一大举扫灭，则众役无时得安。亦所以隆先帝之勋，成无为之化也。故尧有丹水之伐，舜有三苗之征，咸以宁静宇宙，戢兵和众者也。蜀平之时，天下皆谓吴当并亡，自此来十三年，是谓一周，平定之期复在今日矣。议者常言吴楚有道后服，无礼先强，此乃谓侯之时耳。当今一统，不得与古同谕。夫适道之论，皆未应权，是故谋之虽多，而决之欲独。凡以险阻得存者，谓所敌者同，力足自固。苟其轻重不齐，强弱异势，则智士不能谋，而险阻不可保也。蜀之为国，非不险也，高山寻云霓，深谷肆无景，束马悬车，然后得济，皆言一夫荷戟，千人莫当。及进兵之日，曾无籓篱之限，斩将搴旗，伏尸数万，乘胜席卷，径至成都，汉中诸城，皆鸟栖而不敢出。非皆无战心，诚力不足相抗。至刘禅降服，诸营堡者索然俱散。今江淮之难，不过剑阁；山川之险，不过岷汉；孙皓之暴，侈于刘禅；吴人之困，甚于巴蜀。而大晋兵众，多于前世；资储器械，盛于往时；今不于此平吴，而更阻兵相守，征夫苦役，日寻干戈，经历盛衰