王祥在朝廷作大官的时候，正是司马氏横行的年代。甘露五年，曹髦被司马氏兄弟杀死。这时，朝廷中人人自危，王祥却抱着小皇帝的尸体大哭，并高喊：“老臣无状。”这个行为一方面表示了他对旧主的忠心，使其他人“面有愧色”。另一方面，这“老臣无状”的自责又把错误都推到了高贵乡公身上，替司马兄弟的丑行进行了开脱。聪明绝顶的司马兄弟怎能不领情？于是，孝友忠义并且勇于批评和自我批评的老王祥不但没有受到牵连，反而升为三公。
咸熙二年，也就是晋取代魏的前一年，司马昭被封为晋王，同为三公的何曾、顾顗和王祥前去庆贺。前两者都是晋公的心腹，事前和王祥商量是不是要跪拜。王祥危言道：“相国诚为尊贵，然是魏之宰相。吾等魏之三公，公王相去，一阶而已，班例大同，安有天子三司而辄拜人者！损魏朝之望，亏晋王之德，君子爱人以礼，吾不为也。”拒绝向司马昭跪拜，看起来象是很有骨梗之气，其实这仅仅是一方面。另一方面，三公在晋公面前下跪磕头，确实容易让司马昭难堪，这么做也算是替司马氏考虑。司马昭自然也对这件事情心知肚明。
入晋之后，王祥坦然迎纳新朝。不过他年岁已高，又知道自己不是司马家的心腹，便提出退休的要求。司马炎在屡请之下最终用高调厚赏打发了这位老臣，既成全了王祥，又美化了自己。
王览似乎无甚特意之处，但也像他哥哥那样，没犯什么大错误，最后也得以光荣退休。
曾经一手提拔王祥的吕虔有一把配刀，据说此刀只有位列三公的人才能佩带，否则反受其殃。爱才而且知趣的他似乎预感到了王祥家族的昌盛，便把这把刀赠给了当时的别驾。据说王祥死前又把这把刀转赠弟弟王览，并对他说：“汝后必兴，足称此刀。”非常巧的是，此后叱咤六朝的王家世族，绝大多数是王览的后代。于是，这把佩刀和孝感河一样，成为了王家精神的象征，与琅琊王氏家族共始终。
王祥临死前还给后代留下了遗训，内容为：“夫生之有死，自然之理。吾年八十有五，启手何恨。不有遗言，使尔无述。吾生值季末，登庸历试，无毗佐之勋，没无以报。气绝但洗手足，不须沐浴，勿缠尸，皆浣故衣，随时所服。所赐山玄玉佩、卫氏玉玦、绶笥皆勿以敛。西芒上土自坚贞，勿用甓石，勿起坟陇。穿深二丈，椁取容棺。勿作前堂、布几筵、置书箱镜奁之具，棺前但可施床榻而已。糒脯各一盘，玄酒一杯，为朝夕奠。家人大小不须送丧，大小祥乃设特牲。无违余命！高柴泣血三年，夫子谓之愚。闵子除丧出见，援琴切切而哀，仲尼谓之孝。故哭泣之哀，日月降杀，饮食之宜，自有制度。夫言行可覆，信之至也；推美引过，德之至也；扬名显亲，孝之至也；兄弟怡怡，宗族欣欣，悌之至也；临财莫过乎让：此五者，立身之本。颜子所以为命，未之思也，夫何远之有！”
言行可覆，信之至也；推美引过，德之至也；扬名显亲，孝之至也；兄弟怡怡，宗族欣欣，悌之至也；临财莫过乎让。这五条，从此也成了王家的家风指导。其后人虽偶有违逆，却大体上被后人遵循了下来，尤其是“扬名显亲”和“宗族欣欣”，成为了琅琊王氏家族几百年间的处世准则。
司马家族东渡后，王姓家族一举走上了权利的巅峰，司马睿从东渡到登基，主要依赖了王导、王敦兄弟的大力支持。在此期间，王导位高权重，联合南北士族，运筹帷幄，纵横捭阖，政令己出。王敦则总掌兵权，专任征伐，后来又坐镇荆州，控制建康。王氏兄弟权倾内外，司马睿不过是徒有虚名而已。登基大典那天，皇帝司马睿突然拉住大臣王导同升御床，一同接受群臣的朝贺，表示愿与王氏共有天下的意向。但天无二日，王导吓了一跳，连忙推辞说：”太阳岂能与万物同辉，君臣名分是有区别的”，晋元帝才没有勉强他。但司马睿对王导始终十分尊敬，称王导为”仲父”。历元、明、成三朝，王导的地位一直十分崇高。成帝给王导的手诏总是用”惶恐言”、”顿首言”、”敬白”之类的语言，他还亲自驾临王导的府邸，礼敬王导的妻子。王导每次上朝，晋元帝都要起立相迎。所以才有了”王与马，共天下”典故，天下无人可比。
盛极必衰自古使然，“一个大门第，决非全赖于外在之权势与财力，而能保泰持盈达于数百年之久；更非清虚与奢汰，所能使闺门雍睦，子弟循谨，维持此门第于不衰。王氏极重家教门风，孝弟妇德，皆从两汉儒学传来。诗文艺术，皆有卓越之造诣；经史著述，亦灿然可观；品德高洁，堪称中国史上第一、第二流人物者，亦复多有。但门阀士族的权势，随之东晋的没落，也走了下坡路，事实上整个门阀势力，在刘宋时就已开始走下坡路。从刘宋时起，皇帝在地方设立典签以监视诸王和门阀士族，发现有逆动，立即铲除。