劉遵祖少為殷中軍所知，稱之於庾公。庾公甚忻然，便取為佐。既見，坐之獨榻上與語。劉爾日殊不稱，庾小失望，遂名之為“羊公鶴”。昔羊叔子有鶴善舞，嘗向客稱之。客試使驅來，氃氋而不肯舞。故稱比之。

　　公事不私议。

　　王汝南既除所生服，遂停墓所。兄子濟每來拜墓，略不過叔，叔亦不候。濟脫時過，止寒溫而已。後聊試問近事，答對甚有音辭，出濟意外，濟極惋愕。仍與語，轉造清微。濟先略無子侄之敬，既聞其言，不覺懍然，心形俱肅。遂留共語，彌日累夜。濟雖俊爽，自視缺然，乃喟然嘆曰：“家有名士，三十年而不知！”濟去，叔送至門。濟從騎有壹馬，絕難乘，少能騎者。濟聊問叔：“好騎乘不？”曰：“亦好爾。”濟又使騎難乘馬，叔姿形既妙，回策如縈，名騎無以過之。濟益嘆其難測，非復壹事。既還，渾問濟：“何以暫行累日？”濟曰：“始得壹叔。”渾問其故？濟具嘆述如此。渾曰：“何如我？”濟曰：“濟以上人。”武帝每見濟，輒以湛調之曰：“卿家癡叔死未？”濟常無以答。既而得叔，後武帝又問如前，濟曰：“臣叔不癡。”稱其實美。帝曰：“誰比？”濟曰：“山濤以下，魏舒以上。”於是顯名。年二十八，始宦。