晉武帝講武於宣武場，帝欲偃武修文，親自臨幸，悉召群臣。山公謂不宜爾，因與諸尚書言孫、吳用兵本意。遂究論，舉坐無不咨嗟。皆曰：“山少傅乃天下名言。”後諸王驕汰，輕遘禍難，於是寇盜處處蟻合，郡國多以無備，不能制服，遂漸熾盛，皆如公言。時人以謂山濤不學孫、吳，而闇與之理會。王夷甫亦嘆雲：“公闇與道合。”

　　人有相羊祜父墓，後應出受命君。祜惡其言，遂掘斷墓後，以壞其勢。相者立視之曰：“猶應出折臂三公。”俄而祜墜馬折臂，位果至公。

　　王戎雲：“太尉神姿高徹，如瑤林瓊樹，自然是風塵外物。”