根据史书三国志中记载伯牙在西晋朝廷的地位书记官，一种随军低级军官。却说蜀将吴班领先锋之印，自出川以来，所到之处，望风而降，兵不血刃，直到宜都。探知孙桓在彼下寨，飞奏先主。时先主已到秭归，闻奏怒曰：“量此小儿，安敢与朕抗耶！”关兴奏曰：“既孙权令此子为将，不劳陛下遣大将，臣愿往擒之。”先主曰：“朕正欲观汝壮气。”即命关兴前往。
伯牙当时的地位很高，伯牙是晋国的上大夫。
大夫是先秦时期的官名，大夫的地位很高，是天子的近臣。伯牙相当于后世的丞相。伯牙是天子的斤臣，他是一个楚国人，但是在晋国当大夫。大夫”在春秋时期属于一级爵位，同时又兼任一定的官职，有较高实权。
