灰鲸体长在10-15米之间，体重达30多吨。全身灰色、暗灰色或蓝灰色，有白色斑点，因此得名，也有人称它是“灰色的岩岸游泳者”，腹面的颜色较淡。身体后部的皮肤上凹凸不平，主要是被岩石或砂擦伤以及藤壶等寄生动物附着后留下的伤疤所形成的赖皮状皮肤。它的眼睛为卵圆形，位于口角的后面，比其他须鲸类的眼睛的位置靠上，上眼睑略长。耳孔较大，可以插入一枝铅笔，位于眼睛与鳍肢的基部之间。鲸须为淡黄色、每侧大约为140-180枚，长度为40一50厘米。须板较厚，须毛粗糙，整个须板给人以沉重的感觉。它头上的毛也较其他须鲸类多，排列不太规则，上、下颌的前端最多，毛的基部不形成瘤状隆起。舌狭而厚，前端灰色，其余部分为粉红色。鳍肢上有4指，缺少第一指。