山村聪于一九一零年（明治四十三年）二月二十四日出生在日本奈良县天理市。他先后就读于神户第一中学、第一高等学校，并最终毕业于东京帝国大学文学部。完成学业后，他加入了研究性质的剧团“太阳座”，并在战前积极参与了包括文化座在内的多个剧团舞台演出，积累了丰富的表演经验。一九四六年（昭和二十一年），他首次登上大银幕，出演了电影《命ある限り》。一九五零年（昭和二十五年），山村聪因主演由著名导演小津安二郎执导的作品《宗方姐妹》而荣获第一届蓝丝带奖最佳男主角奖，这标志着他演艺事业的一个重要高峰。一九五二年（昭和二十七年），他与东宝砧摄影所的演艺部长山田典吾共同创立了制作公司“现代ぷろだくしょん”，并于次年推出了自己首部执导的电影作品《蟹工船》，从而拓展了其在电影领域的创作角色。 自一九六零年（昭和三十五年）起，山村聪广泛活跃于时代剧领域，相继参演了《ただいま11人》、《あゝ忠臣蔵》、《春の坂道》、《必杀仕挂人》、《华丽なる一族》、《柳生一族的阴谋》、《服部半蔵 影の军団》、《ザ・ハングマン》等多部作品，以其沉稳深刻的演技塑造了许多令人印象深刻的角色。一九七零年（昭和四十五年），他参与了日美合拍的战争巨制《虎！虎！虎！》，在片中饰演了联合舰队司令官山本五十六一角（该片最初由黑泽明参与执导，但其后退出）。一九七七年（昭和五十二年），为表彰其在艺术文化领域的卓越贡献，山村聪被授予紫绶褒章。二零零零年（平成十二年）五月二十六日下午四时四十分，他因急性心肌梗塞在东京都中野区的一家医院逝世，享年九十岁，其艺术生涯就此落下帷幕。