小林桂树于1924年出生在日本群马县的一个警察家庭，其童年和少年时期都在此度过。然而，在他中学毕业前夕，家庭遭遇重大变故，父亲不幸病逝，这使他的生活轨迹发生了转折。此后，他不得不离开家乡，迁往千叶县投靠叔父，并在那里继续生活。为了追求学业与理想，他后来考入日本大学专门部艺术科，开始系统学习艺术相关课程。遗憾的是，由于当时经济条件十分拮据，他无力持续支付所需的学费，最终不得不中途辍学，结束了这段校园时光。以上便是小林桂树早年生活与求学经历的一个简要轮廓，并附有一张其早期照片以供参考。
小林桂树于1942年正式加入日活株式会社，并在同年初次登上银幕，参演了由古河圣人执导的电影《微笑之国》。然而次年因日活公司内部重组，他转而进入大映公司，不久后即被征召入伍，前往中国东北地区，直至战争结束后才得以复员。他的演艺生涯在1952年迎来重要转折，彼时他转入东宝株式会社，并陆续出演了《一等社员》、《三等重任》以及《小孩社员》等一系列广受欢迎的喜剧影片。基于这些影片所取得的成功，东宝公司自五十年代后期起，着手拍摄了聚焦工薪阶层日常生活的长篇系列电影《社长》，该系列不断推出续集，持续至七十年代，均由小林桂树与森繁久弥等演员共同担纲主演。1955年，他凭借在今井正导演的作品《这里有泉水》（与岸惠子合作演出）中的精湛表演，荣获当年《每日电影》颁发的最佳男配角奖项。三年后，他在堀川弘通执导的《赤手空拳的大将》中担任主演，因其出色地诠释了天才画家山下清这一复杂角色，成功摘得当年《每日电影》的最佳男主角奖。两年后，他再次与堀川导演合作，通过影片《黑色画集》中的卓越表现，一举夺得当年《电影旬报》与《每日电影》两项大奖的最佳男主角荣誉。1963年，他主演了由冈本喜八导演的《江分利满的优雅生活》，并凭借此片再度获颁《每日电影》最佳男主角奖。在此之后，他的演艺事业持续拓展，曾出演过《日本沉没》、《八甲田山》以及《新撰组》等诸多优秀的电影与电视剧作品。在其长达近七十年的辉煌演员生涯中，他总计参与了接近二百六十部影片的拍摄，留下了丰富的艺术遗产。据其所属事务所透露，小林桂树自2010年7月初起身体状况便急转直下，经医院检查确诊患有轻微肺炎，随后入院接受治疗。尽管他始终怀着强烈的意愿，积极配合治疗以期康复，但病情未能好转，最终未能离开医院，在那里平静地度过了人生的最后时光。值得一提的是，在2010年8月，小林桂树原本计划出演TBS电视台的一部特别日剧《归国》，却因健康原因不得不遗憾地放弃了这次演出机会。生前他曾谈及自己的长寿心得，认为秘诀在于“没有鲜明的个性”。他解释道：“演员固然需要强烈的个性，但这有时也会限制其所能扮演的角色范围。正因为我很平凡，所以反而能够适应并演绎各种不同类型的角色。”小林桂树所塑造的众多角色及其剧照，至今仍为影迷所珍藏和怀念。
日本演艺界因小林桂树的骤然离世而沉浸在深切的悲痛之中，众多业内人士纷纷表达了对他的怀念与惋惜之情。著名导演大林宣彦在追忆时表示：“他堪称日本电影黄金时代最具代表性的演员之一，正是他让我深刻领悟到，电影的本质在于记录演员所演绎的戏剧人生。我们曾约定要共同创作一部关于老年人爱情故事的作品，如今他的离去，对我而言是一个巨大的打击。”此外，曾与小林桂树在《冬桃》等多部作品中有过合作的女演员三田佳子，也对他赞誉有加，她特别提到小林桂树在工作中始终秉持着认真努力的态度，其严谨专注的职业精神与谦和敦厚的为人品格，都令她由衷地敬佩与尊敬。