一九五二年，杨在葆顺利考入宿城一中，在校学习期间，他积极投身于学生工作，担任了学生会文娱部长一职，经常组织丰富多彩的周末文艺晚会，并且亲自登台参与演出，表演了话剧《民主青年进行曲》和《方珍珠》等剧目。一九五五年，他凭借优异的成绩进入上海戏剧学院表演系深造。一九五八年，他首次涉足影坛，参演了电影《大风浪里的小故事》；次年即一九五九年，他从上海戏剧学院表演系毕业，随后进入上海青年话剧团，成为一名专业话剧演员。在杨在葆的中青年时期照片以及其近照《卧薪尝胆》中，可以看到他塑造的吴王阖闾形象，这一形象还登上了一九八三年八月号的《大众电影》杂志封面。一九六二年，他参演了电影《红日》。一九六四年，他出演了根据周而复同名作品改编的传记题材电影《白求恩大夫》。一九六五年，他正式成为上海电影制片厂的演员，并与达式常合作，共同主演了剧情电影《年青的一代》；同一年，他还与李玲君搭档，主演了另一部剧情电影《这是我应该做的》。 一九七一年，杨在葆遭遇了人生中的重大挫折，因被诬陷为“现行反革命”而身陷囹圄，度过了四年三个月又十四天的牢狱生活。一九七六年，重获自由后，他迅速回归演艺事业，与袁岳、王定华联合主演了剧情电影《江水滔滔》。一九七七年，他与潘军、仲星火合作，主演了根据郭澄清同名小说改编的剧情电影《大刀记》。一九七九年，他与张金玲合作主演了战争题材电影《从奴隶到将军》，在片中成功塑造了始终追求真理、绝不向恶势力屈服的罗霄将军形象。一九八三年，他主演了由文彦执导的剧情电影《血，总是热的》，影片根据同名话剧改编，以一九七九年中国经济体制亟待改革为时代背景，他在片中饰演了既善于宏观指挥又能以身作则的厂长罗心刚，凭借这一角色，他荣获了第四届中国电影金鸡奖最佳男主角奖以及第七届大众电影百花奖最佳男演员奖。一九八四年，他与许还山共同主演了剧情电影《双雄会》，在片中诠释了性格狡诈多变、充满争议的明末农民起义领袖张献忠，该片改编自姚雪垠的长篇历史小说《李自成》。 一九八五年，杨在葆展现了其多方面的才华，自导自演了剧情电影《代理市长》，在片中扮演敢于为人民说真话、办实事的代理市长萧子云，凭借此片他再次赢得了第九届大众电影百花奖最佳男演员奖的荣誉。一九八六年，他执导了由温锡莹、田华联袂主演的剧情电影《党小组长》。一九八八年，他与刘晓庆合作，共同主演了改编自曹禺先生同名经典话剧的剧情电影《原野》，在片中生动刻画了性格粗野刚烈、具有强烈反抗精神的悲剧人物仇虎。一九九八年，他再次自导自演，完成了剧情电影《昨日的承诺》的创作。二零零二年，由他出演的战争电影《绥远之光》正式上映。二零零三年，他出演了由虎子执导的犯罪题材电视剧《终极目标》。二零零七年，他在一部古装电视剧《卧薪尝胆》中再次饰演了吴王阖闾一角。二零一四年二月四日，在全国德艺双馨十周年大型公益活动中，杨在葆被授予了“德艺双馨终身成就奖”这一崇高称号，以表彰其卓越的艺术成就和高尚的艺德。
一九三六年，杨在葆的父亲不幸因突发脑溢血离世。杨在葆的第一段婚姻是与夏启英结合，然而在杨在葆主演电影《血，总是热的》期间，夏启英罹患尿毒症，最终医治无效逝世，这给他带来了沉重的打击。直至一九八四年，在参与电影《双雄会》的拍摄过程中，杨在葆结识了比他年轻二十二岁的陈丽明；经过一段时间的相处与了解，两人后来步入婚姻殿堂，共同组建了新的家庭。一九九六年，杨在葆的儿子杨冶天被诊断出患有尿毒症，这一病情再次为家庭蒙上了阴影。此后，陈丽明为杨在葆生下了女儿杨小卉，在杨在葆的三个子女中，杨小卉是唯一一位选择学习电影专业并投身电影行业的孩子，延续了父亲与光影艺术的不解之缘。二零二一年二月十三日下午三点三十三分，杨在葆因胆囊炎急性发作进而引发心脏衰竭，虽经医护人员全力抢救，仍未能挽回生命，不幸逝世，享年八十五岁。他的离世是中国电影界的一大损失，其艺术成就与人生经历至今仍为人们所铭记。
杨在葆的外形并非那种眉清目秀、温文尔雅的奶油小生类型，而是呈现出一种粗犷健壮、棱角分明的男子汉气概，他始终秉持着刻苦钻研、兢兢业业的艰苦创业精神。不仅如此，他还是一位进取心极强、对艺术怀抱炽热激情且从不懈怠的表演者。在电影《血，总是热的》中，杨在葆致力于追求一种含蓄而深沉的艺术美感，他将人物内心热烈奔腾的情感深深蕴藏于心底，凭借饱满的内心体验与高度克制的表情及形体控制，淋漓尽致地展现出角色内在的澎湃激情。通过那常常紧锁的双眉与深邃沉郁的眼神，以及刚毅稳重的个人气度，加之宏亮中略带沙哑的独特嗓音，杨在葆在角色内心动作、外部动作与语言动作的细微层次变化中，精准而完整地将罗厂长丰富的精神世界传递给了观众。他所塑造的罗厂长形象，不仅具备了角色应有的性格魅力，更在容貌、形体、声音与表情等方面呈现出和谐统一的美感，因而从内而外焕发出一种难以用言语完全形容的独特气质之美。