许效舜出生于台湾基隆市暖暖区，其父亲许义隆曾担任基隆市议会议员，在当地具有一定声望。在职业生涯早期，许效舜曾在基隆地方法院担任法警长达五年之久，这份稳定的工作并未消磨他对表演艺术的热爱。在工作期间，他成功考取了华视编剧班，系统学习编剧知识，同时积极参与基隆话剧社的活动，并报考了知名的兰陵剧坊演员训练班，不断提升自己的表演功底。此外，他还曾在电视台担任一些次要角色，作为二、三线演员积累经验。他的个人生活也备受关注，1992年，他与李优君结婚，这段因外形差异曾被外界戏称为“美女与野兽”的婚姻一度成为话题。1995年，李优君诞下他们的女儿。然而，由于家庭规划与观念差异，李优君于2001年带着女儿移民加拿大生活。2005年8月4日，台湾《苹果日报》误报了李优君过世的消息，此事被女方认为是许效舜的恶意中伤，导致双方关系彻底破裂，最终于当月底正式签字离婚。此后，许效舜的家族事业也同步陷入低谷，逐渐走向衰落。2006年6月，他在故乡基隆市暖暖区东势街开设了一家名为“舜子的家——石头族茶栈”的店铺，主营算命服务，为客人提供命理咨询。在个人信仰方面，许效舜笃信佛教，修行虔诚。他还有一个独特的爱好，即收藏住所附近各种形态各异、大小不一的珍奇石头，从他对于家族以及自家店铺的命名中便能深刻感受到，许效舜对石头怀有一种特殊而深厚的情感结缘。2011年，许效舜开始了新的婚姻生活，与比他年轻24岁、昵称为“小铁”的伴侣再婚，两人婚后共同养育了一个儿子，并为其取名为“许甘丹”。
一九八〇年，他获得了首次演出机会，在台视的连续剧《江湖夜雨十年灯》中担任临时演员。一九八九年，经由兰陵剧坊三位创办人之一的金士杰推荐，他参与了王伟忠制作的华视综艺节目《连环泡》，在短剧单元《中国电视史》的〈军教篇〉里饰演一名傻兵，由此逐渐打开知名度并走红。一九九一年，他首次主持综艺节目，那便是《连环泡》。一九九四年至一九九五年间，他开始带领一些新人接演秀场，当时从道具制作、剧本编写到美术设计皆亲力亲为，这段经历为他日后成为专业笑匠奠定了扎实的基础。在成名初期，他曾依附于王伟忠旗下，而在“石头家族”成立之前，他已成长为能够独当一面的喜剧演员与节目主持人。由于他与澎恰恰在三立台湾台节目《铁狮玉玲珑》中所扮演的角色深受观众喜爱，借助这股人气，二〇〇一年二月二十四日，以他与马世莉为首，联合一批主要来自一九八八年节目《连环泡》的演员班底，共同创立了“石头家族”艺人经纪公司。该公司专注于搞笑综艺表演与节目制作，旗下成员包括洪都拉斯、白云、郭子乾、九孔、马国毕、杨丽音、高明伟、陈为民、江冠宏、罗敏瑜、王彩桦、何妤玟、于緁等。公司内部设有经纪部、编剧组、制作组等多个部门，曾在综艺节目收视领域占据重要地位，家族成员主要活跃于三立台湾台的《黄金夜总会》进行演出。二〇〇二年五月，他与家族成员离开三立，转投MUCH TV，并推出了午间时段节目《台湾乐丽屋》，然而该节目至同年十月便告停播，导致公司亏损高达新台币六百多万元。此后事业发展屡遇挫折，持续处于亏损状态，只能依靠经营冰品店、销售治尿酸饮品等周边业务来勉强维持运营；同时，团队也长期缺乏固定的表演舞台。最终，至二〇〇五年十一月二十六日，随着旗下艺人合约陆续到期，公司以解除合约、各自发展为由，正式解散了“石头家族”。
台湾电视公司曾播出一系列由许效舜参与或主持的节目，其播出时段与日期具体如下：《周末晚点名》的播出时间为1999年1月2日至同年3月27日，于每周六晚间22点10分至23点00分播出；随后，《丑人俱乐部》于2000年7月6日开播，直至10月5日结束，安排在每周四21点至22点30分；《金玉满堂 花开富贵》则自2002年5月4日播出至同年10月，在每周六、日的19点30分至20点15分与观众见面；《综艺大顺利》的播出周期为2004年10月9日至2005年1月，于每周六19点30分至20点30分播出；而《台视群星会》的播出时段为2005年1月24日至同年11月30日，在每周一至周四的21点30分至22点00分播出（许效舜离职后，该节目改由罗时丰接棒主持）；《卡拉永远OK》的播出时间较短，为2007年5月18日至6月1日，于每周五21点30分至23点00分播出。 此外，许效舜的演艺履历还包括多个不同时期的节目参与：《欢乐传真》（1991年至1994年）、《娱乐星闻 小燕有约》（1992年至1993年）、《红白胜利》（1997年8月9日至1999年）、《欢喜玉玲龙》（2001年4月7日至2002年4月13日）、《周日玉玲龙》（2001年）、《爱情万万岁》（2004年4月6日至同年6月15日）。在节目《综艺大哥大》中，他主持了〈黑白郎君黑白讲〉单元，该单元自2010年1月2日起播出。他还参与了《2010高雄县感恩祈福跨年晚会》（2009年12月31日）、《连环泡》（1989年至1994年）、《欢乐周末派》（1989年）、《红白胜利》（1996年4月20日至1997年8月2日）、《百战百胜》（1997年至1998年）、《王牌摄影棚》（2006年8月10日至2007年1月25日）、《双喜俱乐部》（短剧演出）、《现象追踪点》（1994年12月起，具体结束时间未详）、《喂～是在搞什么鬼！》（结束于2006年3月，具体开始时间未详）。他亦曾代班主持《欢乐幸运星》（在胡瓜勒戒期间代为主持），并主持了《旅行应援团》（2009年8月7日至同年12月20日，其后改由阿Ken、纳豆接棒）。 其他节目记录还包括：《布鲁乐翻天》（自2006年5月起播出）、《石头族乐园》（1996年至1998年）、《黄金夜总会》（1997年5月至2002年10月1日）、《在台湾的故事》（1999年至2001年）、《铁狮玉玲珑》（2000年至2002年10月1日）、《电视笑话冠军》（2000年）、《笑弹总动员》（2003年）、《台湾乐丽屋》（2002年5月至同年10月）、《无敌铁金钢》（自2007年1月起播出）、《全民大卡拉》（2008年）。 在戏剧演出方面，许效舜亦有诸多角色，例如在《怀玉传奇 千金妈祖》中饰演许孝顺、在《观世音》中饰演顺风耳、在《流星花园Ⅱ》中饰演傻哥。他出演了《亲亲小爸》（2007年2月至同年3月5日，共14集），并在《黑糖群侠传》中饰演周大通。此外，他还曾于2009年在国立历史博物馆的《青春歌仔》中饰演角色（该剧当时仍在拍摄中，具体角色名未详）。 音乐作品方面，许效舜参与录制了合辑‘三口组I’（1990年）和‘三口组II’（1991年），并发行了个人专辑《憨愿头》（1996年）。他与郑进一、澎恰恰共同推出了《数位典藏成果体验网》之《历史玉玲珑》（曲目1至7），由台湾大信唱片于2000年7月26日出版。随后，他与郑进一合作了《口白歪歌系列2：简简单单》（曲目1至5、7至10），由台湾艾迪升、金炮制作，全员集合国际多媒体公司总经销，于2003年4月9日出版。 在舞台剧领域，他参演了《乐透狂想曲》音乐时代剧场的作品（该剧于2009年8月在台北国家戏剧院首演）。 著作方面，许效舜撰写并出版了多本书籍：《隔壁亲家》由希代书版于1992年7月1日初版，ISBN为9575441958；《同花大舜》由精美出版社于1995年11月1日初版，ISBN为957716384X；《许效舜说鬼比较顺》由希代书版于1998年9月1日初版，ISBN为9578112572；《舜李成章》由高谈文化事业有限公司于1998年12月12日初版，ISBN为9579806608。此外，张雅雅所著的《磊迹：舜子诗画笔记书》由时报文化出版企业股份有限公司于2001年8月初版，ISBN为9571334340。 作为嘉宾，许效舜曾参与多档综艺节目的录制，具体包括：2005年5月12日的《石头舜子玉玲珑》；2010年10月20日的《国光帮帮忙》，该期主题为“他们怎么可能是宪兵”；2011年2月28日的《康熙来了》，主题为“情场浪子爱回头”；2012年5月2日的《康熙来了》，主题为“令人怀念的电视节目经典人物”；2012年8月10日的《康熙来了》，主题为“康熙开封府之妇仇者联盟”；以及2012年11月22日的《康熙来了》，主题为“婴儿房要怎么布置才对？”。
在公开场合亮相时，许效舜时常展现出其亲切且富有感染力的一面，他参与各类《铁狮玉玲珑》《铁狮玉玲珑》活动时所拍摄的照片，以及后续在《铁狮玉玲珑》活动、《铁狮玉玲珑》活动和《铁狮玉玲珑》活动中留下的影像记录，都生动地捕捉了他与现场观众及合作伙伴积极互动的精彩瞬间，这些照片不仅记录了他的行程轨迹，也反映了他投身于不同领域活动的热情与专注。