1976年5月以后，毛泽东就没有在公开场合露面。他已重病缠身，正与死神作最后的斗争，病情和抢救情况都被限制在一个极小的范围内。身为政治局委员的许世友，因人在外地，一点不知内情。
9月9日凌晨，许世友正在广州。突然，他接到了中共中央关于毛泽东逝世的通知，同时召他立即进京。面对如此噩耗，他大悲大恸，把工作安排一下，特别强调了部队调动权限，就带上把手枪，乘车急急驶往白云机场。
许世友和韦国清一起乘坐专机飞往北京。这两位老将军进入机舱，落座良久，专机还不起飞。
许世友叫秘书去问，回说天气不好；再问，还说天气不好。第三次问，机长才道出真情：“中央有指示，不准带枪进京。”
“妈的，你问是哪个王八蛋的指示？”许世友勃然大怒，“叫他发电报来！”
结果，许世友一发脾气，专机起飞了。
许世友上北京带的是一支美式五星左轮手枪。这支枪是从国民党一个军长手里缴来的，被许世友视为心爱之物，整天别在腰上，枪不离人，人不离枪，走到哪里带到哪里。人们从没见他擦过，他也不让别人摸。子弹也是多年前的，不知还能不能打得响。
这次他带枪进京，专机在南苑机场降落，许世友在京西宾馆住下。
毛泽东的灵堂设在人民大会堂，政治局委员轮流守灵。轮到许世友时，灵堂门口的卫兵把他挡住了。
卫兵给许世友敬了个礼：
“首长，您带枪了？”
许世友给卫兵还了个礼：
“我怎么不能带枪？”
卫兵说：
“首长，这里有规定，进去不能带枪。”
许世友问：
“谁规定的？”
卫兵答：
“中央规定的。”
“我是政治局委员，我怎么不知道？”
许世友虎着一张黑脸，边说边往里走，卫兵没有一个敢伸手阻拦的。
在所有进入毛泽东灵堂的党政军领导中，身上带枪的只有许世友一个人。