后来《中国人民政治协商会议共同纲领》等的颁布,以及中央人民政府组织法的成立,需要建立最高人民检察署作为监察机关,这一机关组织举足轻重,而且担任此机关领导的人,绝对需要有着极强的原则性。
在1963年,罗荣桓去世了,那年他才刚61岁,临死前他告诉子女“我没有什么能留给你们的,我也没有什么遗产,我是坚定的共产党员,你们只要坚定的记住一句话,那便是是无产主义,坚定的搞革命。”