1949年4月，在上海解放前夕，蒋介石托人带信给黄金荣，劝说他去香港或者台湾，但黄金荣却意外地执意留在上海。

当解放军进入上海之后，如何处理黄金荣成了一大难题。陈毅为此想了一个特殊的办法，需要他完成。没想到这个办法，就连蒋介石都称赞不已。

对于黄金荣不去台湾，留在上海有几种说法。

第一，黄金荣舍不得自己在上海的产业，他在上海的游乐场是最大最有名的，一旦离开，一生的心血将会付诸东流。他认为只要他留在上海，这个产业仍然是自己的。

1953年10月，黄金荣临死之前，把儿子叫回家中，留下了关于大世界的遗嘱。

第二种说法是他留在上海的原因是三件套。他在上海每天必须要享受三样，抽大烟、搓麻将，下澡堂。而且他的家中藏了大量上好的烟土。黄家上下二十多口人，都住在一起，这样一来打麻将都凑得齐。

除此之外，他还喜欢泡澡堂，每天乐此不疲。当初他不去香港，是担心抽大烟被捉，第二找不到能打麻将的人，第三香港是否能容下他每天去泡澡。

当然，还有第三种说法。上海解放的时候，黄金荣已经82岁，他自知自己活不久，或许也承受不了海上的颠簸，死在途中，与其那样惨死，还不如死在上海。

此时的他颇有一种听天由命的感受，他觉得自己这把年纪了，随共产党把他怎么样，自己一生都在上海，不想死在外地。

第四种说法，是共产党的宽容政策使得黄金荣留在上海。在上海解放前夕，党中央就告诉他们只要不捣乱，为我所用，就会不动他们。

上海解放之后，陈毅和分管政法工作的潘汉年副市长，积极执行这一正确政策。他们认为黄金荣虽然在蒋介石时期干了不少坏事，但在解放的时候没有逃走，也没有搞破坏更没有对我们抱有敌意。

所以就没必要把他当作亲人。就在黄金荣犹豫的时候，章士钊夫人也带来了共产党的口信，这也坚定了他留在上海的决心。

上海解放初期，黄金荣一直在家中过了一段安稳的日子。当时很多人都以为他早已逃往台湾或者香港，或者被人民政府逮捕入狱。

而当时的黄金荣确实有悔过之心，于是叫人写出一份国民党财产的报告和400多名青洪帮头目的花名册，于是交给共产党赎罪。后来还命人把蒋介石给他写的匾额摘下来砸碎，以示决心。

当黄金荣的悔过书被刊登出来之后，人民的反响非常强烈，一时之间纷纷要求镇压这个无恶不作的人。

与此同时，黄金荣的一些门徒也开始揭发，要求靠拢共产党和黄金荣划清界限。甚至，一些市民自发去到黄宅门口，要求他接受批斗。

然而，就在这个时候，公安局又得到了他家中藏有枪支的消息。

黄金荣被叫到公安局，感觉自己很无辜。后来才知道这批枪支弹药是曾担任淞沪警备司令部稽查大队分队长的，解放之后他就把这些枪支藏在了黄金荣的家中。

这一消息出来之后，更加引起了群众的愤怒，黄金荣此时也万分恐惧。

但此时，陈毅已经早有定夺。他认为只要他们不捣乱不干扰上海的社会治安，老师改造就不动他们，这样一来对全国大局都有利。不久之后，上海市人民政府向他宣布政策不变，希望他能写悔过书公开登报，向人民认罪。

在悔过书中，黄金荣讲述了自己的生平，细数这些年的罪行，自称要自首坦白，立功赎罪。这份悔过书登报之后，群众更加激愤，黄金荣坐在家中，整日提心吊胆。

新中国成立初期，以劳动为主，为了平息群众的怒火，陈毅终于想到了一个好办法，他派人传话：“你罪不可赦，需要完成特殊任务，才能给党和人民一个交代。”

没想到，陈毅的做法当蒋介石得知后，也连连称赞：“陈毅真厉害。”

于是，在他昔日的生财宝地大世界门口，市民们总能看到黄金荣在扫大街。闻讯而来的记者也拍摄下了这一情景，也直呼不敢相信。

黄金荣在上海扫大街的消息很快传到了国外，当杜月笙在香港得知这一消息时，也非常庆幸没有留在上海。殊不知，这一措施也只是象征性的，毕竟黄金荣年纪也大了，两年后黄金荣就去世了。