1989年4月，渡边芳则继任山口组第五代组长。为避免与警方发生正面对立，加强了山口组内部的管理控制，合理导入了全国分区的区域领导制，对外扩张势力范围，使山口组势力重新得到发展。
为了控制山口组等黑帮组织的发展，日本政府祭出组合拳，以立法为基础，通过切断资金来源、取消活动据点、加强枪支管理、禁止乱用毒品、推动行业排暴、强化国际协作等方法来加紧对黑帮的取缔和限制。
从20世纪90年代起，日本警方加紧了对黑帮组织的打击，1991年5月15日颁布了《防止暴力团团员不正当行为法》，并于1992年3月1日起实施，进一步加强了打击力度，取得了不少成果：1990年取缔暴力团组织80个，成员1131人；1991年131个，成员1430人；1992年158个，成员2051人；1993年222个，成员2604人。主要措施是搜捕骨干成员，特别是山口组、稻川会、住吉联合会的领导人和核心成员。1991年拘捕暴力团成员16188人，其中有上述3个团体的成员10855人；1992年拘捕3个团体的成员11647人；1993年拘捕3个团体的成员10311人。同时还拘捕了大量外围人员。
切断资金来源的办法是：（1）依据法律，严厉打击毒品走私、恐吓、赌博、违法证券交易等犯罪活动；（2）加强与律师会等团体的联系，发掘介入民事的潜在案件，向受害方提出建议和指导，对相关暴力团提出警告；（3）加强与企业的联系，把握暴力团介入企业活动的早期迹象；（4）强化与税务当局的联络体制，采取严厉税务措施，没收巨额非法收入；（5）强化与其他行政机关的合作，对暴力团经营或参与经营的企业，拒发许可证。
暴力团事务所是暴力团活动的据点，发生对立抗争事件时，又是对方攻击的目标，给周围居民带来不安和危险。因此，日本警方在全国开展了禁止使用事务所、取消事务所、阻止建设事务所的活动。而町村级地方政府通过制定《消除暴力基金条例》等，收买暴力团事务所或暴力团事务所的预订地皮。
1993年，全国共取消和阻止建设的暴力团事务所达193个。
加强枪支管制的主要做法是：（1）加强与相关省厅的协作，严格控制水路走私枪支，号召社会揭发检举潜在的枪支；（2）1993年7月修改了《持有枪支刀剑类取缔法》和《武器等制造法》的部分内容；（3）只向狩猎、打靶、试验、研究等部门或个人发放持枪证，警察对合法持枪者进行“正确保管和使用”的指导，防止发生枪支危害社会事件。
警方加强了对毒品的控制，通过整建搜查体制和装备，阻止水路走私，同时加强与海关、入境管理局协作，努力发现走私关系人并监视其动向；通过加强与毒品生产国和中转站所在国有关当局合作，查清货源，切断供给路线；通过灵活实施引渡，对走私贩毒的暴力组织予以严惩；通过大力宣传乱用毒品所带来的危害，提高国民对毒品问题的认识，培育抵制毒品的社会环境。
受警方推动，经济界也开展了排暴活动。1991年6月经团联制定了排除暴力团企业行动宪章；8月，日本证券业协会提出了纠正证券、金融不正当交易的基本对策。1993年11月29日由日本警察厅、都道府县警察、都道府县中心主办以总理府等中央省厅、经团联、日本律师会等团体为后援，召开了第一次全国清除暴力运动中央大会，进一步推动各行业排暴，使弹子游戏业、饮食业等敢于公开拒绝暴力团索要保护费、强迫购买工艺品等不正当要求。另外，为对付暴力团对生意的暴力介入，各公司纷纷自发地组织自卫组织，如“企业自卫委员会”或“预防特殊暴力联合会”。
日本警方注意强化国际间的协作。暴力团为筹集枪械、毒品以及向不动产业投资，将其活动延伸海外。同时，与国外犯罪组织合伙组织偷渡，向日本安排非法移民；违反外汇法规，向国外转移“黑钱”等事件屡见不鲜，为了准确掌握暴力团海外活动情况，1987年5月在警察厅设置了暴力团海外情报中心。1992年4月依据修改的《警察法》，在警察厅设置了暴力团对策部。该部第二课任务之一就是搜集、整理暴力团在国外活动及与国外犯罪组织进行交易等情报，使海外情报搜集体制得到进一步完善。
日本警方注意与其他国家进行情报交流，探讨打击国际性犯罪的有效方法。1989年12月在东京召开了第6次日美暴力团对策会议。1990年1月、10月和1991年11月，日本与东盟各国、韩国和中国香港代表在东京举行亚洲地区有组织犯罪对策研讨会，美国、澳大利亚、加拿大等国代表列席。1993年10月在日本召开了第一次枪支对策国际会议。在开展国际协作中，国际刑警组织是极为重要的途径之一。为适应打击国际犯罪的需要，处理好出入境管理、国际联合搜查，特别是与不同法制、不同语言、不同习惯的外国人打交道，警察必须具有广泛的国际知识和办案方法。因此，在警察大学设置国际研修所，在都道府县警察中学也举办各种研修班，培养具有国际搜查实务能力、国际见解和国际感觉以及进行国际合作能力的人才。日本向来注重警员学习英语、汉语、朝语，近年来又组织学习菲律宾语、泰语、巴基斯坦语等少数语种。
在警方的连续打击下，日本黑帮组织犯罪数量整体上有所下降，山口组也改变了传统的筹资方式，开始注意避免与警方对抗，并且也参与一些合法和“赢得民心”的事情，比如，1995年发生了阪神大地震，山口组不仅严令成员不得趁火打劫，而且主动出钱出物赈济灾民，积极地参与民间救援任务，其举动不仅令日本百姓感慨，国际社会也为之一震。
1997年8月，山口组中的武斗派不满若头宅见胜纳敌为友、和平共存的路线，派人将其暗杀身亡，造成两个派系的内斗，也打乱了渡边芳则原定的人事布局，日本警方也以此暗杀事件为契机，暗中推动新的打击黑帮行动。2005年7月的“定例会”，渡边芳则因为属下涉及误杀案件，被迫宣布“身体不适”，不再担任山口组组长一职，改任山口组名誉总裁，实质上是引退。
2005年8月，司忍继任山口组第六代组长。在日本警视厅的记录中，司忍前科累累，被列为“极其危险的人物”———他曾策划了山口组与另一个黑帮组织住吉会的战斗。这是日本历史上规模最大的黑帮混战，约1.2万人参加。据说司忍在这场混战中亲手枪杀了4个“敌人”。
但是仅仅4个月后，即2005年12月，司忍就因过去的一桩旧案而被捕入狱。当然，这一切的发生，都是警方有意要打击山口组。事情是这样的：那是在1997年9月20日，时任山口组下属弘道会会长的司忍，参加山口组在大阪一家饭店举行的例行头目会议。其间，警察突然闯进饭店，在司忍两名保镖的身上，搜出了两支共装有11发子弹的手枪。司忍因同谋罪遭到警方通缉，并于1998年被大阪警方逮捕。2001年3月，大阪地方法院一审对其作出无罪判决。大阪警方对这一判决表示不服，并申诉至最高法院。
2004年2月，司忍被改判为有期徒刑6年。但在缴纳10亿日元保释金后，再次被释放。不服气的大阪警方再度提出上诉。司忍反诉大阪警方诬告。2005年11月29日，最高法院驳回了他的反诉。司忍被收押在大阪拘留所至今。