北周刑政苛酷，尤其是宣帝之时，荒淫无度，又恶闻其过，对进谏者，采取诛杀之法。他增加武帝所制《刑书要制》的条文，使刑法更为峻苛。其法规定：“逃亡者皆死，而家口藉没”，“鞭杖皆百二十为度，名曰天杖。其后又加至二百四十”，“又作僻礰车，以威妇人”。弄得“上下愁怨”、“内外离心”。杨坚辅政为相，便“行宽大之典，删略旧律，作《刑书要制》”。称帝建立隋朝的当年，隋文帝便命左仆射高、上柱国郑译、杨素、大理前少卿常明、刑部侍郎韩溶、礼部侍郎李谔、兼考功侍郎柳雄亮等更定新律。这年十月刑律制成，由隋文帝下令颁行。由于律令初行，百姓并不知犯禁，所以犯法者甚多，加上官员在北周苛政之后，仍把致人以罪为能。所以，隋文帝便“诏申勅四方，敦理辞讼”。到开皇三年（公元583年），隋文帝览阅刑部奏状，见断狱之数，一年达万条之多，认为律文还是太苛刻严密，便令苏威、牛弘等人“更定新律”，也就是对元年所修的隋律再行修订。这次修订，削除死罪81条，流罪154条，徙、杖等千余条。整个新律只有500条，分十二卷。即：名例、卫禁、职制、户婚、厩库、擅兴、贼盗、斗讼、诈伪、杂律、捕亡、断狱。唐人认为这部刑律“刑纲简要，疏而不失”。隋文帝开皇年间所订的隋代刑律，史称《开皇律》。参加修律的还有通熟律法的裴政、李德林、赵芬等人。尤其是裴政，于修订隋律贡献最大，宽简刑律的许多条文，都出自裴政之手。
隋文帝颁律时指出：“帝王作法，沿革不同，取适于时，故有损益”。可见，《开皇律》是适合当时的刑律，对以往旧律有所革除。它是一部具有改革精神、富创造性和进步意义的刑律。
首先，革除酷刑。《开皇律》之刑名有五，即：死刑二，为绞、斩；流刑三，为一千里、一千五百里、二千里；徒刑五，为一年、一年半、二年、二年半、三年；杖刑五，从六十至一百；笞刑五，从十至五十。隋代死刑，是绞与斩，而北周死刑有五：磬、绞、斩、枭、裂，北齐死刑为四：冁、枭、斩、绞。磬是缢杀；绞是勒死；斩是以刀砍杀；枭是处死后悬头示众；裂即轘，是用车分裂人体的严酷死刑。磬近于绞。枭、裂（冁）都是比较严酷的死刑。隋文帝认为“绞以致毙，斩则殊刑，除恶之体，于斯已极。枭首轘身，无所取”。所以，革除了这二种酷刑。北齐、北周均有鞭刑，多者鞭百，隋文帝认为“鞭之为用，残剥肤体，彻骨侵肌，酷均脔切”。所以，对此等酷刑也予以削除。
其次，刑律简明。汉代刑律，在刘邦入关之初曾约法三章，“杀人者死，伤人及盗抵罪”，废除了“繁于秋”的秦法。但是，曾几何时，汉律条目就无限膨胀起来，以至于“律令凡三百五十九章，大辟四百九条，千八百八十二事，死罪决事比万三千四百七十二事，文书盈于几阁，典者不能遍睹。”晋律进行简化，改订成20篇，620条。至北齐又增至949条，北周更增至1537条。隋文帝命大臣所修《开皇律》仅500条，为12卷，“自是刑纲简要，疏而不失”。这部简明的《开皇律》也就成为唐代修刑律的范本，其影响及于明清。
第三，刑罚较轻。刑罚轻，充分体现了《开皇律》的进步性。前面已讲到，死刑定为绞、斩二种，革除了前代的酷刑。在连坐族刑方面，也较前代法律规定的夷三族、或夷五族，甚至夷九族，有较大减轻。在《开皇律》中规定“唯大逆、谋反叛者，父子兄弟皆斩，家口没官”。这就是说，最严重的罪也只是诛灭二族，而且只限于“大逆”、“谋反逆”。又如流刑，北齐的流刑没有规定道路远近。北周则从2500里至4500里不等，均加鞭笞。《开皇律》大大减轻了，只有1000里至2000里。再如徒刑，历代有种种名称，像刑作，耐刑，年刑，居作，输将，鬼薪，城旦舂，白粲，司寇作，完刑等等，北齐时称刑罪或耐罪，《开皇律》采取北周的徒刑之名，而将北齐、北周徒刑刑期1-5年，改为1-3年，而且不再附加鞭、杖、笞。此外，《开皇律》还规定，拷讯囚犯时，禁止使用大棒、束杖、车辐、鞵底、压踝、杖桄，常刑讯囚、拷杖不得超过200杖，杖之大小也有定式，行杖时不得易人、囚犯杻枷的式样、重量，《开皇律》也有统一规定，地方不得随意加大加重。这些都反映出《开皇律》的刑罚比前代减轻了，这是刑律进步的表现，这一切，对唐代以后的刑律影响极大。
《开皇律》自然是维护隋朝统治的法律，对于不利于封建秩序、不利隋朝廷的“十恶”，即谋反、谋大逆、谋叛、恶逆、不臣、太不敬、不孝、不睦、不义、内乱，触犯者是一律从严惩治，不予赦免。对官员、皇亲国戚与贵族，又有减免刑罚的具体规定，如为官者犯法，可以据情以官抵罪，而亲、贵、贤、故、能、功、勤、宾等八种人，犯罪要经特别审议并享受减免刑罚的特权，称之为“八议”。
总之，《开皇律》相对于前代的刑律，是一个历史的进步，应当加以重视，它不仅可以减轻人民的痛苦，而且还使定刑治罪有一个划一的标准，有利于吏治的改善。《开皇律》对唐律的影响十分巨大，唐代修订刑律，基本参照了《开皇律》，也是分12卷，500条，而刑律名也完全一样。《开皇律》虽已佚失，但是隋代订律，在中国古代历史上的重要地位是应予肯定的，而具有改革创新思想、指导修订《开皇律》的隋文帝，其功亦不可没。
应当看到的是，在人治社会的封建时代，法律更多地受到统治者个人道德、品质、性格、修养、学识种种方面的影响。隋文帝尽管有革新刑律的思想，有减轻刑罚的规定，并修入律中。在其前期也还算较为守持刑律，但是，到后期，隋文帝往往违法行事。定法者本人不按法行事，法律的威严，法律的存在，也就动摇了。如隋文帝常在朝堂上杖杀官员，盗一钱以上、三人同窃一瓜，也被处死。他慎刑、轻刑诏书的墨迹未干，而身自破坏。写在纸上的刑法，与统治者的执法存在着巨大的差别，这是值得我们警惕的。