隋文帝开国之后非常节俭，吃穿用度秉持着艰苦朴素的原则。隋文帝这种过度节俭绝非吝啬成癖而是有着深层次的用意，他曾经告诫太子杨勇说：“我闻天道无亲，惟德是与，历观前代帝王，未有因奢华而长久者”
所以在他的观念当中奢华跟节俭决定国家的兴衰大计。在隋文帝的影响下从朝臣贵族到富商大贾全都跟着皇上的脚步不穿绫罗绸缎不配金玉珠宝。这样一来客观上减轻了百姓的负担，加上隋文帝主张降低赋税，轻徭薄赋，以民为本，与民休息。得到了百姓的拥戴为他随后政治改革提供了条件。
开皇元年隋文帝在北周法律的基础上创制了《开皇律》。隋朝之前刑法非常严酷，现在隋文帝规定了“十恶条例”，谋反、谋大逆、谋叛、恶逆、不道、大不敬、不孝、不睦、不义、内乱，这十条十恶不赦其他的罪都可以降等赦免。
另外规定百姓如果有冤屈可以依次向郡府州府上诉，这些个法律条文和规定把隋朝司法正式纳入到了法治轨道。减少了冤假错案，减轻了人民的痛苦。《开皇律》因为它的完备体系和实用性被后来的唐朝一直沿用。
在这之后隋文帝还改革了职官制度，首先废除了九品中正制，建立了“科举制”一直沿用到清末一千三百多年。之后建立“三省六部”制度。三省是中书省，尚书省，门下省，六部是吏，户，礼，兵，刑，工。举国机要，悉在中书，献纳之任，又归门下，而尚书但听命而已。这么一来三省的长官地位都相当于丞相，丞相的权力分散了就避免了丞相自身篡权。
除了这些之外隋文帝对社会各个领域进行了一系列的改革，府兵制，均田制，范围非常广。这么一来全国安宁，编户大增，仓储丰实，南北民众得以休息，社会呈现空前繁荣景象。所以后来史学家就把这一段时期称之为“开皇之治”