علاوه بر بکارگیری روش زندگی زاهدانه و احتیاط و تقوی، روح حکومت را نیز به‌طور کامل تغییر داد. اولین تغییر بنیادی وی این بود که نقطه‌نظر حکومت را نسبت به تمامی امور تغییر داد. تا قبل از خلافت وی برای گرفتن مالیات و خراج دولتی و صرف کردن آن، ادارۀ مخصوصی تشکیل شده بود که آن اداره با اخلاق، عقاید، سیرت و تربیت، ضلالت و هدایت عموم مسلمانان هیچ سروکاری نداشت و نظام آن به همین محور می‌چرخید. وی یک جملۀ معروف و تاریخی عرض فرمود و گفت: «محمد صلی‌الله‌علیه‌و‌سلم برای دنیا هادی‌ای فرستاده شدند نه به‌صورت بخش‌دار یا استان‌دار.»
خراج دولت و دیدگاه آن‌را تغییر داده و آن‌را بجای حکومت دنیایی به‌صورت خلافت نبوت در آورد. تمام دوران خلافت عمر بن عبدالعزیز تفسیر عملی همین جمله بود. وی در مقابل مصالح سلطنتی و منافع‌اش، اصول و اخلاق دینی را همیشه ترجیح می‌داد. در مقابل نفع دینی به ضررهای مالی و دولتی هرگز اعتنا نمی‌کرد. در زمان خلافتش، رعایای غیرمسلمان (ذمی) به تعداد زیادی مسلمان شدند و نتیجه‌اش این بود که مالیاتی که از مبالغ آن مخارج دولتی می‌چرخید کمتر می‌شد و توازن مالی دولت شدیداً به هم می‌خورد. کارمندان دولتی این خطر را گوش‌زد کرده و احساس خطر نمودند. وی فرمود: مسلمان شدنِ کافران، هدف اصلی بعثت پیامبر اکرم صلی‌الله‌علیه‌و‌آله‌و‌سلم بوده است و برای مسئولین دیگر مالیات نوشت: من از این بابت بی‌نهایت خوشحال می‌شوم که همۀ غیر مسلمین، مسلمان شوند و در آمد جزیه به‌طورکلی متوقف گردد و من و شما با کشاورزی و شخم زدن زمین شکم‌مان را سیر کنیم.
در یمن خراج به مقدار معینی دریافت می‌شد، چه کشاورزی خوب باشد یا بد. حاکم محل این روش را گزارش داد. وی در جواب فرمود: خراج مطابق با مزرعه دریافت گردد، اگر چه نتیجه‌اش این باشد که از تمام منطقه فقط یک مشت گندم دریافت گردد، من به همین‌قدر راضی هستم.
عوارض مالیاتی مملکت را به‌طورکلی معاف کرد و برای عمال نوشت که این «بخس» است. در این مورد قرآن ارشاد می‌فرماید: «و لا تبخسوا الناس اشياءهم ولا تعثوا في الارض مفسدین»؛ «و از کالاهای مردم چیزی کم نکنید و (تا) نباشید جزء مفسدین روی زمین.» مردم این را با تغییر نام جایز دانسته می‌گرفتند.
به‌جز از چند رقم درآمد جایز شرعی، ده‌ها رقم مالیات و درآمدهای ناروای دولتی که حکام وضع و اختراع کرده بودند، همه را یکسره معاف کرد و راه‌های دریا و خشکی را باز نمود و هر نوع کنترلی – فیلترهای الکی، قید و بندهای بی‌جاه و بی‌مورد و بدون نیاز – را از مسافرت‌های تجاری برداشت.
در ممالک اسلامی اصلاحاتی انجام داد که نتایجش خیلی پربار بود و برای کل کشور پیمانه‌‌های هم‌سان و برابر برای کسبه تعیین نمود که تغییر دادن آن ناممکن بود.
تجارت حکام و کارمندان دولت را ممنوع قرار داد. بهره‌کشی فرد از فرد را به‌طور قانونی ممنوع اعلان فرمود. مقدار زیادی از اراضی و املاک سلطنتی که امراء و پادشاهان قبلی برای افراد خانواده‌اش شکارگاه یا چراگاه تعیین و اختصاص داده بودند، به بیت‌المال بازگرداند و گفت: این مِلک مردم است. کلیۀ مسئولین دولتی را از پذیرفتن تحفه و سوغات منع کرده و فرمود: درست است که زمانی اسم آن تحفه بود، اما حالا به‌جز رشوه نام دیگری ندارد. به کلیۀ ارگان‌های دولت، بخشنامه فرستاد که برای مردم موقعیتی فراهم کنید تا بدون واسطه به شما دسترسی داشته باشند. در موسم حج اعلان عمومی می‌شد که هر فردی به ما اطلاع دهد که فلان شخص ظلمی کرده است و یا به‌ما مشورۀ نیکی بدهد، به آن شخص از صد تا سی‌صد دینار جایزه پرداخت خواهد شد.
