৬৩৮ সালে তিনি মসজিদুল হারাম ও মসজিদে নববী বর্ধিত ও সংস্কার করেন।[৪২] নাজরান ও খায়বারের খ্রিষ্টান ও ইহুদিদেরকে সিরিয়া ও ইরাকে চলে যাওয়ার জন্য তিনি নির্দেশ প্রদান করেছিলেন। তিনি ইহুদিদেরকে জেরুজালেমে পুনরায় বসতি করার সুযোগ দেন। পূর্বে এই সুযোগ ছিল না।[৪৩] তিনি আদেশ জারি করেন যাতে বলা হয় যে এই খ্রিষ্টান ও ইহুদিদের সাথে ভালো আচরণ করতে হবে এবং তাদের নতুন বসতিতে সমপরিমাণ জমি প্রদান করা হয়। উমর অমুসলিমদের জন্য হেজাজে তিন দিনের বেশি অবস্থান করায় নিষেধাজ্ঞা আরোপ করেন।[৪৪] উমর সর্বপ্রথম সেনাবাহিনীকে রাষ্ট্রীয় বিভাগ হিসেবে গঠন করেন। ফিকহের ক্ষেতে উমরের গুরুত্বপূর্ণ ভূমিকা রয়েছে। সুন্নিরা তাকে একজন শ্রেষ্ঠ ফকিহ হিসেবে শ্রদ্ধা করে থাকে। ৬৪১ সালে তিনি রাষ্ট্রীয় কোষাগার হিসেবে বাইতুল মাল গঠন করেন। মুসলিমদেরকে বার্ষিক ভিত্তিতে ভাতা প্রদান করা হত। নেতা হিসেবে উমর সাধারণ জীবনযাপন করতেন। তার সমসাময়িক অন্যান্য শাসকদের ব্যতিক্রম হিসেবে তিনি দরিদ্র মুসলিমদের মত জীবনযাপন করতেন। তার শাসনামলে হিজরি বর্ষপঞ্জি প্রণীত হয়।
উমরের জেরুজালেম সফর বেশ কিছু সূত্রে উল্লেখ রয়েছে। সাম্প্রতিককালে আবিষ্কৃত একটি জুডিও-আরবি বিবরণে নিম্নোক্তভাবে উল্লেখ করা হয়েছে :[৪৩] উমর অইহুদি এবং কিছু ইহুদিদেরকে হারাম আল শরিফ এলাকা পরিচ্ছন্ন করার আদেশ দেন। উমর এই কাজ পরিদর্শন করেছেন। আগত ইহুদিরা বাকি ফিলিস্তিনের ইহুদিদের চিঠি লিখে, এবং জানায় যে উমর ইহুদিদের জেরুজালেমে পুনরায় বসবাসের অনুমতি দিয়েছেন। আলোচনার পর উমর সত্তরটি ইহুদি পরিবারকে ফেরার অনুমতি দেন। তারা শহরের দক্ষিণ অংশ অর্থাৎ ইহুদি বাজারে ফিরে আসে (সিলোয়ামের পানি, হারাম আল শরিফ ও এর ফটকের নিকটে থাকা তাদের লক্ষ্য ছিল)। এরপর অধিনায়ক উমর তাদের অনুরোধ মঞ্জুর করেন। টাইবেরিয়াস ও এর আশপাশের অঞ্চল থেকে সত্তরটি পরিবার তাদের স্ত্রী ও সন্তানদের নিয়ে ফিরে আসে। আলেক্সান্দ্রিয়ান বিশপ ইউটিকিয়াসের নামের একটি বিবরণে উল্লেখ আছে যে উমর হারাম আল শরিফে পড়ে থাকা আবর্জনা পরিষ্কার করিয়েছিলেন।
উমরের যুগের সামরিক বিজয় খলিফা উমরের যুদ্ধ
মুসলিমদের সিরিয়া জয়ের পর ৬৩৮ সালে উমর খালিদ বিন ওয়ালিদকে তার পদ থেকে সরিয়ে দেন। ইতিপূর্বে খালিদ সিরিয়ায় মুসলিম বাহিনীর প্রধান ছিলেন। মানুষ খালিদকে বিজয়ের মূল চাবিকাঠি মনে করতে থাকায় উমর তাকে পদচ্যুত করেন। তিনি বোঝাতে চেয়েছেন যে বিজয় আল্লাহর পক্ষ থেকে আসে এবং কোনো মানুষ তা আনতে পারে না। আরবে দুর্ভিক্ষ এবং লেভান্টে প্লেগ রোগের প্রাদুর্ভাবের কারণে ৬৩৮ থেকে ৬৩৯ সালের মধ্যে এক বছর সময় সামরিক অভিযান সাময়িকভাবে মুলতবি ছিল। উমরের শাসনামলে লেভান্ট, মিশর, সিরেনাইকা, ত্রিপলিতানিয়া, ফেজান, পূর্ব আনাতোলিয়া এবং ব্যাক্ট্রিয়া, পারস্য, আজারবাইজান, আর্মেনিয়া, ককেসাস ও মাকরানসহ প্রায় সমগ্র সাসানীয় সাম্রাজ্য খিলাফতের অন্তর্ভুক্ত হয়। মিশর ও নতুন বিজিত সাসানীয় সাম্রাজ্যে শাসনব্যবস্থা স্থিতিশীল করে তোলার জন্য উমর মৃত্যুর পূর্বে সামরিক অভিযান স্থগিত করেছিলেন। মৃত্যুর সময় তার শাসন পশ্চিমে বর্তমান লিবিয়া থেকে পূর্বে সিন্ধু নদ এবং উত্তরে আমু দরিয়া নদী পর্যন্ত বিস্তৃত ছিল।