حرص عمر على متابعة هدي النبي ومخالفة أهل الكتاب، فرفض ما يضاهي اليهودية وصلى حيث صلى رسول الله صلى الله عليه وسلم.لما دخل عمر بيت المقدس أشار عليه كعب الأحبار بالصلاة خلف الصخرة، فأبى عمر لئلا يضاهي اليهودية، وصلى مستقبلًا القبلة حيث صلى النبي.