ولد عبد الرحيم موسوي عام 1960 في
مدينة قم الإيرانية، والتحق بالجيش الإيراني عام 1980، بعد عام من انتصار الثورة الإيرانية.
وشارك في الحرب العراقية الإيرانية ضمن وحدة المدفعية في فرقة 28 بمحافظة كردستان، كما خدم في المجموعة المدفعية 33 بالقوات البرية بمحافظة خوزستان.
حصل على درجة الدكتوراه في الإدارة الدفاعية من جامعة الدفاع الوطني العليا عقب نهاية الحرب العراقية الإيرانية عام 1988.
تولى رئاسة أركان الجيش في الفترة بين 1999 و2005، ثم شغل منصب نائب القائد العام للجيش بين عامي 2007 و2016، ثم أصبح نائب رئيس الأركان العامة للقوات المسلحة في الفترة ما بين 2016 و2017.
وفي 21 أغسطس/آب 2017، وبأمر من المرشد الأعلى، ترقى الموسوي من رتبة عميد إلى رتبة فريق أول، وتولى منصب قائد الجيش الإيراني، خلفا لسيد عطا الله صالحي.
وفي 28 مايو/أيار 2019، أصبح قائدا لمقر الدفاع الجوي خاتم الأنبياء بالتزامن مع منصبه قائد الجيش.
كما تقلد مناصب قيادية أخرى منها رئاسة جامعة الإمام علي العسكرية، وقيادة مقر الجيش في شمال شرق إيران، ونائب قائد السلاح البري لشؤون التدريب، ورئاسة مركز الدراسات الإستراتيجية للجيش.
وعيّن خامنئي اللواء عبد الرحيم موسوي رئيسا لهيئة الأركان الإيرانية خلفا ل
محمد حسين باقري الذي قتل في الهجوم الإسرائيلي.