تم فتح سفارة يمنية في الرباط عام 1978م وفي عام 1982م، اتفق المغرب والجمهورية العربية اليمنية على الانتقال بتمثيلهما الدبلوماسي إلى مستوى السفراء المقيمين. وفي عام 1984م، قرر المغرب فتح سفارة له في صنعاء. إلا أن العلاقات الثنائية ظلت مقتصرة على الجانب السياسي والمشاركة في المؤتمرات المنعقدة في البلدين وتبادل الرسائل والوفود والتنسيق في المواقف حتى عام 1985م، حيث تم التوقيع على أول اتفاقية للتعاون الاقتصادي والفني بين المغرب والجمهورية العربية اليمنية.
وفي عام 1992م، وبعد الإعلان عن ميلاد (الجمهورية اليمنية) على إثر تحقيق الوحدة بين شطري اليمن الشمالي والجنوبي في 22 مايو 1990م
يقع مبنى السفارة الجديد في حي السفراء في منطقة السويسي، الرباط.