بنای اولیۀ مدفن امام رضا (ع) به ۱۰ سال پیش از شهادت ایشان برمیگردد و آن قبهای بود که به دستور مأمون عباسی جهت دفن پدرش هارون در سال ۱۹۳ق ساخته شد. برخی معاصران، احداث بنا را به هزار و ۱۰۰ سال پیش از شهادت امام رضا (ع) و به اسکندر مقدونی نسبت دادهاند که البته مقرون به واقع نیست.
بنای اولیه که به دستور مأمون ساخته شد و به «هارونیه» شهرت داشت، فضایی با پهنه تقریباً مربع بود و گور خلیفه در مرکز آن قرار داشت. دیوار بنا از چینه بود و پهنای دیوار بیش از دو متر ضخامت داشت و سقف آن متناسب با شیوه معماری آن روزگار ضربی عرقچینی و فاقد گنبد بلند بود.
در سال ۲۰۳ قمری در پی شهادت امام رضا (ع)، مأمون دستور داد تا آن حضرت را در مجاورت قبر هارون به خاک سپارند از این رو امام را در قبهای که هارون در آن مدفون بود، در کنار قبر او به خاک سپردند.
از کم و کیف دقیق بنای اولیه یا هارونیه اطلاعی در دست نیست؛ اما با توجه به نحوه قرارگیری مدفن امام رضا (ع) میتوان فرض کرد که محدوده بنای اولیه، صرف نظر از دخل و تصرفهای اخیر، همان محدوده کنونی روضه منوره بوده است. گزارشی مشهور، اما تردید برانگیز درباره سبکتکین غزنوی وجود دارد مبنی بر اینکه او حرم مطهر امام را که به مشهد مشهور بود، تخریب کرد و تنها اندکی بیش از دو متر از دیوارهای آن بنای اصلی در شالوده کنونی باقی مانده است.
با اینکه برخی به دلایلی در مورد این خبر تردید دارند اما این واقعیت انکارناپذیر است که حرم امام رضا (ع) بنا به گزارشهای موثق، یکبار در پایان عهد سامانیان و بار دیگر در زمان سلطنت مسعود غزنوی بهدست «بوبکر شهمرد» و «سوری بن معتز» تجدید بنا یا آباد شده است. راوندی هم به وضوح ساخت قبه را به سوری بن معتز نسبت داده است. در وقفنامه قرآن ابوالبرکات نیز به حرم مطهر، قبه و مسجد مشهد امام رضا(ع) صریحاً اشاره شده است.
آن بنا چه در زمان سامانیان و چه در دوره غزنویان تکمیل یا ساخته شده باشد، در ساخت آن از شیوه معماری آن دوران، مانند آرامگاه امیر اسماعیل سامانی در بخارا و آرامگاه ارسلان جاذب استفاده شده است؛ این دو بنا که تقریباً در یک برهه از زمان ساخته شدهاند، میتوانند مفسّر یکدیگر باشند؛ در نتیجه تقریباً هندسه اولیه حرم رضوی که بهعلت تغییرات و تعمیرات از دیدهها مخفی شده با توجه به بقعه ارسلان جاذب میتواند معلوم شود. این شباهتها در ابعاد، ارتفاع و ضخامت دیوارهای هر دو بنا، سبب شده برخی احتمال دهند معمار هر دو بنا یک نفر بوده است.
ظاهراً حرم امام رضا (ع) با همان هیئت و ساختار دوران غزنویان به همراه مسجد بالاسر یا مقبره ابوالحسن عراقی در دوره سلجوقیان نیز وجود داشته و دخل و تصرفهای اندک در اندازه بقعه، احتمالاً منحصر به مرمتها و تزئینات معماری بوده است.
گزارش ابن بطوطه در قرن هفتم نشان میدهد که تا آن زمان، علاوهبر مسجد بالاسر، مدرسهای نیز در کنار بقعه ساخته شده بود (مدرسه بالاسر). این گزارش به کاشیهای بقعه، درِ نقره و پردۀ ابریشم و ضریح چوبی امام در گوشه نزدیک به مسجد و مدرسه (ضلع غربی) و روبروی قبر هارونالرشید اشاره دارد.