Гісторыя музейнай справы ў Магілёве бярэ свой пачатак 15 лістапада 1867 г., калі пры губернскім статыстычным камітэце быў заснаваны першы Магілёўскі музей. У 1878 г. у музеі мелася тры аддзелы: гістарычны, этнаграфічны і геаграфічны. Асновай іх стала калекцыя сельскагаспадарчых і этнаграфічных вырабаў, якую сабралі па Магілёўскай губерні для антрапалагічнай выставы ў Маскве. Першыя асобныя калекцыі былі адпраўлены ў Маскву ў 1879 г., другія засталіся ў Магілёўскім музеі. З цягам часу музей стаў звацца губернскім. Уклад у стварэнне і развіццё музея ўнеслі сакратар губернскага статыстычнага камітэта У.Біппен, магілёўскі губернатар А.С. Дамбавецкі. Музейныя калекцыі вывучалі і сістэматызавалі гісторыкі-краязнаўцы М.Фурсаў, Е.Раманаў, С.Чалоўскі. Фурсаў падрыхтаваў і выдаў каталог калекцый пад назвай "Апісанне Магілёўскага музея" /Магілёў, 1891 г./. У губернскім музеі налічвалася каля 1500 экспанатаў. Сярод іх: тронны фатэль Кацярыны II з магілёўскага дарожнага палаца; сані Напалеона, якія ён кінуў пад час уцёкаў з Расіі; кальчуга і ўпрыгожванні з раскопак Анелінскага кургана Быхаўскага павета; арыгінальныя граматы польскіх каралёў Сігізмунда III і Станіслава Аўгуста; рукапіснае Евангелле XV стагоддзя; Лексікон Славянороскі, выдадзены ў друкарні Куцеінскага кляштара ў 1654 г.; калекцыя манет /больш за 500 адзінак/ X - XIX стст. Вялікае значэнне для вывучэння гісторыі горада мелі такія экспанаты музея, як прыходна-расходныя кнігі Магілёва 1683-1706 гг. і акты Магілёўскага магістрата 1577-1756 гг. У этнаграфічным аддзеле музея можна было ўбачыць мадэль сялянскага двара, сялянскія прылады працы і побыту, адзенне, дзіцячыя цацкі. У геаграфічным аддзеле былі прадстаўлены ўзоры глебы, пароды дрэў, гербарыі і г.д.
18 снежня 1904 г. у Магілёве адбылося ўрачыстае адкрыццё другога магілёўскага музея: царкоўна-археалагічнага. Ён быў створаны вядомым беларускім этнографам, фалькларыстам і археолагам Еўдакімам Раманавым пры ўдзеле памочніка інспектара духоўнай семінарыі У.У. Дабравольскага, гарадскога галавы Г.М. Гартынскага і інш. Першыя паступленні былі з кляштараў і цэркваў: святыя і богаслужэбныя кнігі, абразы, царкоўныя рэчы. Некаторыя экспанаты мелі вялікую мастацкую і гістарычную вартасць. Напрыклад, шытая золатам і шоўкам плашчаніца 1566 г., срэбная мітра Г.Каніскага, збор друкаваных і рукапісных кніг 15-18 стст., абразы Магілёўскай мастацкай школы "Нараджэнне Маці Божай" 1649 г., "Богаяўленне" і інш. Архіў музея налічваў 4000 адзінак дакументаў. Калекцыя пастаянна папаўнялася. Вялікую яе частку складалі матэрыялы археалагічных раскопак, якія праводзіў Е.Р. Раманаў. Размяшчаўся музей у былым Бернардзінскім касцёле /не захаваўся/. Пасля Кастрычніцкай рэвалюцыі музейны фонд Магілёва захаваўся і нават папоўніўся: у яго склад паступілі прадметы мастацтва, антыкварыят, царкоўныя рэчы. Ў 1918 г. два музеі аб'ядналі ў адзін - губернскі. Пазней ён стаў звацца гістарычным. Адной з галоўных задач музея была прапаганда савецкага ладу жыцця: разнастайныя выставы, лекцыі і г.д. Музей праводзіў вялікую збіральніцкую і даследчую работу, пры ім існавалі краязнаўчая суполка, розныя гурткі. Уклад у развіццё музея 20-х - пачатку 30-х гг. унеслі Д.І. Даўгяла, А.Ц. Радзько, Д.Ц. Гусакоў, У.Л. Венюкоў. У 1928-1929 гг. у Магілёўскі музей паступілі каштоўнасці, якія ўваходзілі ў склад дзяржаўнага антыкварнага фонду СССР: вырабы з каштоўных металаў і камянёў, абразы, карціны, кнігі і г.д. Самай унікальнай каштоўнасцю гэтай калекцыі быў крыж Ефрасінні Полацкай - нацыянальная рэліквія беларусаў. Скарбы, што паступілі ў фонды музея, паклалі ў пакой-сейф на першым паверсе музея, тут захоўваліся найбольш каштоўныя яго экспанаты.
У пачатку Вялікай Айчыннай вайны пад час абароны горада /ліпень 1941 г./ Магілёўскі гістарычны музей па вул. Ленінскай і яго філіял па вул. Віленскай згарэлі разам з экспанатамі. Зніклі ў невядомым напрамку каштоўнасці, якія захоўваліся ў пакоі-сейфе ў будынку абкома партыі па вул. Міронава. Пошук іх ідзе і ў наш час. Такім чынам горад пазбавіўся ўсіх сваіх музейных калекцый, што збіраліся і захоўваліся з 1867 па 1941 год. Пасля вайны спробы па аднаўленню работы музея прымаліся ў 1944, 1946 гг., і толькі ў 1949 г., калі ў Доме Урада вылучылі невялікія памяшканні, музей пачаў дзейнічаць. Дапамогу экспанатамі аказвалі музеі Ленінграда і Масквы. 1 студзеня 1951 г. адкрылася першая экспазіцыя “Вайна і пасляваеннае будаўніцтва”. Актыўна ішоў збор матэрыялаў па савецкай гісторыі Магілёўскага краю. У 1957 г. была адкрыта экспазіцыя перыяду 1917-1941 гг. У вытокаў пасляваеннага музея стаялі І.С. Мігулін, Н.Ф. Мяснікава, А.Л. Блыхаў, М.М. Саўчанка, М.Я. Арцюхоў. У 1953 г. музей стаў звацца Магілёўскім абласным краязнаўчым. 1 ліпеня 1961 г. музей атрымлівае ўласны трохпавярховы будынак на Савецкай плошчы, у якім ён размяшчаецца і зараз. Ідзе вялікая работа над новай экспазіцыяй, і 5 лістапада 1967 г. усе тры яго аддзелы /дасавецкі, савецкі, аддзел прыроды/ былі адкрыты. Упершыню пасля вайны вялікая збіральніцкая і навукова-даследчая работа супрацоўнікаў музея знайшла сваё лагічнае завяршанне ў экспазіцыі краязнаўчага профілю. Гораду і вобласці была пададзена выкладзеная музейнымі сродкамі гісторыя краю з найстарадаўніх часоў і да сучаснасці.
З 1977 г. - па ліпень 1990 г. музей быў зачынены на капітальны рамонт. Адначасова ішла работа над праектаваннем і пабудовай новай экспазіцыі, якая дзейнічае і сёння. Аўтарамі мастацкага праекта экспазіцыі былі мастакі Ленінградскага камбіната маляўніча-афарміцельскага мастацтва У.Ф.Бірукоў /агульнае рашэнне, экспазіцыя аддзелаў прыроды і савецкага 1917-1945 гг., А.І. Такмакоў /дасавецкі аддзел, Г. Пеўзнер /канструктарская распрацоўка/.
6 ліпеня 1990 г. адбылося адкрыццё двух аддзелаў: дасавецкага і прыроды; 3 ліпеня 1993 г. адчыніў свае дзверы савецкі аддзел 1917-1945 г.г. Да 130-гадовага юбілею музея была адкрыта экспазіцыя археалогіі. Новая экспазіцыя Магілёўскага абласнога краязнаўчага музея была прызнана адной з лепшых у Беларусі. На мяжы стагоддзяў супрацоўнікі музея працягвалі працаваць над новымі экспазіцыямі. У асобным будынку па адрасе Першамайская, 8 былі адкрыты: 9 снежня 1999 г. экспазіцыя «Зямлі роднай кругавод», 19 сакавіка 2004 г. – «Магілёў губернскі». Зараз праводзіцца работа па рээкспазіцыі аддзела «Гісторыя краю: IX-1917 г. »; да 70-годдзя вызвалення г. Магілёва 28 чэрвеня будзе адкрыта зала Перамогі. Фонды музея налічваюць больш за 133 000 экспанатаў асноўнага фонду. Усе яны сабраны ў пасляваенны час. Гэта матэрыялы археалагічных раскопак на тэрыторыі Магілёўшчыны, калекцыі і скарбы манет Вялікага Княства Літоўскага, Рэчы Паспалітай, Рускай дзяржавы; крыжы, абразы, жывапіс, прадметы побыту 19-20 стст., этнаграфічныя калекцыі, ваенныя рэліквіі, вялікі дакументальны фонд.