Его основателем и первым директором был краевед, один из организаторов партизанского движения на Рогачёвщине — Семен Матвеевич Свердлов.
В 1967 году по распоряжению Совета Министров БССР на базе историко-краеведческого музея в городе был открыт Музей народной славы, а с 3 октября этого же года были утверждены кадры и штатное расписание. С этого времени музей приобрел статус государственного.
В апреле 1970 года решением Исполкома Рогачевского районного Совета депутатов трудящихся была открыта для посетителей первая экспозиция, состоящая из двух залов: "Революционные события на Рогачевщине" и "Великой Отечественной война" и освобождение города и района.
В ноябре 1991 года музею народной славы было выделено для размещения новой экспозиции здание бывшего банка по ул.Ленина, 58. После ремонта и реконструкции здания 2 июля 2000 г. состоялось торжественное открытие новой экспозиции музея, которая расположена на площади 212 кв.м и состоит из 5 залов и 2-х разделов.
Общая площадь музея составляет 412 кв. м, демонстрационная площадь залов 335 кв. м. Общее количество музейных предметов около 45 тыс., из них основного фонда 28 943, научно-вспомогательного 16 635.
Все предметы основного фонда музея разделены на 40 коллекций. Самые крупные коллекции музея: "Археология", "Личные документы", "Нумизматика", "Фалеристика", "Печатные издания", "Фотографии". Большую ценность представляют коллекции икон и старинных изданий, а также кладов монет и оружия. Уникальна коллекция, представляющая работы российских и белорусских художников, а также рогачёвских художников, особенно ценна коллекция работ Анатолия Каплана. В государственный каталог Музейного фонда Республики Беларусь включены 27 музейных предметов.