Название города происходит от финно-угорского племени мурома, которое впервые упоминается в Повести временных лет под 862 годом. Первым удельным муромским князем считается Глеб Владимирович. В 1088 на некоторое время Муром был захвачен волжскими болгарами.
С 1097 — столица Муромо-Рязанской земли. В самостоятельное княжество Муромско-Рязанская земля выделилась из состава Черниговского княжества в 1127 при князе Ярославе Святославиче. После его кончины (1129) на муромский стол сел и был первым муромским князем его сын Святослав, позже — внук Ростислав. При Ростиславе Муромо-Рязанская земля распалась на Муромское и Рязанское княжества, которые окончательно обособились после смерти Святослава (1145). В Старой Рязани князь оставил сына Глеба. Рязанский князь Глеб Ростиславич всеми средствами боролся со своим северным соседом Ростово-Суздальским княжеством. Итогом стала победа Всеволода Большое Гнездо (1208), который пленил местных князей. В 1219 в Рязани княжил Ингвар Игоревич, наследовал ему брат Юрий. При нём княжество подверглось опустошению ордами Батыя. Муромское княжество состояло из Мурома с уездом. Зависело от Владимиро-Суздальского княжества. Подвергалось многочисленным набегам татар. Последним муромским князем был Юрий Ярославич, которого в 1355 согнал со своего престола Фёдор Глебович. В 1392 великий князь московский Василий I Дмитриевич присоединил Муромское княжество к Москве.
Архитектурный облик исторической части Мурома сложился в XIX — начале XX века, так как масштабные пожары 1792 и 1805 годов уничтожили практически весь старый деревянный город. Новый город стал застраиваться по генеральному плану, утвержденному Екатериной II еще в декабре 1788 года, который разработал автор регулярных планов многих русских городов Иван Михайлович Лем. План предусматривал переход от радиально-лучевой схемы застройки города к строго перпендикулярной прокладке улиц. В результате кварталы в центре Мурома представляют прямоугольники размером 250 на 150 метров. В 1980-х сформировашийся порядок был нарушен. По проекту главного архитектора города Н.А.Беспалова многие улицы в центре Мурома были перегорожены многоподъездными домами.
В Муроме был построен первый во Владимирской губернии водопровод. Для этого в 1863 году на пересечении улиц Рождественской и Вознесенской (сейчас это пересечение улиц Ленина и Советской соответственно) была построена водонапорная башня. Средства на возведение башни и прокладку труб дал городской глава - Алексей Васильевич Ермаков - богатый купец и меценат.