В 1826 году художник-романтик Павел Свиньин открыл в своем петербургском доме своеобразный Русский музей. На первом этаже были выставлены скульптуры Козловского и Щедрина, на втором этаже — живописные картины Д. Г. Левицкого, О.А Кипренского, А. Г. Венецианова. Но жизнь его, как и других частных музеев, была короткой. П. П. Свиньин понял, что для одного человека эта задача совершенно невыполнимая, и распродал свою коллекцию.
Еще император Николай I советовал создать музей, который бы соответствовал знаменитой триаде: «Православие, самодержавие, народность». Император Александр III, страстный поклонник всего русского, в 1856 году в Аничковом дворце начал собирать свою собственную коллекцию русской живописи.
Довольно активно идея организации государственного Музея обсуждалась в середине XIX века. Об этом неоднократно писал и говорил В. В. Стасов, а писатель И. А. Гончаров в 1874 году выступил в печати с проектом создания в Москве музея национального русского искусства.
Но в первопрестольной столице еще в царствование Александра II был основан Публичный музей. В него вошло великолепнейшее собрание Румянцевского музея, включавшее в свою очередь приобретенную в 1865 году картинную галерею Ф. И. Прянишникова — директора почтового департамента, который одним из первых стал собирать картины отечественных художников. В 1893 году была открыта Московская городская художественная галерея братьев Третьяковых. Вот эти события и подтолкнули появление Высочайшего указа о создании государственного музея национального искусства в столичном Петербурге, не желавшем ни в чем уступать Москве.
Легенду об основании Русского музея часто еще связывают с картиной И. Е. Репина «Николай Мирликийский избавляет от смерти трех невинно осужденных». Император Александр III приобрел эту картину с 17-й выставки Товарищества передвижников, и она, по свидетельству одного из современников, «вызвала в Государе мысль, тогда же им и высказанную — основать всенародный музей, в котором сосредоточивались бы все лучшие произведения русского искусства»
В отличие от национальных собраний Европы, Русский музеи с самого начала задумывался как монархический. И вот 13 апреля 1895 года царский курьер доставил в Сенат пакет, в котором содержался Высочайший указ об учреждении в Михайловском замке «Русского музея императора Александра III», но только через три года Музей распахнул свои двери для публики.
Все это время в Михайловский дворец прибывали необычные гости. В одном из залов достойно заняла свое место картина-эпопея Карла Брюллова «Последний день Помпеи», и зал как будто озарился заревом разгневанного Везувия. Взметнулся «Девятый вал» И. К. Айвазовского, жеманная невеста отвернулась от жениха-майора на картине П. А. Федотова. Грозно шагнул скульптурный «Ермак» М. М. Антокольского, а над письмом турецкому султану «захохотали» репинские «Запорожцы».
А гости все прибывали. Их встречали хранители Музея и устроители вернисажа: М. П. Боткин, академик живописи и брат знаменитого врача; художник П. А. Брюллов — сын архитектора, академик живописи А.Н Бенуа.
На открытии Музея его хранитель М. П. Боткин, обращаясь к гостям, рассказывал: «Однажды, находясь проездом в Новгороде, император Петр Великий присутствовал в соборе при литургии. Вдруг император заметил маленького мальчика, который что-то рисовал, приткнувшись в уголке. Царь подошел ближе и увидел, что юный художник трудился над его портретом. И хоть большого сходства 14-летний портретист добиться не мог, но Петр был тронут увиденным и решил послать мальчика учиться за границу. Так Андрей Матвеев стал художником. Находясь за границей, он и написал эту картину, названную „Мамаево побоище“».
Однако история эта содержала некоторые неточности, и сейчас искусствоведы установили, что данное полотно принадлежит вовсе не А. Матвееву. Написано оно, как предполагают исследователи сегодня, другим живописцем петровской эпохи — Иваном Никитиным. Исследования картины еще продолжаются, но уже точно установлено, что называется она «Куликовская битва» — с нее и начинается первый зал нижнего этажа Русского музея.
А первые русские иконы появились в Музее еще в дни его создания. Они перекочевали сюда из коллекции историка М. П. Погодина и из церквей Михайловского дворца. В 1913 году собрание икон пополнилось великолепнейшей коллекцией известного историка и искусствоведа Н. П. Лихачева, в которой было до 1500 экспонатов. Они и составили золотой фонд Отдела древнерусского искусства.