Еще в 1856 году П. М. Третьяков встретился в Петербурге с академиком живописи Николаем Шильдером и заказал ему написать картину «Искушение», уже твердо зная, что будущая коллекция будет собираться для всего русского народа. В то время ему не было еще и двадцати пяти лет.
В конце 50-х годов прошлого века Павел Третьяков хотел купить у Ф. И. Прянишникова его коллекцию произведений русской живописи. Но картины продавались за 70–80 тысяч рублей, а в то время эта сумма для П. М. Третьякова была еще очень велика. И он понял, что ему самому надо собирать все лучшие русские живописные картины, систематически и со строгим отбором.
Все художники, молодые и уже знаменитые, мечтали, чтобы их картина висела в Третьяковской галерее, потому что уже сам факт покупки картины П. М. Третьяковым был актом общественного признания таланта художника. Так один удивительный человек смог повлиять на все русское живописное искусство и стать выразителем общественного мнения России.
П. М. Третьяков был очень щедрым собирателем. Суммы, которые он платил за картины и собрания картин, порой превышали десятки тысяч рублей, что по тем временам было целым состоянием. А ведь в Москве были миллионеры, состояние которых намного превышало средства П. М. Третьякова, но они не сделали и сотой части тех затрат, которые вложил П. М. Третьяков на покупку картин. Мало кто знает, что на его финансовом попечении находилась школа глухонемых, для которой он на свои средства выстроил трехэтажное здание на Донской улице.
Летом и зимой П. М. Третьяков вставал в шесть часов утра. Покончив с кофе, он проходил через свою домашнюю галерею, чтобы хоть несколько минут побыть среди картин. А в девять часов он был уже в конторе.
О том, что Павел Михайлович помогает художникам, знали все, но особенно громко об этом заговорили после его смерти. Он заботился о финансовом состоянии друзей-художников — Риццони, Трутнева, Горавского, которые вверяли ему собственные сбережения. Часто он интересовался у Крамского, не нуждается ли тот в деньгах, и всегда давал, если в этом была необходимость. Он помогал им во всех затруднительных жизненных ситуациях: Худякову, когда тот переезжал в Петербург, Трутовскому, когда его постигло личное горе — умерли жена и ребенок, М. К. Клодту, когда должны были продать его имение с аукциона.
Сам же он был необычайно скромен. Когда в Москве был созван Первый съезд художников, названный в честь заслуг собирателя именем Третьякова, Павел Михайлович просто сбежал из Москвы, чтобы только избежать этого чествования.
В 1892 году Павел Михайлович Третьяков пишет в Московскую городскую Думу «Заявление», в котором говорится «желая способствовать устройству в дорогом для меня городе полезных учреждений, содействовать процветанию искусства в России и вместе с тем сохранить на вечное время собранную мною коллекцию, ныне же приношу в дар Московской городской Думе всю мою картинную галерею со всеми художественными произведениями». Среди условий дарения П. М. Третьяков поставил всего несколько он пожизненно остается попечителем галереи и продолжит пополнение собрания картин, а галерея должна быть «открыта на вечное время для бесплатного обозрения всеми желающими».
Галерея разместилась в Лаврушинском переулке, в небольшом двухэтажном доме Третьяковых, к которому были сделаны пристройки, чтобы хранить сильно разросшуюся коллекцию. Так появилось в Москве первое здание, построенное специально для хранения картин.
В собрании П. М. Третьякова, которое он передал в дар Москве, насчитывалось 1287 произведений живописи, 517 графических полотен, 75 картин европейских художников. Их собрал умерший брат П. М. Третьякова — С. М. Третьяков.
С наименованием «Московская городская галерея Павла и Сергея Третьяковых» музей был официально открыт 15 августа 1893 года Газета «Новости» писала тогда «Говорят, будто по покупной цене картин Третьяковская галерея стоит полтора миллиона рублей. Подите-ка, купите ее теперь по этой цене. Ей, милостивые государи, нет теперь цены. Она является беспримерным и бесценным художественным собранием».
И действительно, в «Третьяковке» собраны лучшие произведения русской живописи «Грачи прилетели» Саврасова, «Утро стрелецкой казни» и «Боярыня Морозова» В. Сурикова, «Рожь» и «Еловый лес» И. Шишкина, «Княжна Тараканова» Флавицкого, «Березовая роща» и «После грозы» Куинджи, «Московский дворик» Поленова, картины Нестерова, И. Левитана, Верещагина, К. Брюллова, Венецианова, Боровиковского и многих-многих других знаменитых художников и не очень известных.