В 1894 году в «Известиях философского института Новой Зеландии» появилась его первая печатная работа «Намагничение железа высокочастотными разрядами». В 1895 году оказалась вакантной стипендия для получения научного образования, первый кандидат на эту стипендию отказался по семейным обстоятельствам, вторым кандидатом был Резерфорд. Приехав в Англию, Резерфорд получил приглашение Дж. Дж. Томсона работать в Кембридже в лаборатории Кавендиша.
В 1898 году Резерфорд принял место профессора Макгиллского университета в Монреале, где начал серию важных экспериментов, касающихся радиоактивного излучения элемента урана. В Канаде он сделал фундаментальные открытия: им была открыта эманация тория и разгадана природа так называемой «индуцированной радиоактивности»; совместно с Содди он открыл радиоактивный распад и его закон. Здесь им была написана книга «Радиоактивность».
В своей классической работе Резерфорд и Содди коснулись фундаментального вопроса об энергии радиоактивных превращений. Подсчитывая энергию испускаемых радием к-частиц, они приходят к выводу, что «энергия радиоактивных превращений, по крайней мере, в 20 000 раз, а может, и в миллион раз превышает энергию любого молекулярного превращения». Резерфорд и Содди. сделали вывод, что «энергия, скрытая в атоме, во много раз больше энергии, освобождающейся при обычном химическом превращении». Эта огромная энергия, по их мнению, должна учитываться «при объяснении явлений космической физики». В частности, постоянство солнечной энергии можно объяснить тем, «что на Солнце идут процессы субатомного превращения».
Огромный размах научной работы Резерфорда в Монреале — им было опубликовано как лично, так и совместно с другими учеными 66 статей, не считая книги «Радиоактивность», — принес Резерфорду славу первоклассного исследователя. Он получает приглашение занять кафедру в Манчестере. 24 мая 1907 года Резерфорд вернулся в Европу. Начался новый период его жизни.
В 1908 году Резерфорду была присуждена Нобелевская премия по химии «за проведенные им исследования в области распада элементов в химии радиоактивных веществ».
В следующем году Резерфорд предложил Эрнесту Марсдену выяснить, могут ли альфы-частицы отражаться от золотой фольги. Резерфорд был абсолютно убежден в том, что массивные альфа-частицы должны испытывать лишь незначительные отклонения, проходя сквозь золотую фольгу. Большинство из них действительно проходило сквозь фольгу, лишь слабо отклоняясь. Но некоторые альфа-частицы — примерно одна из 20 000, — как заметил Марсден, — отклонялись на углы больше 90 градусов. Марсден даже боялся рассказать об этом Резерфорду и тщательно удостоверился сначала в том, что в его опытах не было ошибки. Резерфорд почти не поверил в этот результат наблюдений.
Много лет спустя Резерфорд вспоминал: «Это было, пожалуй, самым невероятным событием, которое я когда-либо переживал в моей жизни. Это было столь же неправдоподобно, как если бы вы произвели выстрел по обрывку папиросной бумаги 15-дюймовым снарядом, а он вернулся бы назад и угодил в вас».
Но в неправдоподобное пришлось поверить, и в 1911 году Резерфорд пришел к убеждению, что результаты опытов по рассеянию альфа-частиц золотой фольгой можно объяснить, только предположив, что альфа-частицы проходят на весьма малом расстоянии от других положительно заряженных частиц с размерами, много меньшими размеров атомов. Атом золота должен состоять из малого положительного заряженного ядра и окружающих его электронов. Это было рождением идеи об атомном ядре и новой отрасли физики — ядерной физики.
Эта идея была к 1911 году не совсем нова. Ее выдвигали ранее Джонстон Стони, японский физик Нагаока и некоторые другие ученые. Но все эти гипотезы были сугубо умозрительными, тогда как идея Резерфорда основывалась на эксперименте.
Результаты опытов, которые привели Резерфорда к мысли о планетарном строении атома, ученый изложил в большой статье «Рассеяние альфа- и бета-частиц в Веществе и Структура Атома», опубликованной в мае 1911 года в английском «Философском журнале». Физики всего мира могли теперь оценить еще одну, на сей раз убедительно подтвержденную экспериментально, модель строения атома…
Резерфорд был неутомим. И тут же предпринял новое исследование: стал определять количество альфа-частиц, отклоненных фольгой на различные углы в зависимости от электрического заряда ядер атомов того вещества, из которого сделана фольга.