Еще при обсуждении программы между делегатами не раз возникали принципиальные разногласия. Окончательно единство было разрушено при обсуждении устава и при выборе центральных органов. Уже первый параграф устава — о членстве в партии — вызвал непреодолимые противоречия. В формулировке, предложенной Лениным, говорилось, что членом партии считается всякий, признающий ее программу и поддерживающий партию как материальными средствами, так и личным участием в одной из партийных организаций. В формулировке, предложенной Мартовым, личного членства не требовалось — достаточно было признавать программу и оказывать партии содействие. Несмотря на видимую близость формулировок разногласия носили принципиальный характер. Ленинская редакция предполагала, как уже говорилось, создание небольшой, но жестко централизованной организации профессиональных революционеров; мартовская — создание многочисленной социал-демократической партии по типу тех, что уже существовали в Западной Европе, то есть с большим количеством членов и с широкой внутренней демократией. По существу, разногласия далеко выходили за пределы обсуждаемого вопроса — речь шла о двух разных подходах к политической борьбе и двух разных пониманиях ее сути. Большинство на этот раз осталось за сторонниками Мартова. Но при выборах в центральные органы партии — в ЦК, Совет партии и редакцию «Искры» — сторонники Ленина имели твердое большинство. Он сумел провести своих ставленников на все ключевые посты и оттереть от них последователей Мартова. (Сам Ленин вместе с Мартовым и Плехановым был избран редактором «Искры».) С этого момента фактически произошел раскол партии на две фракции: большевиков (сторонников Ленина) и меньшевиков (его противников). Дальнейшие события показали, что разногласия между ними носили непримиримый характер. Не только на внутрипартийную организацию, но и на многие другие вопросы политической борьбы они смотрели по-разному. Существовать в рамках единой организации они не могли. Но это стало окончательно ясно только после многих лет упорной внутрипартийной борьбы.
Через несколько дней после съезда меньшевики, по словам Мартова, подняли «восстание против ленинизма». В сентябре 1903 г. они организовали свое бюро, в состав которого вошли Мартов, Дан, Потресов, Аксельрод и Троцкий. 4 октября была предпринята попытка договориться, но она закончилась ничем. После того как на сторону меньшевиков перешел Плеханов, они установили контроль над «Искрой». Ленин вышел из состава редакции и вскоре был кооптирован в ЦК партии. Но и здесь из-за различных организационных перестановок он к лету 1904 г. остался в меньшинстве и вынужден был выйти из состава ЦК. Однако в местных комитетах РСДРП меньшевики все же остались в меньшинстве. Только на Украине и Кавказе часть комитетов пошла за Мартовым, Плехановым и их единомышленниками. В августе в окрестностях Женевы Ленин провел совещание своих сторонников, которое приняло обращение «К партии» и сформировало большевистский организационный центр — Бюро комитетов большинства. Этот шаг поддержали 13 крупнейших комитетов РСДРП (в том числе Московский и Петербургский). Вскоре было организовано издание большевистской газеты «Вперед», которая начала работу по подготовке Третьего съезда. Увидев, что Ленин, не колеблясь, ведет дело к расколу партии, меньшевистский ЦК вступил в переговоры с Бюро и согласился на созыв съезда. Однако Плеханов, фактически руководивший Советом партии, отказался признать правомочность созываемого съезда. В результате на Третий съезд, проходивший в апреле 1905 г. в Лондоне (когда в России уже шла революция), собрались одни большевики. Ленин оказался в среде единомышленников. Делегаты единодушно приняли резолюцию «Об отколовшейся части партии», в которой призывали всех рядовых членов вести активную борьбу против меньшевиков. В другой резолюции вновь избранному ЦК во главе с Лениным было дано право распускать все меньшевистские организации, не выполняющие решения съезда. Ленин был также назначен ответственным редактором вновь организуемой большевистской газеты «Пролетарий».
Одновременно с Третьим съездом меньшевики провели свою отдельную конференцию в Женеве. Анализу расхождений между меньшевиками и большевиками была посвящена брошюра Ленина «Две тактики социал-демократии в демократической революции», изданная в августе 1905 г. Здесь Ленин вновь повторял уже неоднократно высказываемую им мысль о том, что русская буржуазия не способна провести в стране необходимые демократические преобразования. В силу этого пролетариат не только должен сыграть в начавшейся революции руководящую роль, но и стараться в союзе с крестьянами захватить власть. Целью революции, писал Ленин, должно быть установление «революционно-демократической диктатуры пролетариата и крестьянства», которая и должна провести необходимые демократические преобразования.