Первая неудача не повергла Петра в уныние, а напротив, только усилила в нем желание во что бы то ни стало овладеть Азовом и проложить себе путь к Черному морю. Прежде всего он видел, что необходимо построить на Дону гребной флот, во-первых, для удобного перевоза войска, во-вторых, для действий против турок с моря. Для устройства верфи Петр выбрал Воронеж.
Зимою он отправился туда сам и в течение нескольких месяцев занимался постройкой судов. К весне было окончено 23 галеры, 2 корабля, 4 брандера и 1300 струг. Это несмотря на большие затруднения: работники бегали от работы, жестокая зимняя стужа мешала работам, происходили пожары. Распоряжаясь всей постройкой, царь то и дело сам брался за топор.
С первых чисел апреля 1696 г. начали спускать суда на воду, а тем временем подходили собиравшиеся в Воронеж войска. 3 мая караван судов двинулся с войском по Дону. Всего войска было до 40 тысяч. По совету Гордона, около города был насыпан высокий земляной вал. Азов был осажден со всех сторон, а русская флотилия не давала возможности турецкому флоту помогать осажденным. 17 июля малороссийские и донские казаки пошли на штурм, но не смогли взять города. Однако турки, опасаясь возобновления штурма, на другой же день сдались — с условием выйти из города с ручным оружием и со своими семействами. Таким образом, весь Дон до самого устья перешел под контроль России.
В марте 1697 г. в Европу отправилось посольство для поиска союзников в войне с Турцией. Великими послами были назначены Лефорт, Головин и Возницын. При послах состояло около сотни волонтеров и дворян, отправленных для изучения корабельного искусства. Сам царь был записан в свиту посольства под именем Петра Михайлова. В Кенигсберге он усердно занимался артиллерийским делом у инженерного подполковника Штернфельда и привел его в изумление своей понятливостью. Затем Петр поспешил в Голландию, страну кораблей и военного мастерства. 7 августа он приехал в Саардам, вырядившись в одежду голландского плотника — в красной фризовой куртке, в белых парусиновых штанах и лакированной шляпе. Там нашел он знакомого кузнеца, работавшего полгода в Москве, и стал жить в его доме, упросив хозяина никому не говорить, кто он такой. Вскоре Петр нанялся на верфь и работал с неделю плотником. Вместе с другими работниками он ходил в трактир пить пиво, а в свободное время посещал разные заводы и мельницы, которых было много в окрестностях. Вскоре инкогнито царя оказалось раскрыто, толпы любопытных стали ходить за ним по пятам, и Петр должен был уехать. 15 августа он приехал в Амстердам и прожил здесь около четырех месяцев. При посредничестве бургомистра Витсена, который был некогда в России, Петр определился простым рабочим на ост-индийскую верфь и с чрезвычайным увлечением занялся постройкой специально для него заложенного фрегата, заставляя и своих русских волонтеров работать вместе с собою. Проработав до конца года, Петр узнал, «что надобно доброму плотнику знать», но, недовольный слабостью голландских мастеров в теории кораблестроения, в январе 1698 г. отправился в Англию для изучения корабельной архитектуры.
Принятый в Лондоне очень радушно королем и осмотрев наскоро столичные достопримечательности, Петр поспешил к своему любимому делу, поселился в городке Дептфорде на королевской верфи и принялся за работу под руководством мастера Эвелина. Он прилежно изучал теорию кораблестроения, занимался математикой, ездил в Вулич осматривать литейный завод и арсенал, обозревал госпитали, монетный двор, посещал парламент, побывал в Оксфордском университете, заглядывал в разные мастерские, но потом возвращался опять к своему любимому кораблестроению. 18 апреля Петр простился с королем и отплыл на подаренной Вильгельмом яхте в Голландию, но, не задерживаясь здесь, поехал прямо в Австрию. 16 июня посольство торжественно въехало в Вену. Австрийцы были традиционными врагами турок, и Петр сильно рассчитывал на союз с ними. Но, увы, — склонить императора Леопольда к войне с Турцией Петру не удалось. Та же неудача постигла посольство еще раньше в Голландии и Англии. Европейские державы были глухи к призывам России, поскольку стремились развязать себе руки для назревавшей войны с Францией за испанское наследство.
Оставался последний потенциальный союзник — Венецианская республика, куда Петр собирался ехать из Вены. Но тут пришло к нему известие о бунте стрельцов в пользу царевны Софьи. 19 июля царь отправился в Россию.