Готовились встретить врага во всеоружии и на Сумщине. Здесь также были образованы подпольный обком и райкомы партии, 146 подпольных групп, в 35 отрядов послано почти полторы тысячи человек. В Путивле в этой подготовительной работе самое прямое участие принимал председатель горсовета. Вот когда пригодился весь его богатый опыт: и бывшего партизана гражданской войны, и многолетнего военкоматского работника, и умелого хозяйственника, и энергичного организатора, наконец, его редкостная способность разбираться в людях, отличное знание города и района. И все тверже сам утверждался в мысли, что его, Ковпака, место — в партизанском строю. Позднее он напишет в одной из своих книг:
«Долго раздумывал: где в свои пятьдесят пять лет я сумею больше принести пользы? Там, на востоке, или в тылу врага? За плечами опыт боев в империалистическую войну, партизанская и армейская школы Пархоменко и Чапаева, курсы в высшей стрелковой школе, двадцатитрехлетний стаж работы с людьми, двадцать два года труда и учебы в партии. Коммунисты, рабочие, жители Путивля избрали меня председателем исполкома горсовета. Как же оставить своих избирателей, если сюда придет враг? Ведь председатель исполкома — это представитель Советской власти в городе, а власть наша народная, с народом она делит радость и горе…
Твердо решил — останусь».
Партийный актив Путивля наметил создать четыре партизанских отряда: в Спадщанском, Новослободском, Казенном лесах и в селе Литвиновичи. Командиром будущего Спадщанского отряда был утвержден Ковпак, Новослободского — Руднев. Для обеспечения отрядов хотя бы на первое время Ковпаку было поручено создать три базы с продовольствием и снаряжением в Спадщанском и Новослободском (иначе — Монастырском) лесах и неподалеку от села Ильино-Суворовка. Непосредственно этим важным делом в обстановке строжайшей секретности занимался старый друг Ковпака Алексей Ильич Коренев, директор инкубаторной станции, в прошлом — опытный, заслуженный партизан гражданской войны.
Ежедневно они уходили за А. И. Кореневым в лес: заведующий отделом коммунального хозяйства горсовета В. Ф. Попов, председатель Кардашевского сельсовета В. Л. Рыжков, коммунисты Т. М. Козаченок, Ф. С. Мерзляков, П. В. Толстой, И. О. Войкин, П. И. Демьяненко. Первые путивльские партизаны. Правда, о том, что эти люди — партизаны, знали в городе немногие.
Под видом помощи Красной Армии было заготовлено 250 солдатских котелков, ведра и баки, 75 пар сапог, 250 шапок, 100 ватников, 500 пар белья, 100 пар рукавиц, полторы тонны сливочного масла, полтонны варенья, тонна колбасы, крупа, соль, сахар, лапша, сухие овощи. Все это, надежно упакованное, гарантированное от порчи, легло на дно 132 глубоких ям. Отдельно, как особая драгоценность — 750 килограммов аммонала.
Не много ли добра для крохотного отряда в девять человек? В том-то и дело, что и Ковпак, и Коренев, и другие бойцы рассматривали свою группу лишь как ядро, основу будущего, гораздо более крупного отряда.
26 августа началась эвакуация Путивля. Все, кто мог, покидали город, уехала на подводе и жена Ковпака Екатерина Ефимовна. Фронт приближался с каждым днем. Уже шли бои на Конотопском направлении, на восточном берегу Днепра, немцы вышли на линию Глухов — Чернигов. После ожесточенных боев советские войска оставили Днепропетровск, а затем и всю Правобережную Украину, за исключением районов Киева и Одессы.
8 сентября Ковпак отправил своих бойцов в лес уже для окончательного обоснования, сам остался в городе. В один из этих дней Сидор Артемьевич познакомился с группой белорусских минеров. В Харькове они обучались на специальных курсах, но превратностями военной судьбы оказались в Путивле. Минеры понравились Сидору Артемьевичу, он с ними откровенно переговорил. Большая часть группы решила все же уйти с Красной Армией, но четыре человека приняли предложение Ковпака присоединиться к его отряду. Все они впоследствии (и заслуженно) стали видными людьми среди партизан. Это были Николай Курс, Георгий Юхновец, Виктор Островский и Василий Терехов.
Город опустел. Только пятеро вооруженных людей ходили по безлюдным улицам… Ковпак словно прощался со ставшим ему родным Путивлем. Когда-то он сюда вернется? В типографии обнаружил непорядок: часть оборудования стояла целенькой, нетронутой. Крепко помянув ее бывших руководителей, Ковпак и его минеры кое-что уничтожили, кое-что спрятали. На складе райпищеторга обнаружили мешки с солью — 120 тонн соли тут же раздали населению. Зашел председатель и в краеведческий музей, которым очень гордился. Тут узнал, что сотрудник музея Шелемин самые ценные экспонаты спрятал в… действующей церкви.