Германская разведка, возглавляемая Канарисом, собрала большую информацию о Советском Союзе и его вооружённых силах. В результате в начале 1941 года управление Канариса подготовило и издало секретный бюллетень германского генштаба «Вооружённые силы Советского Союза по состоянию на 1 января 1941 года» с оценкой материальных и людских ресурсов нашей страны, а также боевых и моральных качеств Красной армии.
Ещё накануне войны фашистские вербовщики по всей Европе выискивали «благонадёжных» белогвардейских эмигрантов. В лабораториях абвера и в технологическом институте под Берлином испытывали мощную взрывчатку и яды, конструировали специальное оружие и экипировку, готовили документы прикрытия. Работали шпионско-диверсионные школы, создавались специальные разведывательно-диверсионные формирования (полк, а потом дивизия «Бранденбург-800», учебный полк «Курфюрст», батальоны «Бергман»). При Кёнигсбергском университете и при штабе командования абвер организовал курсы переводчиков русского языка, где готовились агенты для работы в советском тылу.
Массовая заброска агентуры участилась в середине июня 1941 года. Только за четыре дня, с 18 по 21 июня, и только на Минском направлении было задержано и обезврежено несколько десятков групп. В ночь на 22 июня абвер перебросил через границу наземным и воздушным путём значительное количество мелких диверсионных групп в гражданской одежде и, как это уже повелось у немцев, в форме противника — Красной армии.
С началом войны абвер развернул массовые диверсионные операции, которыми руководил его специальный орган «Валли-II». Гитлеровцам удалось добиться некоторых успехов: в отдельных районах была нарушена связь, определены места для высадки десантов, пущен под откос поезд. В ряде мест удалось распространить панические слухи. В Москву и её пригороды было заброшено несколько групп агентов с заданием устроить массовые диверсии, взорвать высоковольтную линию Углич — Москва. Большинство этих диверсантов выловили, и агентуру нужно было восполнить.
Упомянутый выше Эрвин Штольце предложил Канарису сделать ставку на военнопленных, вербовать агентуру в лагерях. Однако эта затея провалилась. Обозлённый Гитлер в директиве от 18 декабря 1941 года писал: «Пленные, в особенности молодое поколение, беззаветно преданы большевикам. Они способны на всякую низость…»
Тогда руководство абвера отказалось от «гуманных» способов вербовки. Пленные были поставлены перед выбором: или умереть под пулями, от голода и болезней, или пойти работать на фашистскую разведку. Большое внимание уделили и раздуванию национализма, особенно украинского, мусульманского и грузинского. Согласившихся служить тщательно проверяли и направляли в разведывательные школы. Но практика показала, что делая ставку на военнопленных, Канарис просчитался. Более половины заброшенных в советский тыл диверсантов явились с повинной.
Неудачной оказалась и попытка привлечь к агентурной работе (с заброской через линию фронта) уголовников. Они соглашались «трудиться» на немцев в их тылу в качестве полицаев и карателей, но в советский тыл не стремились.
Испытывая трудности с подбором диверсантов, абвер решился на чудовищный план: использовать в качестве диверсантов детей, в основном воспитанников детских домов, вывезенных в Германию. Детская диверсионная школа была создана в Гемфуте, вблизи Касселя. Мальчиков соответствующим образом «воспитывали» как «детей Великой Германии», возили на экскурсии, подкармливали, развивали нездоровые инстинкты.
В ночь с 28 на 29 августа и 1 сентября 1943 года несколько групп детей в возрасте тринадцати—пятнадцати лет на парашютах были сброшены в тыл Красной армии от Калинина до Харькова. Они был снабжены минами, замаскированными под куски каменного угля, которые нужно было подбрасывать в тендеры паровозов или на склады угля. Но и эта операция провалилась. Все дети с парашютами и взрывчаткой добровольно явились в воинские части, милицию, органы госбезопасности.
Канарис любил хвастаться своими успехами. «Ни одно государство, — заявил он офицерам своего штаба, — не вступало в войну с такой полной информацией о противнике, какую мы имели о России». Мягко говоря, это заявление несколько преувеличено, и об этом неоднократно говорили Гитлер и его генералы. Луи де Йонг в своей книге «Немецкая пятая колонна во Второй мировой войне» писал: «Вообще говоря, немцы были поразительно плохо информированы о фактической военной мощи Советского Союза, не говоря уже о том, до каких размеров она могла быть увеличена в дальнейшем… Они значительно недооценили также русские военно-воздушные силы. О мощи русских танковых войск Гитлер имел весьма слабое представление». Генерал Блюментрит, бывший начальник штаба 4-й армии, в 1956 году писал: «Нам было очень трудно составить ясное представление об оснащении Красной армии. Русские принимали тщательные и эффективные меры безопасности… У нас было мало сведений относительно русских танков».