С началом в 1914 г. 1-й мировой войны Брусилов возглавил 8-ю армию (она включала в себя, кроме его 12-го корпуса, еще два корпуса в Одесском округе и один корпус в Казанском округе). Его армия входила в состав ЮгоЗападного фронта и занимала самый южный его участок — от румынской границы до Проскурова. Боевые действия в первый год войны на этом направлении были очень успешны для русских. 5 августа 8-я армия вместе со всем фронтом начала наступательные действия против австрийцев, вскоре взяла Галич и двинулась на Гродек. Под этим городом в конце августа Брусилов выдержал тяжелые бои против вдвое превосходящих его сил австрийцев (против четырех корпусов Брусилова действовало 7 неприятельских), которые хотели во что бы то ни стало вернуть захваченный русскими Львов. Отбив все атаки, Брусилов 31 августа перешел в наступление и занял Гродек. Было захвачено огромное количество пленных, много военного имущества и техники.
Таким образом, во многом благодаря действиям 8-й армии австрийские войска потерпели летом 1914 г. тяжелое поражение и долго после этого были не способны к ведению решительных операций. По словам немецкого военного историка Риттера, «грозные августовские бои отняли у австрийской армии силу и способность для выполнения этой задачи. Вместе с цветом австровенгерского войска под палящим солнцем болотистых долин Танева и Верешицы погибла и их моральная стойкость. Спасенные в то время остатки были поражены язвой разложения».
В конце сентября наступление Юго-Западного фронта приостановилось.
Австрийцы успели перебросить свежие части и перешли в контрнаступление.
Под Перемышлем начались тяжелые бои. 8-я армия окопалась и около месяца вела позиционную войну в крайне невыгодных для нее условиях против вдвое превосходящего по силам противника. Уже в этой операции проявилась характерная черта Брусилова — его стремление ни на минуту не оставлять врага в покое, постоянно наносить ему чувствительные удары, контратаковать при первой возможности и даже в обороне постоянно думать о нападении. Отбив все атаки, Брусилов вновь перешел в наступление и стал теснить врага по всему фронту. В октябре он подступил к Карпатам. Война зимой в горах по горло в снегу, при сильных морозах и недостатке боеприпасов была чрезвычайно тяжелой. Венгры и австрийцы с огромным упорством защищали каждую вершину, закрывавшую русской армии доступ на Венгерскую равнину.
Тем не менее все перевалы были взяты, но сил для вторжения в Венгрию у 8-й армии уже не было.
Успех, достигнутый в эти первые месяцы войны, сам Брусилов во многом относил за счет того, что имел под своим командованием хорошую армию, подготовленную и укомплектованную еще в мирное время. Однако за три месяца она понесла огромные потери, которые приходилось восполнять отвратительно обученными новобранцами, прибывшими из запасных полков и батальонов. Многие из них не умели даже заряжать винтовки, об умении же стрелять вообще говорить не приходилось. «За год войны, — пишет в своих воспоминаниях Брусилов, — регулярная армия исчезла; ее заменила армия, состоявшая из неучей». Опытный педагог, Брусилов сам взялся за подготовку солдат, образовал в каждом полку учебные команды, которые как могли старались на месте готовить пополнение. Другой бедой была катастрофическая нехватка боеприпасов. Снабжение армии с самого начала было налажено из рук вон плохо и в дальнейшем только ухудшалось В этих условиях вести успешную наступательную войну было чрезвычайно трудно В конце апреля 1915 г., перебросив с Запада несколько корпусов, немцы развернули мощное наступление в районе Горлицы, на правом крыле ЮгоЗападного фронта. В короткое время фронт 3-й армии (соседней с 8-й) был прорван. Она в беспорядке стала отходить к Перемышлю. Чтобы избежать окружения, Брусилов тоже должен был начать отступление. С боями армия медленно отходила от рубежа к рубежу. В июне пал Львов. Большая часть Галиции вновь оказалась в руках противника. Немецкое наступление выдох лось только на Буге, когда русская армия достигла прежней государственной границы. Простояв тут несколько недель, она в конце лета должна была отступить еще дальше на восток — в Полесье. Здесь пришлось пережидать вторую военную зиму. Несколько месяцев вынужденного затишья Брусилов потратил в частности и на то, чтобы усердно обучать новобранцев, и подготовил большое количество хороших солдат для наступательной операции 1916 г.