К началу Великой Отечественной войны успел окончить среднюю школу. Уже в августе 1941 года его призвали в армию и направили в военное училище. После его окончания в 1942 году Варенников в звании лейтенанта был направлен на Сталинградский фронт. Затем он
участвовал в форсировании Днепра, сражался за освобождение Белоруссии и Польши, брал Берлин.
В 1942 году окончил ускоренные курсы Черкасского военно-пехотного училища.
На фронтах Великой Отечественной войны с октября 1942 года.
Командиром взвода, а затем
командиром батареи сражался в Сталинграде 79 дней и ночей. После Сталинградской эпопеи в составе 8-й гвардейской армии участвовал в кровопролитных сражениях за Левобережную Украину, особенно отличившись в боях под Изюмом и при форсировании Днепра – это Юго-Западный, а затем 3-й Украинский фронты.
В 1943 году
старший лейтенант Варенников был назначен
заместителем командира 100-го гвардейского стрелкового
полка 35-й гвардейской стрелковой дивизии по артиллерии.
За время войны был трижды ранен, награжден четырьмя боевыми орденами. В июне 1945 года участвовал в Параде Победы, встречал привезенное из Берлина Знамя Победы и сопровождал его в Генштаб. Великую отечественную войну закончил в звании капитана.
После войны Варенников остался в армии, занимал ряд командных должностей, окончил Военную академию имени Фрунзе, Военную академию Генерального штаба Вооруженных Сил СССР имени Ворошилова, Высшие академические курсы Генерального штаба.
С 1962 по 1966 год был
командиром дивизии Ленинградского военного округа, с 1967 по 1969 —
командиром корпуса Ленинградского военного округа.
1969—1971 гг. —
командующий 3-й армией Группы Советских войск в Германии. 1971—1973 гг. — первый заместитель начальника штаба Группы Советских войск в Германии.
1973—1979 гг. —
командующий войсками Краснознамённого Прикарпатского
военного округа. В 1978 году присвоено звание генерала армии. 1979—1984 гг. — начальник Главного оперативного управления — первый заместитель начальника Генерального штаба Вооружённых Сил СССР. Первым заместителем начальника Генерального штаба Вооружённых Сил СССР оставался до 1989 года. В связи с военными конфликтами и советским участием в них побывал в Анголе, Сирии, Эфиопии и Афганистане. Был главным организатором работ воинских частей по ликвидации последствий аварии на Чернобыльской АЭС.
1984—1989 гг. — начальник Группы управления Министерства обороны СССР в Афганистане. 1989—1991 гг. —
Главнокомандующий Сухопутными войсками — заместитель министра обороны СССР, член Совета обороны СССР.