Настоящая его фамилия — Голиков. Родился он 9 января (по старому стилю) 1904 года в городе Льгов, Курской губернии. В Красной Армии — с 14 лет, в те же 14 лет был принят кандидатом в члены РКП (б).
Участник Гражданской войны, был ранен. Направлен на курсы командиров рот, по окончании командовал ротой. Затем на курсы «Выстрел», по окончании которых командовал батальонами и полками.
Участвовал в подавлении восстания Антонова на Тамбовщине. В Сибири, в Хакасии, которая тогда была частью Енисейской губернии, командовал отрядом ЧОН — и тоже участвовал в подавлении восстаний против советской власти.
Действовал 18-летний командир боевого участка ЧОН крайне решительно и крови не боялся. 3 июня 1922 года губернский особый отдел ГПУ возбудил против командира ЧОН Голикова А.