Лейтенант Ермаков был командиром взвода автоматчиков 231-го гвардейского стрелкового полка 75-й гвардейской стрелковой дивизии. Он погиб 8 июля 1943 года на высоте 257.0 во время контратаки, проведённой с целью деблокирования окружённого немцами на этой высоте 241-го гвардейского стрелкового полка. В результате контрнаступления около ста человек 241-го полка вышли из окружения. Ермаков Алексей Александрович погиб в том бою. Его имя уже было занесено на стеле братской могилы села Ольховатка Поныровского района Курской области. Там он и нашёл своё последнее пристанище. Останки лейтенанта Ермакова после траурной литии, проведённой у братского захоронения, вблизи памятника «Героям-артиллеристам», были доставлены в Ольховатку группой поисковиков во главе с Игорем Павловичем Цукановым.
А.А. Ермакова в присутствии родственников в тот же день захоронили в братской могиле, рядом с его боевыми товарищами.