Родился Алексей Иванович в деревне Кончинка Волковского сельсовета Краснинского района в октябре 1920 года. Окончил Кармановскую среднюю школу Гагаринского района. В 1940 году был призван, в Красную Армию. Отличника боевой и политической подготовки комсомольца Гореленкова направили на курсы политсостава в город Радомышль Житомирской области. В первые дни Великой Отечественной войны, курсантам досрочно присвоили воинское звание младшего политрука и отправили на фронт. Под городом Староконстантиновом Алексей Гореленков был ранен, но вскоре снова вернулся в строй. В декабре 1941 года его направили на курсы усовершенствования командного состава, а после их окончания оставили командиром учебной роты в запасной бригаде на Урале. Весной 1943 года Алексей Гореленков окончил курсы «Выстрел» и был назначен командиром стрелкового батальона в действующую армию. Он участвовал в форсировании рек Сожа и Днепра, освобождал от гитлеровских оккупантов Белоруссию и Польшу.
Гитлеровское командование предпринимало отчаянные попытки сбросить защитников плацдарма в Вислу. В не затихавших ни на минуту ожесточенных боях росло боевое мастерство молодого офицера гвардии капитана Гореленкова. На плацдарме за Вислой Алексея Гореленкова приняли в ряды Коммунистической партии, здесь он получил свою первую боевую награду — орден Александра Невского. В январе 1945 года Советская Армия нанесла сокрушительный удар по гитлеровским войскам и стремительным маршем двинулась к границам фашистской Германии. Батальон гвардии капитана Гореленкова сражался в первом эшелоне своей дивизии. В уличных боях в городе-крепости Познани батальон далеко оторвался от подразделений полка и попал в окружение. Несколько часов гвардейцы отражали ожесточенные атаки превосходящих сил противника. В решающие минуты боя Гореленков несколько раз вызывал на себя огонь нашей артиллерии и лично водил бойцов в контратаки. Подоспевшие подкрепления помогли батальону отбросить врага и соединиться со своими войсками. За умелое руководство подразделением и личную храбрость Алексея Ивановича Гореленкова наградили орденом Суворова III степени и присвоили воинское звание майора. В составе знаменитой 8-й гвардейской армии генерала В. И. Чуйкова А. И. Гореленков участвовал в многодневных ожесточенных боях за плацдарм на западном берегу реки Одер, в 70 километрах от Берлина, и в развернувшемся с этого плацдарма наступлении наших войск на столицу фашистской Германии. На подступах к Берлину воины 2-го батальона 117-го гвардейского стрелкового полка под его командованием захватили один из авиационных заводов Мессершмитта с 40 самолетами и почти сотней авиамоторов, 20 зенитных орудий, много другого военного имущества и пленных. В ночь на 23 апреля 1945 года подразделение майора Гореленкова первым на участке 39-й гвардейской стрелковой дивизии прорвалось к реке Шпрее и с ходу начало переправу на подручных средствах. Одним из первых на плацдарме оказался комбат. Решительный бросок наших воинов через довольно крупную водную преграду вызвал среди гитлеровцев замешательство. Используя сложившуюся обстановку, майор, не теряя времени, лично повел своих солдат на штурм трех близлежащих химических заводов и овладел ими с небольшими потерями. В бою на берегах Шпрее воинами батальона было уничтожено до 150 гитлеровцев и около сотни пленено. В боях на улицах Берлина майор Гореленков в полной мере использовал свой опыт уличных боев в Познани и показал высокое мастерство в управлении подразделением в сложных условиях. Особенно удавались организованные им ночные вылазки. Его батальоном были захвачены здания нескольких банков и телеграфа. В ночь на 25 апреля 2-й стрелковый батальон с боем вышел на берег канала Тельтов и по приказу командования приступил к переправе. В эти минуты комбат был тяжело ранен. Но он не разрешил эвакуировать себя в госпиталь и в течение двух часов продолжал руководить действиями подразделения, пока боевая задача по форсированию Тельтов-канала не была выполнена.
Указом Президиума Верховного Совета СССР от 15 мая 1946 года гвардии майору Гореленкову Алексею Ивановичу за успешное выполнение боевых заданий командования и личную храбрость, проявленную в боях за Берлин, было присвоено звание Героя Советского Союза.
Указом Президиума Верховного Совета СССР от 9 мая 1945 года Алексей Иванович Гореленков награжден медалью «За победу над Германией в Великой Отечественной войне 1941-1945 гг.». Указом Президиума Верховного Совета СССР от 9 июня 1945 года награжден медалью «За взятие Берлина». Указом Президиума Верховного Совета СССР от 11 марта 1985 года Алексей Иванович Гореленков награжден Орденом Отечественной войны I степени.
После победы над гитлеровской Германией Алексей Иванович служил командиром стрелкового батальона, офицером боевой подготовки 8 Гвардейской Армии и заместителем командира мотострелкового батальона (в группе Советских войск в Германии). С февраля 1947 года майор Гореленков А.И. в запасе. В марте-июле 1948 года работал заведующим военным отделом Центрального райкома партии города Ташкента в Узбекистане.
Вновь в армии с декабря 1949 года. До ноября 1952 года служил заместителем командира мотострелкового батальона в Туркестанском военном округе. В 1953 году окончил курсы «Выстрел». Продолжал службу командиром и начальником штабов мотострелковых батальонов в Туркестанском военном округе. В 1955-1956 годах – офицер отдела Военной комендатуры города Москвы. С 1956 года – офицер Истринского районного военкомата Московской области, в марте-августе 1958 года – офицер Балашихинского объединенного городского военкомата Московской области. С августа 1958 года майор Гореленков А.И. в запасе.
В 1959-1960 годах работал продавцом демонстрационного зала-магазина и старшим товароведом склада защитной техники треста «Союзреактив». Затем работал в специализированном монтажном тресте «Трансэлектромонтаж»: инженером отдела снабжения в 1960-1961 годах, инженером отдела оборудования в 1961-1974 годах и в 1976-1978 годах.
Жил в Москве. Умер 19 мая 2005 года. Похоронен в Москве на Востряковском кладбище.
Почётный гражданин г. Майнинген (район Шмалькальден-Майнинген, земля Тюрингия, Германия). Именем Героя названа улица в деревне Волково Краснинского района Смоленской области. На доме № 14 в этой деревне ему установлена памятная доска.
Имя Алексея Ивановича Гореленкова увековечено на Аллее Героев в городе Смоленске и на Аллее Героев в поселке Красный.