Первоначальное образование под руководством сельского дьячка состояло в изучении русской грамоты и арифметики. К последней науке мальчик чувствовал большую склонность и усердно занимался ею.
Желая поместить своего сына в артиллерийский кадетский корпус, Андрей Андреевич Аракчеев (1732—1797) повёз его в Санкт-Петербург. Много пришлось испытать бедному помещику. При записи в военное училище предстояло заплатить до двухсот рублей, а денег у Андрея Андреевича не было. Андрей Андреевич с сыном, собиравшийся оставить столицу, отправился в первый воскресный день к Санкт-Петербургскому митрополиту Гавриилу, который раздавал бедным деньги, пресылавшиеся Екатериной II на этот предмет. На долю помещика Аракчеева достались от митрополита три серебряных рубля. Получив ещё некоторое пособие от госпожи Гурьевой, Андрей Андреевич перед отъездом из Санкт-Петербурга решил попытать счастья: он явился к Петру Ивановичу Мелиссино, от которого зависела судьба сына его. Пётр Иванович благосклонно отнёсся к просьбе Андрея Андреевича, и молодой Аракчеев был принят в корпус. Быстрые успехи в науках, особенно в математике, доставили ему вскоре (в 1787) чин офицера.
В свободное время давал уроки по артиллерии и фортификации сыновьям графа Николая Ивановича Салтыкова, которому он был рекомендован первым его благодетелем, тем же Петром Ивановичем Мелиссино.
Спустя некоторое время наследник престола Павел Петрович обратился к графу Салтыкову с требованием дать ему расторопного артиллерийского офицера. Граф Салтыков указал на Аракчеева и отрекомендовал его с самой лучшей стороны. Алексей Андреевич в полной мере оправдал рекомендацию точным исполнением возлагавшихся на него поручений, неутомимой деятельностью, знанием военной дисциплины, строгим подчинением себя установленному порядку. Всё это вскоре расположило к Аракчееву великого князя. Алексей Андреевич был пожалован комендантом Гатчины и впоследствии начальником всех сухопутных войск наследника. Он был необходим Павлу как «непревзойдённый в России мастер муштры»
В службе:
10 (21) октября 1783 года — кадетом в Артиллерийском кадетском (впоследствии — 2-й) корпусе;
9 (20) февраля 1785 года — пожалован капралом;
27 сентября (8 октября) 1785 года — сержантом;
27 сентября (8 октября) 1787 года — произведён в подпоручики армии в том же корпусе;
11 (22) января 1789 года — переименован в поручики в том же корпусе;
24 июня (5 июля) 1790 года — назначен адъютантом, чина армии капитана, в штаб артиллерии-генерала Мелиссино;
8 (19) октября 1792 года — произведён в капитаны;
5 (16) августа 1793 года — в майоры;
28 июня (9 июля) 1796 года — в подполковники, в батальоне Его Императорского Величества;
8 (19) ноября 1796 года — назначен комендантом Санкт-Петербурга и штаб-офицером лейб-гвардии Преображенского полка;
8 (19) ноября 1796 года — в генерал-майоры;
18 (29) марта 1798 года — в генерал-лейтенанты и уволен в отставку;
11 (22) августа 1798 года — принят обратно из отставки в службу с отданием старшинства, и определён в свиту Его Императорского Величества;
4 (15) января 1799 года — назначен командиром гвардейского артиллерийского батальона и инспектором всей артиллерии;
1 (12) октября 1799 года — отставлен от службы;
14 (26) мая 1803 года — вторично принят в службу и назначен инспектором всей артиллерии;
27 июня (9 июля) 1807 года — произведён в генералы от артиллерии;
13 (25) января 1808 года — назначен военным министром;
17 (29) января 1808 года — генерал-инспектором всей артиллерии и пехоты;
18 (30) января 1810 года — назначен в Государственный совет председательствующим по Военному департаменту (до 30 марта (11 апреля) 1812 года);
17 (29) июня 1812 года — назначен управляющим Канцелярией императора (с 7 (19) декабря 1812 года — Собственная Его Императорского Величества канцелярия)
18 (30) августа 1814 года — назначается докладчиком императора по делам Особого комитета для оказания помощи раненым;
24 декабря 1815 (5 января 1816) года — назначается докладчиком императора по делам Комитета министров и Государственного совета;
10 (22) января 1816 года — вторично назначен в Государственный совет председательствующим по Военному департаменту;
3 (15) февраля 1821 года — назначается главным начальником Отдельного корпуса военных поселений;
20 декабря 1825 (1 января 1826) года — освобождён от должности управляющего Собственной Его Императорского Величества канцелярией и от заведования делами Комитета министров;
30 апреля (12 мая) 1826 года — уволен в отпуск для «поправления расстроенного здоровья»;
23 октября (4 ноября) 1826 года — уволен с должности главного начальника Отдельного корпуса военных поселений;
8 (20) апреля 1832 года — приказ императора Николая I: «Не считать графа Аракчеева инспектором артиллерии и пехоты».
Высочайше повелено, в воздаяние отличного управления Военным министерством отдавать ему все прежние военные почести.
Высочайшим приказом 28 апреля (10 мая) 1834 года — исключён из списков умершим.