Служебный путь Ермолова далеко не был усыпан розами, но на нем, наоборот, было набросано много терний. Служебным его неудачам немало способствовало его несомненное превосходство, которого никогда не сносит окружающая посредственность, а частию Ермолову вредил много его злой и как бритва острый язык, которым крутой генерал беспощадно казнил смешные и слабые стороны своих недоброжелателей.
Алексей Петрович Ермолов родился в Москве 24 мая 1777 года.
Отец его был небогатый помещик Орловской губернии, где и служил, между прочим, председателем гражданской палаты, а в последние годы царствования императрицы Екатерины II управлял канцеляриею графа Самойлова.
Мать Алексея Петровича, Мария Денисовна Давыдова, родная тетка известного партизана и поэта Давыдова, была в первом браке за Каховским, и от этого брака у нее был сын Александр. Оба ее сына как бы с самым материнским молоком всосали способность не мириться ни с чем низменным по натуре. Мать Алексея Петровича, по выражению одного близкого ее знакомого, «до глубокой старости была бичом всех гордецов, взяточников, пролазов и дураков всякого рода, занимавших почетные места в служебном мире».
Первоначальным учителем А. П. Ермолова был их же крепостной дворовый человек, по имени Алексей, который по букварю и с знаменитою указкою учил грамоте будущего великого полководца.
Отец Ермолова был слишком занят службою, чтобы заниматься сыном; сведущего учителя, которые были тогда и редки и дороги, он не мог ему нанять по недостатку средств, а потому и поместил его сначала в семейство своего родственника, орловского же помещика Щербинина, а потом в дом Левина. Отеческие же заботы о воспитании сына ограничивались тем, что он с малолетства твердил ему о необходимости усердной и ревностной службы.
Неопределенность положения Алексея Петровича Ермолова в семье его родственников заставила отца его отправить сына в Москву, в университетский благородный пансион, где он и был сдан на руки профессору Ивану Андреевичу Гейму.