Сын штатного смотрителя 3-го московского уездного училища, (позже 2-го городского, у Красных ворот), он родился в здании этого училища и здесь же получил первоначальное образование. Затем обучался во 2-й Московской гимназии, но по смерти отца был переведен пансионером в 1-ю Московскую гимназию, где и окончил курс с золотой медалью (1850). В гимназии Малинин особенно успешно занимался древними языками и потому собирался посвятить себя филологическим занятиям, но под влиянием профессора Дмитрия Матвеевича Перевощикова, поступил на физико-математический факультет Московского университета, на котором в 1854 году окончил курс и был награждён золотой медалью за лучшее сочинение на предложенную факультетом тему.Педагогическую деятельность Малинин начал учителем математики и физики в Тверской гимназии, а затем в течение 14 лет (1856—1870) занимал ту же должность в 4-й Московской гимназии. Здесь он скоро приобрёл вполне заслуженную известность лучшего преподавателя по своей специальности и преподавал в разных учебных заведениях (в 1-й Московской Военной гимназии, Межевом институте и проч.) и в частных домах. После четырнадцатилетней службы в 4-й Московской гимназии А. Ф. Малинин был назначен директором Тульской гимназии (1870), но уже через два года возвратился в Москву, чтобы принять на себя основание и ведение Московского учительского института, директором которого он и состоял в течение 16 лет до своей внезапной кончины.