Родился в селе Крапивна Конотопского уезда Черниговской губернии.
В 1898 году А. Вангенгейм окончил Орловскую гимназию, в 1907 – физико-математический факультет Московского университета, а в 1909 – Московский сельхозинститут. Некоторое время на Княждворской областной опытной станции (ныне – Старорусский район Новгородской области). В 1911–1913 годы организовал метеорологическую службу в Каспийском море. Во время Первой мировой войны был начальником метеослужбы 8-й армии, затем Юго-Восточного фронта в чине полковника. За организацию газовой атаки против австрийцев был награжден золотым оружием. С 1917 по 1920 год работал инспектором народного образования в городе Дмитриеве Курской губернии, где организовал «музей родиноведения» и стал его первым заведующим. Под его руководством составлена археологическая карта Дмитриевского уезда. С 1920 год по 1924 год он работал в Главной физической лаборатории, а с 1924 по 1929 год – заместителем начальника Главнауки Народного комиссариата просвещения РСФСР, по 1934 год – состоял членом Президиума Государственного ученого совета. В 1929 года он возглавил Гидрометеорологический комитет СССР. В 1930 году организовал бюро погоды СССР (ныне – Гидрометцентр России. В августе 1932 году профессор А. Ф. Вангенгейм был назначен членом коллегии Народного комитета земледелия СССР. С 1933 входил в состав Комитета по заповедникам при Президиуме ВЦИК. 8 января 1934 года А. Ф. Вангенгейм был арестован по обвинению в контрреволюционной деятельности и шпионаже. Реабилитирован посмертно в 1956 году.
С 1999 года его имя носит Дмитриевский краеведческий музей (с 2010 – филиал Курского областного краеведческого музея).
