Его родители были этническими немцами и германскими подданными. Людвигу было два года, когда семья переехала в Курск, где его отцу принадлежал чугунолитейный завод. После окончания курской гимназии Л. Мартенс поступил в Санкт-Петербургский практический технологический институт императора Николая I. В студенческие годы вступил в социал-демократическую организацию «Союз борьбы за освобождение рабочего класса». В 1896 году он был арестован по обвинению в пропаганде против царского правительства. После трех лет заключения был депортирован в Германию, а там немедленно призван в армию. Отслужив два года солдатом в инженерных войсках, он потом чуть больше года учился в Королевской технической школе в Шарлоттенбурге. В Германии Мартенс активно общался с русскими эмигрантами-революционерами, участвовал в отправке пропагандистской литературы в Россию. В 1901 году в Берлине познакомился с Львом Троцким, посещал В.И. Ленина в Швейцарии.
Во время революции 1905–1906 годов побывал в России После поражения революции уехал в Лондон, где жил с 1906 по 1916 год. В Великобритании он представлял интересы компании «Нижнетагильские и Луньевские заводы наследников П. П.Демидова, князя Сан-Донато» (Пермская губерния, Верхотурский, Соликамский и Пермский уезды).
В январе 1916 года Людвиг Мартенс прибыл в США. При въезде он объявил себя германским подданным, но, как он утверждал, благодаря Февральской революции в мае 1917 года ему удалось получить российское гражданство. С декабря 1916 по осень 1917 года он был членом редколлегии газеты «Новый мир» – русскоязычной социалистической газеты. С ней сотрудничали Лев Троцкий, Николай Бухарин, Александра Коллонтай и другие видные большевистские деятели.
Со 2 января 1919 года российский гражданин Людвиг Христиан Александр Карлович Мартенс, находящийся в Соединенных Штатах Америки, был назначен представителем Народного комиссариата иностранных дел в Соединенных Штатах Америки (1919–1921).В 1921 А. К. Мартенс вернулся в Россию. В разные годы он возглавлял Главное управление металлической промышленности, ленинградский НИИ дизелестроения, был ректором Московского механико-электротехнического института, преподавателем Военной академии механизации и моторизации, главным редактором «Технической энциклопедии».