Родился в Рязанской губернии в селе Плахино 1 (13) апреля 1883 года в семье крестьян. В 1891 году перебрался в Санкт-Петербург, где пел в хоре Казанского собора. Через некоторое время поступает в Санкт-Петербургскую консерваторию, которую в 1900 г. с успехом оканчивает. В 1901 г. заканчивает также Регентские классы Придворной певческой капеллы. В 1909 г. Александров решает продолжить свою учёбу в Московской консерватории, заканчивает учёбу в 1913 г. по классу композиции, а в 1916 г. — по классу пения. В 1918 г. Александрова приглашают в Московскую консерваторию, уже в роли преподавателя, после четырёх лет работы, создаёт собственный ансамбль, с которым он объезжает весь Советский Союз и половину мира. В 1939 г. вступает в ВКП(б). В 1941 г. по личному распоряжению И. В. Сталина, ансамбль не распускают, и Александр Васильевич с новой силой включается в творческий процесс, во время Великой Отечественной войны им создаются такие песни, как «Священная война», «В поход! В поход!», «Несокрушимая и легендарная». и др. Во время войны Сталин решает, что страна должна иметь свой государственный гимн, мелодию, которая бы соединила страну в единый мощный кулак. Дело доверяется Александрову совместно с авторами слов С. В. Михалковым и Г. А. Эль-Регистаном.
Сын — Александров, Борис Александрович (1905—1984) — композитор, дирижер, народный артист СССР (1958).
Умер Александр Васильевич 8 июля 1946 года во время гастролей со своим ансамблем в Берлине.