Кастальский – автор около 200 духовных сочинений и переложений, составлявших основу клиросного (и в большой мере концертного) репертуара Синодального хора в 1900-х годах. Композитор первым сумел доказать органичность соединения древнерусских распевов с приемами народного крестьянского многоголосия, а также с традициями, сложившимися в клиросной практике, и с опытом русской композиторской школы. Нередко Кастальского называли «Васнецовым в музыке», имея в виду прежде всего роспись В.М.Васнецовым Владимирского собора в Киеве, восстановившую традиции монументальной фрески в национальном стиле: стиль духовной музыки Кастальского, где едва ощутима грань между переложением (обработкой) традиционных распевов и сочинением в их духе, также отмечен объективностью и строгостью. В качестве директора Синодального училища Кастальский осуществлял его преобразование в Академию церковной музыки, с обучением по программам, превышающим уровень консерватории.

Важным направлением его деятельности была «музыкальная реставрация»: в частности, им осуществлена реконструкция древнерусской литургической драмы "Пещное действо"; в цикле "Из минувших веков" представлено в музыкальных картинах искусство Древнего Востока, Эллады, Древнего Рима, Иудеи, Руси и др. Кастальский создал монументальную кантату-реквием для солистов, хора и оркестра "Братское поминовение героев, павших в великую войну" (1916; памяти воинов союзных армий Первой мировой войны на русские, латинские, английские и другие тексты; вторая редакция для хора без сопровождения – "Вечная память" на церковнославянский текст панихиды, 1917). Автор песнопений, сочиненных специально к интронизации патриарха Тихона на Поместном соборе Русской православной церкви 1917–1918. Среди светских произведений опера "Клара Милич" по Тургеневу (1907, поставлена в Опере Зимина в 1916), "Песни о Родине" на стихи русских поэтов для хора без сопровождения (1901–1903). Кастальский – автор теоретических трудов "Особенности народно-русской музыкальной системы" (1923), "Основы народного многоголосия" (издан в 1948). По его инициативе курс народного музыкального творчества был введен сначала в Синодальном училище, а затем в Московской консерватории.

В начале 1920-х годов Кастальский некоторое время искренно пытался соответствовать «требованиям современности» и создал несколько малоудачных произведений для хора и оркестра народных инструментов, "Сельскохозяйственную симфонию" и др., а также обработки советских «революционных» песен. Долгое время его духовное творчество находилось в полном забвении на родине; в наши дни Кастальский признан мастером «нового направления» в русской церковной музыке.