Elanga slog till på ett friläge i 50:e minuten och gav sedan Sverige ledningen på nytt när han vinklade in 2–1 via bortre stolpen i 64:e minuten.
Elangas andra mål kom bara två minuter efter Montenegros kvittering.
Inhopparen Amin Sarr fastställde 3–1 i 79:e minuten.
U21-landslaget tog andra raka segern i EM-kvalet efter 6–0-segern hemma mot Luxemburg i juni.
I nästa match väntar Bosnien-Hercegovina på bortaplan i Zenica på tisdag.