Lagen trädde i kraft så sent som i februari och innebar att en vuxen som inte vaccinerades kunde dömas till böter på upp till motsvarande över 36 000 kronor.
Landets EU-minister Karoline Edtstadler säger att inskränkningarna i de grundläggande rättigheterna som lagen innebär "inte längre kan försvaras med de faror som pandemin utgör".
– Vi ser inget behov av att fortsätta med den obligatoriska vaccinationen tack vare den variant (omikron) som nu är dominerande, sade Edtstadler.
Österrike var ett av de första länderna i världen att införa vaccintvång. Landet, med cirka nio miljoner invånare, har över 15 000 döda med covid-19.