Det gäller tre personer vid den ryska ambassaden i Wien och en vid generalkonsulatet i Salzburg.
"Individerna har begått handlingar som inte överensstämmer med deras diplomatiska status och förklaras därför som persona non grata (ej välkomna)", skriver utrikesdepartementet i ett uttalande.
De har har fram till den 12 april på sig att lämna landet.
I måndags sade Österrikes utrikesminister Alexander Schallenberg att han helst ville att EU gemensamt diskuterade utvisningar för att ha en gemensamt ställningstagande.
Sedan i måndags har runt 200 ryska diplomater utvisats från olika EU-länder.