Tonen hårdnade mellan Ryssland och flera EU-länder på fredagen när Moskva meddelade att tre diplomater inte längre är välkomna i landet.
I ett skriftligt uttalande säger Löfven att det ryska agerandet kan leda till svarsåtgärder.
"Jag fördömer starkt Rysslands grundlösa beslut att utvisa flera EU-diplomater, däribland en svensk diplomat", skriver Löfven till TT i ett uttalande.
"Diplomaten har utfört sina arbetsuppgifter helt i linje med gällande regelverk, och regeringen tillbakavisar bestämt påståenden om att så inte skulle vara fallet".
Även utrikesminister Ann Linde kommenterar utvisningen och skriver på sociala medier att hon "djupt beklagar" beslutet. Hon tillägger att hon har talat med diplomaten i fråga och tackat honom "för hans viktiga arbete, inklusive att befrämja kontakter människa till människa". Hon lägger till att Sverige förbehåller sig rätten att agera gentemot Ryssland.
Beskedet om utvisningen kom när EU:s utrikeschef Josep Borrell satt i möte med Rysslands utrikesminister Sergej Lavrov.
Demonstrationerna som Ryssland hänvisar till var till stöd för fängslade Kremlkritikern Aleksej Navalnyj.
Reaktionen från EU:s ledning var omedelbar, med ett fördömande i "de starkaste ordalag".
Lågvattenmärke
Borrell konstaterar också att förhållandet mellan EU och Ryssland befinner sig vid ett lågvattenmärke.
Även Tysklands förbundskansler Angela Merkel och utrikesminister Heiko Maas skärper tonläget. Merkel säger att beslutet är ytterligare ett steg bort från rättssäkerheten i Ryssland.
Tyska UD kallade till sig den ryske ambassadören för "brådskande samtal", vilket har en stark innebörd i diplomatspråk. I ett uttalande från statssekreterare Miguel Berger sades det att den ryske ambassadören mycket tydligt fått veta Tysklands hållning om fängslandet av Navalnyj samt utvisningen av diplomater.
Även Polens utrikesdepartement lät kalla upp Rysslands sändebud i landet. Polen varnar också för att utvisningarna hotar det redan ansträngda förhållandet till Ryssland.
Frankrikes president Emmanuel Macron fördömer utvisningarna.
Macron hänvisar också i sitt fördömande till Rysslands agerande mot regimkritikern Aleksej Navalnyj.
– Det verkar uppenbart att Ryssland vill splittra européerna och ställa Borrell offside. Det är ett hårt drag att meddela utvisning av diplomater under sittande möte med Borrell, säger Björn Fägersten, seniorforskare och chef för Europaprogrammet på Utrikespolitiska institutet, till TT.
En fråga är hur Sverige, Tyskland och Polen ska agera. Kommer utvisningarna att lyftas till att bli en EU-fråga, eller sköter länderna utvisningarna bilateralt?
Observerade demonstration
Enligt Linn Duvhammar på UD:s pressjour har diplomaten "observerat demonstrationen".
Hon har inte detaljer om vilken demonstration det gäller; eller hur snabbt diplomaten måste lämna landet.
Ryssland hävdar att den svenska diplomaten har deltagit i en demonstration som enligt den ryska nyhetsbyrån Interfax skedde i S:t Petersburg den 23 januari. Något som bekräftas av ryska UD på fredagen.
Svenska UD tillbakavisar att diplomaten skulle ha deltagit.
– Diplomaters rätt att observera en demonstration är en naturlig del av att följa den politiska utvecklingen i ett land, och en av diplomatins kärnuppgifter, säger Duvhammar.
Lämna snart
Ryska UD kommenterar utvisningarna i ett uttalande:
"Vi påpekar att sådant agerande från deras sida är oacceptabelt och inte ingår i deras diplomatiska status."
Moskva konstaterar att man kallat till sig Sveriges ambassadör, Polens ställföreträdande charge d'affaires och en representant från tyska ambassaden för att meddela beslutet om utvisning.
Ryssland säger att de tre diplomaterna måste lämna landet inom en snar framtid.