Bakom beslutet står statsminister Sanna Marin. De två aktuella ministrarna Aino-Kaisa Pekonen och Tuula Haatainen har placerat sig i karantän.
I onsdags höll regeringen ett möte där Pekonen och Haatainen också deltog. Ministrarna satt visserligen i olika rum och hade digital kontakt, men utanför förhandlingarna skedde viss kontakt mellan regeringsmedlemmarna.
Hur den finländska regeringen ska arbeta nästa vecka beror på testresultatet för personen som befarats ha smittats.
Även Pekonen och Haatainen ska coronatestas.
Enligt Finlands officiella statistik på torsdagen har totalt 255 personer i landet avlidit till följd av coronaviruset.