Enligt polischef Karl Steinar Valsson har flera halvautomatiska vapen och stora mängder ammunition beslagtagits på nio olika platser.
Beslagen och gripandena av de misstänkta skedde på onsdagen.
Fyra män i 30-årsåldern greps på två ställen enligt tidningen Morgunbladid. Dels i stadsdelen Kópavogur i Reykjavik, dels i ett industriområde i huvudstadens utkant. Ett 50-tal poliser deltog i insatsen.
Enligt statsminister Katrín Jakobsdóttir underrättades nationella säkerhetsrådet när polisen inledde insatsen.
– Så vitt vi vet är detta första gången som vi genomför en utredning av den arten (i Island), säger Karl Steinar Valsson på en presskonferens på torsdagen.
Enligt honom kan det antas att de misstänkta hade valt ut alltinget eller polisen som mål för terrordåd, enligt Valsson rapporterar Morgunbladid.
Efter gripandena anser polisen att det inte kvarstår någon fara för allmänheten.
De fyra islänningarna är misstänkta för att ha förberett terrorism, införsel av vapen, vapendelar och ammunition samt tillverkning av vapen; de ska ha tillverkat vapendelar i en 3D-printer.
De riskerar upp till livstids fängelse.
Två dem är häktade i en vecka, de andra i två veckor.
Polisen har inte uttalat sig om de fyra kan kopplas till någon extremistisk rörelse.