Tiotals har dödats, uppger försvarsdepartementets talesperson Omar Saranga. Minst två utlänningar, en sydafrikansk man och en brittisk medborgare finns bland dödsoffren.
Enligt en diplomat och en hjälparbetare anländer hundratals människor som flytt extremisterna med båtar till hamnstaden Pemba, söder om Palma.
En av båtarna som anlände hade omkring 1 300 människor ombord, enligt diplomatkällan.
Regeringen har varit fåordig om vad som pågår i Palma, och den information som finns är svår att få bekräftad. Telefon- och internetförbindelserna med staden är brutna sedan i onsdags.