Malis president Ba N'Daou, premiärminister Moctar Ouane och försvarsminister Souleymane Doucoure har alla förts till en militärbas utanför huvudstaden Bamako.
Militärens agerande, som av omvärlden kallats både kuppförsök och kidnappning, kom bara timmar efter det att två högt uppsatta militärer enligt regeringskällor blev politiska offer i en regeringsombyggnad.
FN uppmanar i ett gemensamt uttalande med bland annat EU, USA och Afrikanska unionen militären att omedelbart släppa de politiska ledarna.
"Jag är djupt oroad över uppgifterna om frihetsberövandet av civila ledare i Malis övergångsregering. Jag uppmanar till lugn och att de ska släppas", skriver FN:s generalsekreterare António Guterres på Twitter.
Ewocas skickar delegation
Händelserna i Mali togs även upp under EU-ledarnas toppmöte i Bryssel på måndagen och ledarna fördömer militärens "kidnappande".
– Vi är redo att vidta nödvändiga åtgärder, säger EU:s rådsordförande Charles Michel på presskonferensen efter mötet.
De västafrikanska ländernas samarbetsorgan Ecowas ska under tisdagen skicka en delegation till Mali för att avstyra det de kallar ett kuppförsök.
Gripandena ökar osäkerheten om framtiden för det västafrikanska landet.
Val i februari
I en militärkupp i augusti i fjol avsattes president Ibrahim Boubacar Keita. Han fördes då till samma militärbas som de nu frihetsberövade ledarna har förts, och tvingades där avgå. Landet styrdes under en kortare period av en militärjunta, som lämnade över makten till en civil interimsregering.
I realiteten fortsatte militären att ha stort inflytande både över regeringen och över den nyinstiftade lagstiftande församlingen. Juntaledaren Assimi Goita blev till exempel vice interimspresident bakom den tidigare översten Ba N'Daou, som installerades som tillfällig president.
Militären behöll höga befattningar inom styret även efter den regeringsombyggnad som tros ligga bakom måndagens händelser. Men två högt uppsatta kuppledare från augusti ska ha ersatts och enligt källor till nyhetsbyrån Reuters anser militären att Ba N'Daou och premiärminister Moctar Ouane överträtt sina befogenheter.
Övergångsregeringen lovade i april att en folkomröstning om landets grundlag ska hållas i oktober. Landet är tänkt att gå till presidentval i februari nästa år.