Nikkei 225-index stängde på minus 0,9 procent. Det bredare Topixindex sjönk med 0,4 procent.
En stor anledning är enligt analytiker att investerare vill säkra sitt bokslut inför det att finansåret slutar den sista mars och vill hämta hem vinster från det senaste året, då Nikkei steg 87 procent.
– Nikkei kan nog komma att röra sig sidledes hela den här månaden precis före finansårets slut, säger Kiyoshi Ishigane vid Mitsubishi UFJ Kokusai Asset Management Co till Reuters.
I Hongkong rör sig Hang Seng i samma riktning, minus cirka 1 procent i eftermiddagens handel.
Kompostitindexen i Shangahai och Shenzhen är också nedåt med drygt en procent vardera.