Den tolvåriga hannens ruttnande kadaver hittades, utan huvud och betar, på en palmoljeplantage i juli. Jakten på förövarna har pågått i en månad och en sjätte misstänkt är fortfarande på fri fot, enligt polisen i Aceh.
Polis säger sig dock veta att en av de gripna dödade och halshögg elefanten och att hans medhjälpare försökte sälja delar av dess värdefulla betar. En obduktion visar att djuret också hade förgiftats.
Om de gripna fälls för brottet riskerar de tio års fängelse.
Sumatraelefanten är en underart till den asiatiska elefanten. Tilltagande tjuvjakt, som drivs på av efterfrågan på elfenben, i kombination med skogsavverkning gör att beståndet minskat kraftigt de senaste åren. Bara omkring 500 sumatraelefanter beräknas nu leva i det vilda, enligt indonesiska naturskyddsmyndigheter.