Mannen hittades livlös på sin paddelsurfbräda (sup) efter att ha gett sig ut i vattnet i Nya Kaledoniens huvudstad Nouméa.
Dödsorsaken väntas bli fastställd vid en obduktion på måndag.
"I nuläget misstänker utredarna en hajattack", skriver åklagaren Yves Dupas i ett uttalande.
Myndigheterna utfärdar regelbundet varningar för haj och uppmanar människor att vara på sin vakt i vattnen kring Nya Kaledonien i sydvästra Stilla havet.