Jalonen, 60, är Finlands mest framgångsrike förbundskapten i historien och har fört "Lejonen" till tre VM-guld och nationens historiska första OS-guld i ishockey i Peking 2022.
Pennanen, 44, tränar Ilves och har tidigare varit assisterande tränare till Jalonen både i A- och juniorlandslaget och vunnit VM-guld på båda nivåerna.
Han har även fört HPK till mästartiteln som huvudtränare.
Kontraktet är skrivet på två år med option för ytterligare ett år.
"Att få träna landslaget och att även få göra det i ett OS är drömmar som nu går i uppfyllelse. Det här jobbet börjar i juni och fram till dess fokuserar jag fullt ut på Ilves", säger Pennanen enligt ett pressmeddelande.