Händelsen inträffade vid en spårvägsstation i östra Jerusalem, nära bostadsområdet Sheik Jarrah där palestinier hotas av vräkning. Läget där ledde nyligen till massprotester och bidrog till att utlösa de elva dagar långa stridigheterna mellan Israel och Gaza.
Enligt militären är en av de knivhuggna soldat. En video på sociala medier visar en kniv i hans rygg sedan han fallit på knä och fått första hjälpen.
– Angriparen är skjuten och dödad, bekräftar talespersonen Micky Rosenfeld vid polisen som kallar dådet en terrorattack.
Den dödes identitet var inte omedelbart känd.