Händelsen inträffade när polismannen skulle inspektera en buss vid ingången till stadsdelen Shuafat. Gränspolisen blev också skottskadad sedan en person i omgivningen öppnat eld för att försöka stoppa gärningsmannen.
Polisen avled senare av sina skador.
I ett separat dåd skadades en ung man lindrigt i samma del av staden. Båda gärningsmännen är enligt poliskällor unga palestinier.
Tidigare på onsdagen angrep israelisk militär en anläggning tillhörande islamistiska Hamas, sedan raketer avfyrats mot israeliska områden.
En palestinsk man dödades på Västbanken när israelisk militär ingrep mot en grupp personer som man misstänkte planerade ett våldsdåd, enligt nyhetsbyrån AP.