Mannen vårdades på en sluten psykiatrisk vårdenhet och var ute på permission när dådet skedde.
Polisen larmades om händelsen strax före klockan nio.
– En patrull fanns i närheten och skulle gripa den här personen. Först försökte de köra ned honom när han försökte hugga en person. I samband med det krockade bilen med väggen och polisen attackerades av den här personen med kniv, säger Torgeir Brenden, polisens insatsledare till NTB.
Mannen togs först till sjukhuset, men bekräftades senare ha avlidit av skadorna, enligt NRK.
Tidigare knivattack
Senare informerade polischefen Grete Lien på en presskonferens att mannen i december förra året dömdes till sluten psykiatrisk vård efter att han året dessförinnan knivskurit en man i Oslo och hotat flera andra.
– Det vi vet är att han var ute på en kortvarig permission när denna (tisdagens) händelse inträffade, sade Lien.
Mannen var känd av polisen sedan tidigare.
Polisen som mannen gick till attack mot uppges inte vara allvarligt skadad. Ingen annan har hittats skadad.
– Det råder ingen tvekan om att det här var ett pågående extremt allvarligt våldsdåd, säger Torgeir Brenden.
Mannen var enligt polisen barbröstad och försökte aktivt attackera till synes slumpmässiga personer.
Poliser beväpnades
Alla poliser i Norge har beordrats att bära vapen tills händelsen har kunnat utredas vidare.
"Alla landets polisdistrikt har underrättats om situationen, och är tillfälligt beväpnade för att öka polisens beredskap och insatsförmåga", säger polischef Benedicte Bjørnland i ett uttalande på polisens hemsida.
Ingenting talar för att fler gärningsmän är inblandade. Det finns inte heller några indikationer för att hotnivån ändrats, skriver polisen.
På en pressträff tidigare under tisdagen sade polisen Egil Jørgen Brekke att motivet fortfarande är oklart.
– Men än så länge finns det inget som tyder på att det rör sig om en terrorhändelse.