Resultatet slogs fast av public servicekanalen ABC, sedan resultat från delstaterna Tasmanien, New South Wales och Södra Australien redovisats.
Närmare 18 miljoner australier var röstberättigade och tog ställning till förslaget, som även innebär inrättandet av ett rådgivande organ som ska tillfrågas i frågor som rör ursprungsbefolkningen.
"Historiskt fel"
Australiens urfolk har levt på kontinenten i mer än 60 000 år innan de brittiska kolonisatörerna satte sin fot "down under". Men den nuvarande grundlagen från 1901 nämner inte urinvånarna – de många aboriginska folk samt folk från öarna i Torres sund mellan Australien och Papua Nya Guinea.
Motståndare mot det förslag Australien nu röstat om brukar hävda att inrättandet av ett rådgivande organ skulle skapa onödig byråkrati eller att det skulle ge urfolk särskilda privilegier.
Australiens premiärminister Anthony Albanese har under det senaste året kampanjat för ett "ja". På lördagen bad han väljarna att rätta till ett historiskt fel.
– Det här handlar om respekt för australiska urinvånare. Det handlar om hur vi ser oss själva som en nation, men det handlar också om hur världen ser oss, sade han.
Han underströk samtidigt att en ja-seger skulle innebära "en börda som lyfts från oss alla".
Fyra procent
Att rösta är obligatoriskt enligt federal lag och folkomröstningens resultat är bindande för politikerna. Förslaget hade bara kunnat gå igenom med stöd från en majoritet av väljarna nationellt och en majoritet av väljarna i minst fyra av landets sex stater.
Eftersom tre delstater nu sagt nej står det klart att förslaget inte gick igenom.
Ursprungsbefolkningen räknas enligt myndigheterna till mindre än fyra procent av Australiens drygt 25 miljoner invånare.