Spanjorskan Sara Sorribes Tormo stod för sensationen och slog australiskan i två raka set, 6–4, 6–3.
Barty vann Wimbledon och kom till spelen som en av de främsta favoriterna i damernas singelturnering.
Men väldigt lite fungerade i hettan. Barty tappade serven i båda seten och spred bollarna. Sorribes Tormo? Den 48-rankade spanjorskan spelade något av sitt livs tennis.
– Det är en fantastisk känsla, jag kan fortfarande inte tro det. Det är något otroligt för mig. Det är något som jag har drömt om hela mitt liv, att vara här och ännu mer att jag slog världens främsta. Jag är väldigt glad, säger hon.
Närmast väntar fransyskan Fiona Ferro i andra omgången.
Barty har fortfarande chansen att lämna Tokyo med en medalj, i dubbelturneringen tillsammans med Storm Sanders.