Aston Villa-anfallaren Mana Iwabuchi gjorde fotbollslandskampens enda mål på straff i den 54:e minuten.
Australien, som leds av svenske förbundskaptenen Tony Gustavsson, spelar sin OS-premiär mot Nya Zeeland på Ajinomoto-stadion utanför Tokyo på onsdag i nästa vecka, några timmar efter att Sverige ställts mot USA på samma arena. Samma dag inleder Japan OS-turneringen med match mot Kanada i Sapporo.
Australien och Sverige möts i Saitama den 24 juli.