Beskeden kom i samband med mötet mellan de två ledarna i Moskva, vid det stora bordet i Kreml där diplomatiska utspel har avlöst varandra.
Scholz och Putin träffades efter det att Moskva meddelat ett tillbakadragande av trupper, något som inte bekräftats av Nato.
Tysklands förbundskansler betonade efter mötet att väst och Ryssland står långt ifrån varandra i flera frågor, däribland Natos utvidgning. Men Scholz lyfter vikten av att kompromissa.
– Det är vår uppgift, att nå politisk förståelse utan att någon behöver ge upp sina principer i processen. Det är politiskt ledarskap, säger han på en pressträff efter mötet.
Scholz välkomnar uppgifterna om att Ryssland drar tillbaka trupper.
– Att vi nu hör att vissa soldater dras tillbaka är i alla fall ett gott tecken. Vi får hoppas att det blir fler, säger han.
Scholz instämmer i Rysslands bedömning att det inte är för sent att med diplomati undvika krig.
– Jag håller uttryckligen med om att de diplomatiska alternativen är långt ifrån uttömda.
Putin: Redo förhandla
Vladimir Putin i sin tur säger att Ryssland inte vill ha krig.
– Vill vi ha det här eller inte? Självklart inte. Det är just därför vi lagt fram förslag för en förhandlingsprocess, säger han på den gemensamma presskonferensen med Scholz.
Ryssland kan inleda samtal med USA och Nato om begränsningar när det gäller utplacering av mellandistansrobotar i Europa, om transparens kring övningar och andra förtroendeskapande åtgärder, enligt Putin.
– Vi är redo att arbeta mer tillsammans. Vi är redo att ta förhandlingsspåret, säger den ryske presidenten.
Putin framhåller samtidigt behovet av att väst lyssnar på Ryssland krav, som bland annat handlar om att Nato inte ska utvidgas ytterligare.
Diplomati och dialog
Scholz träffade Ukrainas president Volodymyr Zelenskyj på måndagen. Han underströk även då att diplomati och dialog är den enda vägen ur den pågående krisen. Scholz beskrev den ryska upprustningen kring Ukraina som oförståelig.
Inför Scholz och Putins möte uppmanade Tysklands utrikesminister Annalena Baerbock Ryssland att dra tillbaka trupperna.
Å ena sidan har Tyskland och Ryssland flera diplomatiska trätor i närtid som har försurat relationerna. Å andra sidan har de knutit en del starka ekonomiska band.
Tysklands allierade sätter framför allt frågetecken vid ett växande tyskt beroende av rysk naturgas.
Volodomyr Zelenskyj påpekade detta för Olaf Scholz och beskrev det som att Ryssland använder den nya gasledningen Nord Stream 2 som ett geopolitiskt vapen.