Besöket i Iran sker bara några dagar före landets planerade nedtrappning av samarbetet med IAEA.
Syftet med besöket är att diskutera "hur samarbetet kan fortlöpa i ljuset av nya åtgärder", twittrar Kazem Gharibabadi, Irans sändebud vid det Wienbaserade organet.
Iran meddelade häromdagen att man kommer att undanbe sig vissa inspektioner av IAEA från och med den 23 februari, om inte USA:s president Joe Biden lyfter de sanktioner som hans företrädare Donald Trump införde.
– Vi har fått höra många fina ord och löften som sedan har brutits, säger Irans högste ledare ayatolla Ali Khamenei i ett tv-sänt tal på onsdagen.
– Den här gången vill vi se handling från den andra sidan, och i så fall handlar vi också.
Orolig Merkel
Om Iran fullföljer hotet att stoppa inspektioner blir det ett avgörande steg mot att helt bryta med kärnenergiavtalet JCPOA.
Tysklands förbundskansler Angela Merkel talade med Irans president Hassan Rohani på telefon på onsdagen.
Under samtalet efterlyste Merkel positiva signaler från Iran för att öka chanserna att återupprätta avtalet.
Merkel sade vidare att hon är orolig över att Iran fortsätter att bryta mot sina åtaganden i avtalet, enligt hennes talesperson Steffen Seibert.
Skör tråd
Kärnenergiavtalet slöts 2015 i syfte att begränsa Irans kärnenergiprogram i utbyte mot borttagna internationella sanktioner. Men sedan Trump 2018 beslutade att överge avtalet har det hängt på en allt skörare tråd.
Uppgörelsen nåddes mellan Iran och Ryssland, Frankrike, Kina, Storbritannien, USA samt Tyskland.
Biden har lovat att försöka återuppliva avtalet.
Frankrikes utrikesminister Jean-Yves Le Drian säger att hans tyska och brittiska kollegor kommer till Paris på torsdag för att diskutera avtalet med USA:s utrikesminister Antony Blinken, som ska delta via videolänk.