Besättningen hann dock sätta sig i säkerhet, uppger landets flotta.
Branden bröt ut i tisdags och släckningsarbetet pågick förgäves under nästan ett dygn innan Kharg slukades av havet på onsdagen.
"Med anledning av brandens spridning misslyckades försöken att rädda Kharg och hon sjönk i vattnen utanför Jask", skriver flottan.
Hamnen Jask ligger nära det strategiskt viktiga Hormuzsundet där stora delar av världens oljeexport passerar. Iran planerar att bygga ut Jask till att bli landets andra största oljeexportterminal.
I fjol dog 19 besättningsmän då ett iranskt fartyg vådasköts under en övning utanför Jask. De senaste åren har det dessutom rapporterats om marina skärmytslingar mellan Iran och ärkefienden Israel. I april i år drabbades det iranska lastfartyget Saviz av en explosion som källor i Iran anklagat Israel för.