Mannen misstänks för vapenbrott sedan ett handeldvapen, flera magasin och en stor mängd ammunition hittats i hans bil, uppger polisen.
Den gripne var efterlyst. Han stoppades av underrättelsetjänsten Secret service vid den amerikanska marinens observatorium United States Naval Observatory, där Harris residens ligger, rapporterar CNBC.
Vicepresidenten bor för tillfället inte i bostaden, eftersom den renoveras, utan i Blair House i närheten av Vita huset.