Förlusten kommer bara drygt en vecka efter att serben blivit utslagen från ATP-turneringen i Monte Carlo av britten Daniel Evans, rankad 26:a.
Djokovic tog sin 18:e grand slam-titel när han vann Australian Open i februari, men den formen tycks vara som bortblåst.
33-åringen var toppseedad med marginal i turneringen i Belgrad. Andraseedad är tionderankade italienaren Matteo Berrettini.
Flera andra topprankade spelare har samtidigt deltagit i en annan ATP-turnering i Barcelona. Där möts Rafael Nadal och Stefanos Tsitsipas i final i morgon.