Den oppositionella bojkotten gav prov på ett sällsynt enat motstånd mot hindunationalisten Modi, som har styrt Indien i nio år och hoppas få sitta kvar även efter nästa års val.
De andra partierna var framför allt kritiska till att premiärministern hade åsidosatt presidenten Droupadi Murmu, som inte har någon formell makt men som likväl är landets statschef.
Rahul Gandhi, som leder det stora oppositionella Kongresspartiet, anklagar Modi för att omvandla invigningen av parlamentet till ett slags kröningsceremoni.
Efter invigningsförfarandet klev Narendra Modi in i plenum, applåderad av sina partikamrater. Där höll han ett 40 minuter långt anförande där han sade att Indien har tagit ett nytt kliv från sitt koloniala förflutna.
– Indien är demokratins vagga, sade han bland annat.
De 19 oppositionspartier som vägrade att delta beskriver i ett uttalande det hela som en stor förolämpning mot Indiens demokrati:
"När demokratins själ har sugits ur parlamentet ser vi inget värde i en ny byggnad."
Den nya triangelformade parlamentsbyggnaden i New Delhi är del av ett nytt och större regeringskvarter som Modi har tagit initiativ till. Enbart parlamentsbyggnaden har kostat motsvarande ungefär 1,3 miljarder kronor att bygga.