Myndigheten skriver att det trots det fortfarande finns utrymme att förhandla om sina boräntor.
"Om konsumenter i högre utsträckning var beredda att byta bank skulle det sannolikt bidra till att de genomsnittliga bolåneräntorna sjönk", skriver FI.
I slutet av kvartalet var bruttomarginalen 1,07 procent, jämfört med 1,35 procent vid slutet av det första kvartalet.
Bruttomarginalen är skillnaden mellan bankernas utlåningsränta för bolån och vad det kostar dem att finansiera lånen.