Após pequenas obras de adaptação para ela passaram o prelado, seminaristas e serviços da Cúria Diocesana em 1915. O Seminário do Algarve funcionou ali até que, em 1933, após a extinção do citado Regimento, regressou à parte sul do edifício original da instituição. Evidenciando o desaparecimento de muito do espólio do Seminário, a restituição trouxe também a necessidade de recuperação urgente do edifício levada a cabo por D. Marcelino Franco até ao final de 1933. O mesmo se passaria com a restante parte do Seminário devolvida apenas em 1940, tendo servido de Paço Episcopal e Câmara Eclesiástica até 1964. Recorde-se que, quando a residência do bispo do Algarve fora confiscada, funcionou ali até tarde a Escola de Alunos Marinheiros e o próprio Museu da Marinha.
Quando D. Júlio Rebimbas chega ao Algarve, em 1965, decide fazer da antiga casa da Rua do Município um Centro de Pastoral Diocesano e inicia as obras. “Estruturou onde funcionariam todos os serviços do Centro de Pastoral porque a Diocese do Algarve não tinha espaços de trabalho na altura”, explicou à FOLHA DO DOMINGO o cónego José Pedro Martins, reitor do Seminário de São José e vigário episcopal para a Pastoral.
Após a saída de D. Júlio Rebimbas, o seu sucessor, D. Florentino de Andrade e Silva, decide vender a casa à Polícia Judiciária e o projecto do novo Centro de Pastoral é interrompido, passando os Serviços de Pastoral da Diocese do Algarve a funcionar no rés-do-chão do edifício do Seminário.
Também depois do 25 de Abril de 1974, o Seminário de Faro acabou por ser cedido, temporariamente, para acolhimento de retornados das ex-colónias portuguesas.
Chegado à diocese algarvia em 1977, D. Ernesto Costa empreendeu um prolongado trabalho de conservação no Seminário que incluiu obras no telhado, nos quartos e noutras áreas do edifício. No rés-do-chão, o bispo franciscano redimensionou os espaços para acolherem os Serviços Diocesanos de Pastoral. Durante esse período de obras, os candidatos ao sacerdócio foram então enviados para o Seminário menor da arquidiocese de Évora, em Vila Viçosa, e, só em 1986 o Seminário de São José foi de novo reaberto.
Atualmente, o edifício do Seminário de São José, para além dos seminaristas e padres da equipa formadora, acolhe ainda, no rés-do-chão, não só os Serviços Diocesanos de Pastoral com todos os seus Departamentos, Secretariados e Setores e salas de reunião, mas também a Chancelaria Diocesana, a Vigararia Geral e o Tribunal Diocesano, assim como uma loja que serve as paróquias e as comunidades.