Desculpe meu querido...
Na pressa acabei lendo PPPoE no lugar de PPPoA.

Você me disse que já tem um router com suporte a autenticação PPPoA certo?
Esse "modem/router" esta configurado como router, então você tem algumas possibilidades.
1 - Configurar este "modem/router" para autenticar porem em modo Bridge e o Untangle com IP estático sem modo bridge.
2 - Deixar este "modem/router" como router e configurar o Untangle como Bridge.

Respondendo a sua pergunta sobre deixar os dois como roteadores, vamos a principal funcionalidade de um roteador.

Um roteador serve basicamente para "unir 2 ou mais redes".
Se você quer que ambos sejam roteadores, você vai ter que ter a rede externa, uma rede entre router e untangle e uma rede interna.
Isso é inviavel, por isso recomendo que um dos equipamentos funcione em modo bridge.
Existem outras loucuras com outras redes por ai...mas acho que no teu caso uma destas solução é mais adequada.

Procure usar o Untangle como Bridge antes de mais nada...quem sabe isso já te resolva o problema!

Espero ter ajudado.

Grande Abraço.