O problema com segurança por obscuridade é que ela precisa ser obscura. Se o Firebird implementasse algum tipo de encriptação em suas rotinas de leitura e escrita em disco, ela não seria obscura, pois este é um projeto Open Source. Não levaria mais que alguns minutos para recompilar o código fonte para descobrir a senha utilizada e então, tudo está perdido.

Então, se você realmente precisa dessa ferramenta, você teria que copiar o código fonte do Firebird, inserir suas próprias rotinas de obscuridade e compilar sua própria variação do servidor Firebird. (O código fonte ainda pode ser descompilado, mas para isso seria necessário um avançado conhecimento de programação.)

Antes de tentar fazer isso, verifique se realmente resolveria o problema se o usuário pudesse obter uma cópia dos executáveis especiais compilados junto com o banco de dados. Ou se ainda seria possível ao usuário extrair os segredos diretamente de seu servidor.