Вопрос почти понятен, т. к. задан он по сути неправильно
"сигнал 16 или 24 бита необходимо пересчитать на 20 бит" - ошибочное утверждение.
Цифровой фильтр прозводит вычисления с точностью 25 бит и округлять нужно с 25 до величины, выбранной в настройках длины выходного слова. Модуль позволяет включать и выключать дизеринг, в данном случае мне чуть больше нравится когда включен. Слово "чуть" написал потому, что включение низкоуровневого дизеринга 5847 слышно очень слабо.