Нужно bufer size в настройках асио обязательно ставить -0, что бы он не задействовался в тракте, но с таким буфером значение AA=500dB, DF=5, FFTLENGTH=8388608 не получится поставить сразу говорю. Попробуйте значения поставить те что я написал, а потом с ними сравните то что вам захочется.