Может я несколько туманно выразился, проще говоря – ФНЧ должен иметь бесконечный порядок (наверно можно это можно как то увязать и с вычислениями). Если вернуться к теореме Котельникова, то она справедлива для сигнала с ограниченным спектром существующим бесконечно. В жизни эти условия не соблюдаются точно, со всеми вытекающими последствиями.
А «звоны – перезвоны» рекурсивных цифровых фильтров – следствие их бесконечной импульсной характеристики. Очень важно, как реализован фильтр, и что делается вне его полосы пропускания.
Кардинальное решение проблемы – исходное повышение частоты и разрядности дискретизации (расширение базисной функции).

С уважением