Нужно разархивировать файлы родным архиватором, и слушать вавы. Дело не в архиваторе, предполагаю, а в закрытости виндовс, и ее точности, ограниченной временным значением 0,5мс. Данные, извлеченные плагином, вряд ли хранятся в памяти в открытом виде, они закодированы ядром виндовс. При передаче данных другому процессу, происходит раскодировка на лету, с ограниченной точностью во времени, далее эта временная ошибка умножается на ошибку другого процесса. Других соображений пока нет. Лучше wav, или так же, ни один плеер не играет losless файлы. С ape разница чуть меньше, чем с flac, но все равно, wav извлеченный родным архиватором, играет лучше.