Характер искажений, как на картинке, мало похож на искажения вносимые трансформатором.
Судя по всему, у Вас оказался перегружен выход карты. Причин перегрузки может быть несколько, для прояснения - можно трансформатор подключить через достаточно мощный буфер, снять параметры при разных уровнях сигнала, возможно надо поставить разделительную емкость между трансформатором и выходом.
