так как раз в этом и проблема, у вас число выборок большое, АЦП чувствительное, измеряемый источник не стабильный, сколько АЦП не мучай - всегда на выходе будет помеха (сигнал не идеален же)
здесь как не крути, нужно огрублять, если стремимся к 0, а огрубление - это потеря данных так или иначе...
возможно ещё внутреннее сопротивление, нагрузки на термопаре, не хватает достаточной между связкой термопары+ацп, вот и ловит куча мусора. Не пробовали в режиме покоя подносить руку к проводникам, шумит не сильнее?