Да, в данном случае нужно все управляющие регистры АЦП так настроить. хотя можно попробовать сначала написать Config ADC ... , а потом уже устанавливать значение ADMUX. Пробуй
Из ДШ следует, что это будет дифференциальный режим АЦП. Полоса входа в этом режиме всего 4 КГц.
Тогда проще всего минус приемника не к земле цеплять, а к полпитанию на двух резисторах. Нижний резистор хорошенько зашунтировать конденсатором. Неизвестно, как работает усилитель около границ питания. Там, кстати, минусом только определенный вывод может быть, если не ошибаюсь.