Снижение перебора путём замены операции на какое-то преобразование

Код написан на с++ в файле alternate

Необходимо придумать как перебирать значения функции expand_alternate. Данная функция зависит от 16 значений, то есть перебор 2 в 16 степени, но её возможно заменить на некоторое преобразование, которое зависит от 8 битов(перебор 2 в 8 степени). Функция mix выглядит сложновато, но по факту это просто умножение на матрицу(линейное преобразование), прикрепил всю систему в одну и в другую сторону. Реализация не требуется, достаточно только предложить что-то рабочее.