Предлагается описание работы диплексера — прибора для управления мощными потоками миллиметрового излучения в системах электронно-циклотронного нагрева установок управляемого термоядерного синтеза. Он представляет собой четырёхзеркальный квазиоптический резонатор бегущей волны, в котором связь с подводящими трактами осуществляется за счёт гофрирования пары зеркал, образующих резонатор. В настоящей работе развивается теория таких систем. Выводится интегральное уравнение, описывающее пучки электромагнитных волн в резонаторе в параксиальном приближении и позволяющее определить характеристики диплексера с учётом потерь. Последние обусловлены омической диссипацией, дифракцией, ограниченностью размеров зеркал, а также несогласованностью ширин и волновых фронтов у мод резонатора диплексера и подводящих трактов. Интегральное уравнение решается численно методом итераций при помощи компьютерной программы с визуализацией. Находятся собственные частоты такой системы с учётом векторного характера волновых пучков и определяются условия, при выполнении которых функционирование диплексера возможно независимо от поляризации падающего на него излучения.