Нестационарные нелинейные процессы при взаимодействии электронного пучка с электромагнитным полем вблизи границы полосы пропускания электродинамической системы. I. Высокочастотная граница