О характере неустойчивости в ЛБВ вблизи границы полосы пропускания