О рассеянии мод в волноводе с неровной границей