Нелинейная динамика излучательной неустойчивости релятивистского прямолинейного электронного пучка большой плотности