О магнитотормозном излучении и неустойчивости системы заряженных частиц в плазме