В работе кратко рассмотрен метод частотной (фазовой) модуляции и детектирования сигнала на второй гармонике частоты модуляции для записи и анализа формы спектральных линий. В измерениях использовался прецизионный субдоплеровский спектрометр миллиметрового и субмиллиметрового диапазонов длин волн, работающий в режиме нелинейного насыщения спектральных переходов в стоячей волне (метод провала Лэмба). Продемонстрировано влияние степени насыщения на величину и форму регистрируемых частотно-модулированных сигналов в квадратурных каналах при синхронном детектировании. Наблюдалось изменение отношения между сигналами, определяемыми дисперсией и поглощением. Экспериментально показана необходимость учёта влияния дисперсии групповой скорости и когерентных эффектов на форму регистрируемых спектральных линий.