Сигнал на выходе видео имеет некоторую постоянную составляющую, при расчетах степени апроксимирующей функции эту постоянную составляющую нужно убрать иначе расчеты будут неверными. Значения исходного сигнала пересчитывается так, что бы первая точка стремилась к нулю а последняя принимала ординату максимального значения из набора исходных данных. Решается с помощью системы линейных уравнений.

На схеме сигнал строки из диапазона 94 - 148 пересчитан в 0-255( a=4,72; b=-443,8 ).

Получают эти данные выбором участка на осциллограмме в котором зафиксирована одна строка вывода на экран монитора (помечено красными треугольниками).