Detectar zona afectada
Para a detecção da zona afectada foi usado o seguinte conceito. A zona afectada tem uma grande incidência da cor vermelha e, simultaneamente, pouca incidência das cores verde e azul. Foi então desenvolvida uma fórmula que maximizasse essa relação:
Esta equação devolve um valor que mostra a incidência do vermelho em relação ás outras cores. Assim, quanto maior for K maior é a incidência do vermelho sobre as outras cores.
Na figura seguinte pode ser visto um histograma das cores RGB num olho com o efeito de olho vermelho.
No histograma acima pode-se verificar que a maior parte de ocorrências das cores verde e azul estão nas baixas frequências. As ocorrências da cor vermelha estão repartidas por toda a gama espectral. É neste aspecto que é necessário intervir, removendo as ocorrências da cor vermelha de média e alta frequência.