나이퀴스트 ISI 기준
h(t)가 채널의 임펄스 응답이라고 하자. 그리고 x[n]이 Ts마다 전송되는 심볼들이고, y(t)가 수신되는 신호라고 하자. 그러면
y(t)=n=−∞∑∞x[n]h(t−nTs) 로 표현된다. 이 수신 신호를 Ts마다 샘플링한다고 하면, 다음과 같이 이산 신호로 나타낼 수 있다.
y[k]=y(kTs)=n=−∞∑∞x[n]h[k−n]=x[k]h[0]+n=k∑x[n]h[k−n] 위 식에서 현재 시점 k의 입력에 대한 응답인 x[k]h[0]을 제외한 ∑n=kx[n]h[k−n]가 바로 심벌 간 간섭, ISI이다. 따라서 만약
h[n]=h(nTs)={10if n=0otherwise 이라면, ISI를 제거할 수 있다. 이 h(t)에 임펄스 열 ∑k=−∞∞δ(t−kTs)를 곱하면, n=0, 즉 t=nTs=0에서만 델타 함수 하나가 남는다. 식으로 쓰면
h(t)k=−∞∑∞δ(t−kTs)=δ(t) 이다. 양변을 푸리에 변환하자.
H(f)∗Ts1k=−∞∑∞δ(f−Tsk)=1 즉
Ts1k=−∞∑∞H(f−Tsk)=1 이다. 이 식의 의미는 H(f)가 Ts1를 주기로 반복되어 나타나는 것을 다 더하면 상수가 된다는 것이다. 그림으로 표현하면 다음과 같다. (높이를 편의상 1로 두었다.)
이런 그림이 그려지려면 어떻게 해야 할까? 우선 H(f)의 대역폭은 2Ts1≥0이어야 한다. 만약 그렇지 않다고 해 보자. 가령 다음 그림과 같이 말이다.
이러면 반복되는 스펙트럼을 아무리 더해도 만나지 않는 부분, 즉 0인 부분이 생기므로, 위 식을 만족시킬 수가 없다. 따라서, 심벌률이 Ts1인 경우 ISI를 없애려면 최소한 2Ts1의 대역폭이 필요함을 증명하였다.
여기서 만족해도 좋지만, 조금 더 나아가보면, H(f)는 좌우 대칭이어야 한다. Tsn를 중심으로 양쪽이 똑같은 값을 가져야 하기 때문이다.
또한, (±2Ts1,0.5)를 중심으로 기함수여야 한다. 가령 다음 그림과 같이 말이다.
그러면, 이들을 다 더하면 다음과 같이 스펙트럼이 겹치는 부분이 더해져서 1이 된다.
위를 만족하는 가장 간단한 H(f)는 다음과 같을 것이다.
이상으로 나이퀴스트 ISI 기준에 대해 알아보았다.