신호흐름선도를 분석하여 전달함수를 계산해보겠습니다. 주어진 시스템은 피드백 루프가 있는 직렬 구조입니다.

1. 피드백 루프 분석:
   - 첫 번째 피드백 루프: \( a \)와 \( b \)로 이루어져 있으며, 루프 게인은 \( ab \)입니다.
   - 두 번째 피드백 루프: 동일하게 \( ab \)입니다.
   - 세 번째 피드백 루프: 동일하게 \( ab \)입니다.

2. 루프 간의 상호작용을 고려하여 전체 전달함수를 구할 수 있습니다. 전달함수를 구하는 방법은 Mason's Gain Formula를 사용하는 것입니다.

3. 전체 전달함수:
   - 각 경로의 이득은 \( 1 \times a \times a \times 1 \times a \times 1 = a^3 \)입니다.
   - 루프 이득의 합은 \( ab + ab + ab = 3ab \)입니다.
   - 루프 이득의 곱은 \( (ab)^2 = a^2b^2 \)입니다.
   - 따라서 전달함수는 다음과 같이 계산됩니다.
   \[
   \frac{C(s)}{R(s)} = \frac{a^3}{1 - 3ab + 3(ab)^2 - a^2b^2}
   \]
   여기서, \( 3(ab)^2 \)는 루프 이득의 두 번째 항의 제곱입니다.

4. 최종적으로 전달함수는 다음과 같이 정리됩니다.
   \[
   \frac{a^3}{1 - 3ab + 2a^2b^2}
   \]

따라서, 제공된 정답과 일치하며, 정답은 보기 4입니다.