기출 해설2026학년도 수능 수학 › 기하 30번

2026학년도 수능 수학 기하 30번 풀이·해설

평면벡터정답 221 · 평가원 정답표 검증 완료

어떤 문제인가

이 문제는 원의 성질과 벡터의 연산(내적)을 결합한 기하·벡터 문제입니다. 복잡해 보이는 벡터 방정식을 단순화하여 도형의 기하학적 성질을 찾아내는 것이 핵심입니다.

이 문제를 풀기 위해 우리는 다음 3가지 핵심 개념을 사용할 것입니다:

단계별 풀이

1단계: 원의 중심 $O$를 기준으로 벡터 단순화하기

지름의 양 끝점이 $A, B$이므로, 선분 $AB$의 중점은 원의 중심 $O$가 됩니다.

지름의 길이가 $10\sqrt{2}$이므로 원의 반지름 $R$은 다음과 같습니다.

$$R = 5\sqrt{2}$$

원의 중심 $O$를 시점으로 하여 모든 벡터를 표현해 봅시다.

$O$가 $AB$의 중점이므로 $\overrightarrow{\mathrm{OA}} + \overrightarrow{\mathrm{OB}} = \vec{0}$, 즉 $\overrightarrow{\mathrm{OA}} = -\overrightarrow{\mathrm{OB}}$입니다.

이때, 문제에 주어진 식의 첫 번째 괄호인 $\overrightarrow{\mathrm{PA}} + \overrightarrow{\mathrm{PB}}$를 정리해 봅시다.

$$\overrightarrow{\mathrm{PA}} + \overrightarrow{\mathrm{PB}} = (\overrightarrow{\mathrm{OA}} - \overrightarrow{\mathrm{OP}}) + (\overrightarrow{\mathrm{OB}} - \overrightarrow{\mathrm{OP}}) = (\overrightarrow{\mathrm{OA}} + \overrightarrow{\mathrm{OB}}) - 2\overrightarrow{\mathrm{OP}} = -2\overrightarrow{\mathrm{OP}}$$

이 식을 원래의 벡터 방정식에 대입하면 다음과 같이 바뀝니다.

$$-2\overrightarrow{\mathrm{OP}} \cdot (\overrightarrow{\mathrm{PQ}} + \overrightarrow{\mathrm{PB}}) = 2|\overrightarrow{\mathrm{PQ}}|^2$$

양변을 $-2$로 나누면 다음과 같은 깔끔한 식을 얻을 수 있습니다.

$$\overrightarrow{\mathrm{OP}} \cdot (\overrightarrow{\mathrm{PQ}} + \overrightarrow{\mathrm{PB}}) = -|\overrightarrow{\mathrm{PQ}}|^2 \quad \cdots \text{ (식 1)}$$

2단계: 벡터 방정식을 정리하여 기하학적 의미 찾기

이제 식을 더 단순하게 만들기 위해 모든 벡터를 시점이 $O$인 벡터로 나타내어 대입해 봅시다.

편의상 $\overrightarrow{\mathrm{OP}} = \vec{p}$, $\overrightarrow{\mathrm{OQ}} = \vec{q}$, $\overrightarrow{\mathrm{OB}} = \vec{b}$라고 하겠습니다. (이때 $|\vec{p}| = |\vec{q}| = |\vec{b}| = R = 5\sqrt{2}$이므로, 이들의 크기의 제곱은 모두 $R^2 = 50$입니다.)

이 식들을 (식 1)에 대입해 봅시다.

$$\vec{p} \cdot (\vec{q} - \vec{p} + \vec{b} - \vec{p}) = -|\vec{q} - \vec{p}|^2$$

$$\vec{p} \cdot (\vec{q} + \vec{b} - 2\vec{p}) = -(\vec{q} - \vec{p}) \cdot (\vec{q} - \vec{p})$$

좌변과 우변을 각각 전개해 보겠습니다.

두 식을 같다고 놓으면:

$$\vec{p} \cdot \vec{q} + \vec{p} \cdot \vec{b} - 100 = -100 + 2\vec{p} \cdot \vec{q}$$

$$\vec{p} \cdot \vec{b} = \vec{p} \cdot \vec{q}$$

$$\vec{p} \cdot (\vec{q} - \vec{b}) = 0$$

이것을 다시 원래의 점 표기법으로 바꾸면 다음과 같습니다.

$$\overrightarrow{\mathrm{OP}} \cdot \overrightarrow{\mathrm{BQ}} = 0$$

기하학적 의미: 선분 $BQ$와 반지름 $OP$는 서로 수직입니다! ($\overrightarrow{\mathrm{OP}} \perp \overrightarrow{\mathrm{BQ}}$)

3단계: 구하고자 하는 값 $|\overrightarrow{\mathrm{PA}} \cdot \overrightarrow{\mathrm{QB}}|$ 식 정리하기

우리가 구해야 하는 값은 $|\overrightarrow{\mathrm{PA}} \cdot \overrightarrow{\mathrm{QB}}|$입니다. 이 식도 시점 $O$를 기준으로 정리해 봅시다.

$\overrightarrow{\mathrm{PA}} = \overrightarrow{\mathrm{OA}} - \overrightarrow{\mathrm{OP}} = -\overrightarrow{\mathrm{OB}} - \overrightarrow{\mathrm{OP}}$ 이므로,

$$\overrightarrow{\mathrm{PA}} \cdot \overrightarrow{\mathrm{QB}} = (-\overrightarrow{\mathrm{OB}} - \overrightarrow{\mathrm{OP}}) \cdot \overrightarrow{\mathrm{QB}} = -\overrightarrow{\mathrm{OB}} \cdot \overrightarrow{\mathrm{QB}} - \overrightarrow{\mathrm{OP}} \cdot \overrightarrow{\mathrm{QB}}$$

그런데 2단계에서 $\overrightarrow{\mathrm{OP}} \cdot \overrightarrow{\mathrm{BQ}} = 0$임을 알아냈으므로, $\overrightarrow{\mathrm{OP}} \cdot \overrightarrow{\mathrm{QB}} = 0$입니다. 따라서 식은 아주 간단해집니다!

$$\overrightarrow{\mathrm{PA}} \cdot \overrightarrow{\mathrm{QB}} = -\overrightarrow{\mathrm{OB}} \cdot \overrightarrow{\mathrm{QB}}$$

여기에 $\overrightarrow{\mathrm{QB}} = \overrightarrow{\mathrm{OB}} - \overrightarrow{\mathrm{OQ}}$를 대입하면:

$$\overrightarrow{\mathrm{PA}} \cdot \overrightarrow{\mathrm{QB}} = -\overrightarrow{\mathrm{OB}} \cdot (\overrightarrow{\mathrm{OB}} - \overrightarrow{\mathrm{OQ}}) = -|\overrightarrow{\mathrm{OB}}|^2 + \overrightarrow{\mathrm{OB}} \cdot \overrightarrow{\mathrm{OQ}} = -50 + \overrightarrow{\mathrm{OB}} \cdot \overrightarrow{\mathrm{OQ}}$$

결국 우리는 **$\overrightarrow{\mathrm{OB}} \cdot \overrightarrow{\mathrm{OQ}}$의 값**만 구하면 문제를 해결할 수 있습니다.

4단계: 이등변삼각형의 성질과 각의 관계를 이용해 내적 구하기

삼각형 $OBQ$를 생각해 봅시다. $OB = OQ = R$이므로 $\triangle OBQ$는 이등변삼각형입니다.

이등변삼각형의 성질에 의해, 꼭지각 $O$에서 밑변 $BQ$에 내린 수선은 꼭지각 $\angle BOQ$를 이등분합니다.

그런데 2단계에서 **반지름 $OP$를 포함하는 직선이 밑변 $BQ$와 수직**이라고 했습니다.

따라서 **직선 $OP$는 $\angle BOQ$의 이등분선**이 됩니다!

즉, $\angle BOP = \angle POQ = \theta$라고 둘 수 있습니다.

그렇다면 $\overrightarrow{\mathrm{OB}}$와 $\overrightarrow{\mathrm{OQ}}$가 이루는 각의 크기는 $2\theta$가 됩니다.

이제 $\cos\theta$의 값을 구하기 위해 조건 $|\overrightarrow{\mathrm{PB}}| = 14$를 이용해 봅시다.

$$|\overrightarrow{\mathrm{PB}}|^2 = |\overrightarrow{\mathrm{OB}} - \overrightarrow{\mathrm{OP}}|^2 = |\overrightarrow{\mathrm{OB}}|^2 + |\overrightarrow{\mathrm{OP}}|^2 - 2\overrightarrow{\mathrm{OB}} \cdot \overrightarrow{\mathrm{OP}}$$

$$14^2 = 50 + 50 - 2(R)(R)\cos\theta$$

$$196 = 100 - 2(50)\cos\theta$$

$$100\cos\theta = -96 \implies \cos\theta = -\frac{24}{25}$$

이제 배각 공식을 사용하여 $\cos(2\theta)$를 구합니다.

$$\cos(2\theta) = 2\cos^2\theta - 1 = 2\left(-\frac{24}{25}\right)^2 - 1 = 2\left(\frac{576}{625}\right) - 1 = \frac{1152 - 625}{625} = \frac{527}{625}$$

따라서 우리가 구하려던 내적 $\overrightarrow{\mathrm{OB}} \cdot \overrightarrow{\mathrm{OQ}}$는 다음과 같습니다.

$$\overrightarrow{\mathrm{OB}} \cdot \overrightarrow{\mathrm{OQ}} = |\overrightarrow{\mathrm{OB}}||\overrightarrow{\mathrm{OQ}}|\cos(2\theta) = 50 \times \frac{527}{625} = 2 \times \frac{527}{25} = \frac{1054}{25}$$

5단계: 최종 계산하기

3단계에서 정리해 둔 식에 대입합니다.

$$\overrightarrow{\mathrm{PA}} \cdot \overrightarrow{\mathrm{QB}} = -50 + \frac{1054}{25} = \frac{-1250 + 1054}{25} = -\frac{196}{25}$$

따라서 구하고자 하는 절대값은 다음과 같습니다.

$$|\overrightarrow{\mathrm{PA}} \cdot \overrightarrow{\mathrm{QB}}| = \frac{196}{25}$$

이때 $p = 25$, $q = 196$이며, 두 수는 서로소인 자연수입니다.

$$p + q = 25 + 196 = 221$$

$$221$$

확인해보기

이등변삼각형 $OBQ$에서 꼭지점 $O$를 지나고 밑변 $BQ$에 수직인 직선 $OP$가 왜 꼭지각 $\angle BOQ$의 이등분선이 되는지 도형의 합동 조건($\mathrm{RHS}$ 또는 $\mathrm{SSS}$)을 이용하여 스스로 설명해 보세요.

이 문제, 내 풀이는 어디서 막혔을까? — 사진 찍어 피드백 받기 →

문항 원문은 저작권(한국교육과정평가원) 보호 대상이라 싣지 않습니다. 문제지·정답표 원문은 평가원 기출문제 게시판에서 내려받을 수 있습니다 ↗