기하와 벡터 증명 베스트 문제 10선

기하와 벡터 증명 베스트 문제 10선

수학Ⅰ·Ⅱ, 미적분, 기하 과목이 선택형으로 분리되면서 ‘벡터 증명’은 선택자의 전유물처럼 느껴지곤 합니다. 그렇지만 벡터는 도형의 성질을 깔끔하게 정리하고, 복잡한 기하적 관계를 한눈에 드러내 주는 강력한 언어입니다. 좌표 없이도 성분 계산만으로 중선·무게중심·내심·외심 등 핵심 개념을 증명할 수 있고, 삼각형·사면체·다각형으로 확장해도 기법이 크게 달라지지 않는다는 점이 매력적입니다.

이번 글에서는 수험생·예비 교사·수학 동아리원 모두에게 도움이 될 만한 ‘기하와 벡터 증명 베스트 문제 10선’을 엄선했습니다. 각 문제는 ▲출제 빈도 ▲개념 통합도 ▲확장 가능성 세 가지 기준으로 고른 뒤, 문제 → 사고 순서 → 핵심 벡터 계산 → 결론 형식으로 풀어 봅니다. 풀이 과정에서 복잡한 변형 공식을 장황하게 적기보다는, 반드시 기억해야 할 벡터 항등식과 중·고교 수준에서 자주 쓰이는 내적·외적 관계만을 사용했습니다.

---

문제 1 ― 삼각형의 세 중선은 한 점에서 만난다

핵심 사고
두 변의 중점을 잇는 중선 벡터는 서로 다른 기저를 공유한다. 중점 M, N에 대해

$$
\vec{AM}=\frac12(\vec{AB}+\vec{AC}),\quad
\vec{BN}=\frac12(\vec{BC}+\vec{BA})
$$

두 중선의 교점 G를 $\vec{AG}=t\vec{AM}$으로 두면, 벡터 방정식으로 $t=\frac23$을 얻고 세 번째 중선 역시 같은 점을 지난다는 것을 확인한다. 따라서 삼각형의 모든 중선은 교점 G(무게중심)에서 만난다.

---

문제 2 ― 삼각형의 외심 위치 벡터

핵심 사고
외심 O는 모든 꼭짓점에서 같은 거리를 가지므로 $|\vec{OA}|=|\vec{OB}|=|\vec{OC}|$. 내적 성질

$$
|\vec{a}|^{2}-|\vec{b}|^{2}=2\vec{OC}\cdot(\vec{a}-\vec{b})
$$

을 이용해 세 식을 세우면, 선형 방정식 세 개로 $\vec{O}$를 구할 수 있다. 최종적으로

$$
\vec{O}=\frac{\alpha,\vec{a}+\beta,\vec{b}+\gamma,\vec{c}}{\alpha+\beta+\gamma},;
\alpha=|\vec{b}-\vec{c}|^{2},;\beta=|\vec{c}-\vec{a}|^{2},;\gamma=|\vec{a}-\vec{b}|^{2}
$$

가 도출되고, 이는 좌표계 없이도 벡터만으로 외심을 규정할 수 있음을 보여 준다.

---

문제 3 ― 삼각형 넓이의 벡터식

핵심 사고
두 변 벡터 $\vec{a},\vec{b}$가 이루는 삼각형의 넓이는

$$
S=\frac12|\vec{a}\times\vec{b}|
$$

이지만, 2차원 평면에서는 외적 대신 내적을 통해

$$
S=\frac12\sqrt{|\vec{a}|^{2}|\vec{b}|^{2}-(\vec{a}\cdot\vec{b})^{2}}
$$

를 더 자주 활용한다. 수능·내신에서 각·길이 조건이 섞인 문제를 구할 때 계산 실수를 줄여 준다.

---

문제 4 ― 평행사변형 대각선의 교점 증명

핵심 사고
평행사변형 ABCD에서 대각선 교점 O는

$$
\vec{O}=\frac12(\vec{A}+\vec{C})=\frac12(\vec{B}+\vec{D})
$$

가 동시에 성립함을 보이면 된다. 이는 $\vec{AD}=\vec{BC}$라는 정의를 이용해 곧바로 확인할 수 있어 간결한 벡터 증명의 대표 사례가 된다.

---

문제 5 ― 사면체 네 중선의 공점성

핵심 사고
사면체 ABCD의 꼭짓점 A에서 대변 중심 M, N, P를 잇는 선분을 공간 중선이라 한다. 벡터 좌표계를 잡아

$$
\vec{AM}=\frac12(\vec{b}+\vec{c}),;
\vec{AN}=\frac12(\vec{c}+\vec{d}),;
\vec{AP}=\frac12(\vec{d}+\vec{b})
$$

라 두고, 가중치 방법으로 교점을 구하면 t·s·u 모두 $\frac34$로 일치한다. 따라서 네 중선은 모두 사면체의 무게중심 G 한 점을 지난다.

---

문제 6 ― 삼각형 내부 점과 넓이 분할

핵심 사고
삼각형 ABC 내부의 점 P에 대해 세 소삼각형의 넓이 S를 구하면

$$
\frac{S_{PBC}}{S_{ABC}}=\frac{|\vec{PA}\cdot(\vec{b}-\vec{c})|}{|\vec{a}\cdot(\vec{b}-\vec{c})|}
$$

으로 표현된다. 이는 넓이 비율을 단순한 내적 비로 변환해 주므로, 무게중심·내심·나폴리온 점 등 특별한 P의 위치를 검증할 때 유용하다.

---

문제 7 ― 내심과 무게중심을 잇는 직선의 분할비

핵심 사고
내심 I는 각의 이등분선 교점, 무게중심 G는 중선 교점이다. 편의상 $\vec{A}+\vec{B}+\vec{C}=\vec{0}$ 조건을 잡으면

$$
\vec{G}=\frac13(\vec{A}+\vec{B}+\vec{C})=\vec{0},\quad
\vec{I}=\frac{a,\vec{A}+b,\vec{B}+c,\vec{C}}{a+b+c}
$$

로 나타난다. 두 점을 잇는 선 위의 아무 점 X를 $\vec{X}=s\vec{I}$로 두고 길이 조건을 걸면, IG:GX = $r:\frac{a+b+c}{3}-r$ 꼴이 되어 다양한 분할비 사례를 일반화할 수 있다.

---

문제 8 ― 벡터 삼환관계 $\vec{a}+\vec{b}+\vec{c}=\vec{0}$의 기하적 의미

핵심 사고
세 벡터가 합해 0이 되면 평면 상에서 닫힌 삼각형을 이룬다. 이를 한 꼭짓점 A = O로 치환하면, B·C·O가 삼각형을 이루며 $\vec{OB}=\vec{b}, \vec{OC}=\vec{c}, \vec{BC}=\vec{a}$ 형태가 된다. 내적·외적 양쪽에서 대칭적 식이 만들어지므로, 정삼각형·등변삼각형을 판별할 때 자주 쓰인다.

---

문제 9 ― 두 벡터 합의 최소·최대 길이

핵심 사고
$|\vec{a}|=p,|\vec{b}|=q$일 때 $|\vec{a}+\vec{b}|$의 범위는

$$
|p-q|\le|\vec{a}+\vec{b}|\le p+q
$$

이다. 이는 삼각 부등식과 코사인 법칙을 결합한 벡터판 삼각형 부등식 증명으로, ‘길이 조건→각 조건’ 역추론 문제의 기본 재료가 된다.

---

문제 10 ― 평면 벡터와 직선 거리 공식

핵심 사고
직선 l: $\vec{r}\cdot\vec{n}=d$에 점 P($\vec{p}$)가 있을 때 거리 D는

$$
D=\frac{|\vec{p}\cdot\vec{n}-d|}{|\vec{n}|}
$$

이다. 증명은 내적 정사영과 피타고라스 정리만으로 충분하며, 좌표계 회전을 피하고도 최단 거리 문제를 해결할 수 있어 유용하다.

---

결론

벡터를 활용한 기하 증명은 ‘좌표 → 벡터’로 시점을 옮겨 감으로써 계산량을 획기적으로 줄여 줍니다. 특히 합·차·내적·외적 4가지만 자유자재로 다룰 수 있다면, 앞서 소개한 10가지 유형은 물론 ▲원과 직선의 위치 관계 ▲다각형 무게중심 ▲공간 회전좌표 변환 문제까지 수월하게 분석할 수 있습니다.
블로그 독자라면 다음과 같은 학습 루트를 추천합니다.

1. 기본기 다지기 – 내적, 외적, 삼각 부등식, 삼환 관계를 증명해 보며 손에 익히기
2. 대표 문제 완벽 소화 – 본문 10선을 직접 손으로 풀어 보고, 변형·역문제를 스스로 만들어 보기
3. 확장·응용 – 사면체, 원뿔·원통의 단면, 벡터 미적분 등으로 확장해 보며 고난도 대비

꾸준히 벡터 언어로 설명하는 습관을 들이면, 수능·경시·대학 과제뿐 아니라 프로그래밍·그래픽스 분야에서도 사고 체계가 한층 단단해질 것입니다.

---