2024학년도 6월 모의평가 미적분 28번

[문제]

두 상수 $a$ $(a>0)$, $b$에 대하여 실수 전체의 집합에서 연속인 함수 $f(x)$가 다음 조건을 만족시킬 때, $a\times b$의 값은?

(가) 모든 실수 $x$에 대하여  $$\{f(x){\}}^2+2f(x)=a{\cos }^3\pi x\times e^{{\sin }^2\pi x}+b$$이다. (나) $f(0)=f(2)+1$

이 문제 또한 어떤 유튜브 영상에서 한 강사가 '2등급 이상이면 어렵지 않게 풀 수 있는 문제'라고 언급하기에 호기심이 생겨 가져왔다. 그런데 나는 아무리 봐도 그 정도로 쉬운 문제는 아닌 것 같아서 내 머리가 그새 많이 나빠진 건지 고민을 했다. (실제로 그런 것 같기도 하고...)

달린 댓글을 보니, 이 문제가 그 해 수능 모의평가에 나왔던 문제 중에서 손에 꼽도록 어려운 문제로 꼽히고, 강사들 간에서도 풀이가 맞다 틀리다 얘기가 많은 문제라는 내용이 꽤 있었다. 심지어는 EBS에서 올린 풀이도 처음에 틀려서 다시 업로드했다는 얘기도 있다는데;

사실 내가 수능을 준비할 때에는 이런 어려운 문제를 얼마나 '야매를 써서라도' 빨리 푸느냐가 강의의 가치이자 수학 실력이라고 여겨졌었는데 이 정도로 문제가 가진 의미와 이를 풀기 위해 파악해야 하는 정보를 보는 게 중요하다고 얘기하는 사람들이 많아졌다는 것이 상당히 고무적이었다.

---

푸는 사람의 입장에서 접근해 보기

사실 이 문제를 처음 보면 학생 입장에서 접근하기가 쉽지는 않다. 주어진 조건 중에 중요한 건 

(1) 함수 $f(x)$는 연속   (2) 항등식 (가)   (3) 항등식 (나)

일텐데, (1), (2)는 중요하지만 당장 봐서 얻어낼 수 있는 게 없어 보인다. (적어도 교과서 지식으로 충실히 공부한 학생 입장에서는...) 그나마 계산해서 뭔가 얻을 수 있을 것 같아 보이는 (3)을 보면,

$\circ$ (가)의 양변에 $x=0$ 대입: $\{f(0){\}}^2+2f(0)=a+b$
$\circ$ (가)의 양변에 $x=2$ 대입: $\{f(2){\}}^2+2f(2)=a+b$ $\cdots (1\ast )$

위 등식에서 우변이 서로 같으니까 좌변도 같아야 한다. 여기에서 (나)를 그대로 대입해서 관계식을 얻어도 상관 없지만, 위 등식의 좌변의 값들은 잘 보면 이차함수 $y=x^2+2x$에서 $x$에 $f(0),f(2)$의 값을 각각 대입한 것이다.

이차함수 $y=x^2+2x$의 그래프는 $x=-1$에 대하여 대칭이므로, $x=-1$에 대칭인 두 $x$의 값을 대입한 함숫값이 같다.

$(1\ast )$에 의하여 $f(0)$과 $f(2)$의 평균값이 $-1$이어야 하고, $f(0)=f(2)+1$이므로 ${\displaystyle f(0)=-\frac{1}{2},f(2)=-\frac{3}{2}}$이다. 

따라서 $a+b={\displaystyle \frac{1}{4}-1=-\frac{3}{4}}$ $\cdots (2\ast )$

여기까지는 상대적으로 어렵지 않게 계산이 가능한데, 다른 한 가지의 추가적인 조건을 찾기가 까다롭다는 게 내 생각이다. 보통 초월함수에 관한 문제는 미분을 하는 게 루틴인데, 우변은 모르겠지만 좌변의 함수가 미분가능한 함수라는 보장이 없기도 하거니와($f(x)$가 연속이라고 했지 미분 가능하다는 말이 없다.) 미분이 가능하다 하더라도 $f^{\prime }(x)$에 관한 정보가 전혀 주어져 있지 않기도 하다. 

문제를 많이 풀어본 사람이라면, 좌변이 $f(x)\{f(x)+2\}$라는 두 함수의 곱으로 주어졌다는 점에서, 불연속인 점을 제거하는 아래와 같은 문제를 떠올리는 사람도 있었을 것이다.

2019학년도 대수능 수학 나형 21번  ▶

[문제]

최고차항의 계수가 $1$인 삼차함수 $f(x)$에 대하여 실수 전체의 집합에서 연속인 함수 $g(x)$가 다음 조건을 만족시킨다. 

(가) 모든 실수 $x$에 대하여 $f(x)g(x)=x(x+3)$이다. (나) $g(0)=1$

$f(1)$이 자연수일 때, $g(2)$의 최솟값은?

2019학년도 대수능 수학 나형 21번  ▶

위와 같은 문제를 떠올렸다면, 조건 (가)를 
$$f(x)+2=\frac{a{\cos }^3\pi x\times e^{{\sin }^2\pi x}+b}{f(x)}$$과 같이 변형하여 $f(x)=0$인 점을 가지고 뭘 해볼 수 있지 않나 싶을 수 있는데, 우변의 분자의 $a,b$의 값을 모르기 때문에 쉽지 않다. 이런 문제는 보통 함수의 영점을 가지고 해결하기 때문이다. 

다시 처음으로 돌아와서, 결과 $(2\ast )$를 얻을 때 유심히 함수의 모양을 보면 관찰할 수 있는 좌변의 이차함수 꼴에 주목한 사람들은 답을 구할 수 있었을 것이다. 이차함수는 대칭성도 가지고 있으나, 대칭이 되는 점에서 최댓값 또는 최솟값을 갖는다는 중요한 성질을 가지고 있기 때문이다.

함수의 최대, 최소는 미분에서 가장 중요하게 다루고 있는 부분이고, 어쨌든 우변은 미분가능한 함수이므로 미분을 이용해서 최댓값과 최솟값을 구할 수 있을 것이라 기대할 수도 있다. 실제로,

$\circ$ 좌변: $\{f(x){\}}^2+2f(x)={(f(x)+1)}^2-1$ $\to$ 최솟값: $-1$

이고, 우변의 경우 그냥 미분을 해도 상관은 없지만... 계산이 쉽지 않을 것 같으므로 ${\sin }^2\pi x=1-{\cos }^2\pi x$와 같이 바꿔서 다음과 같이 계산한다.

$\circ$ 우변: ${\cos }^3\pi x\times e^{{\sin }^2\pi x}$의 최대, 최소만 봐도 충분하다. 
$\cos \pi x=t$로 치환하고, 위의 함수를 $g(t)=t^3{e}^{1-t^2}(-1\le t\le 1)$와 같이 두면

$$g^{\prime }(t)=3t^2{e}^{1-t^2}-2t^4{e}^{1-t^2}=t^2(3-2t^2)e^{1-t^2}$$ 이므로 $-1\le t\le 1$에서는 항상 $g^{\prime }(t)>0$이다. 즉, $g(t)$는 해당 범위에서 증가하는 함수이므로 $t=-1$일 때 최솟값을 가진다.

$a>0$이므로 $g(t)$가 최소일 때, 조건 (가)의 우변 또한 최소가 된다. $\cos \pi x=-1$인 $x$의 값을 $x=\pi$라도 둬도 크게 문제는 없으므로(코사인함수는 주기함수니까), 우변의 최솟값은 $-a+b$이다. 

조건 (가)는 항등식이니까 좌변과 우변의 최솟값도 같아야 할 것이다. 즉,  $-a+b=-1$ $\cdots (3\ast )$

$(2\ast ),(3\ast )$에 의해 

$$a=\frac{1}{8},b=-\frac{7}{8}$$ 이고, ${\displaystyle a\times b=-\frac{7}{64}}$이다. 

---

좀 더 자세하게 뜯어 보기

시험장에서는 상기한 방법으로 접근해서 문제를 풀었어도 답을 구할 수 있었을 것이고, 사실 저 정도를 생각할 수만 있어도 꽤나 훌륭한 사고 능력을 가졌다고 생각한다. 왜냐하면 항등식에서 좌변과 우변의 최솟값을 상이한 방법으로 구해야 하는 생소한 접근이 필요하기 때문이다. 

그럼에도 불구하고 저렇게 풀 수 있는 문제라면 '2등급 이상인 학생도 충분히 풀어낼 수 있는 문제라고 할 수 있지 않나?'라고 생각이 들 수도 있다. 소위 킬러라고 불리는 문제에 비해서는 호흡이 짧고 직관이 많이 필요하지는 않기 때문이다.

그런데 사실 저와 같은 방법으로 이 문제를 논술 시험에서 풀어 답을 구했다면 점수를 절반밖에 얻지 못한다. 그래서 이 문제가 여기저기서 많이 언급되는 듯하다. 저 풀이에서 무엇이 부족한지 찾아내는 것에서 이 문제의 진정한 가치가 드러난다. 

문제점▶

조건 (가)의 좌변은 합성함수이므로 최솟값이 $-1$이 된다는 보장이 없다. 

(가)의 우변을 미분해서 얻은 결과로, 우변이 최솟값 $-a+b$을 갖는다는 것을 알 수 있고, (가)는 항등식으로 좌변 또한 최솟값을 가진다는 것을 알 수는 있으나 그 값이 $-1$임을 설명하는 데에는 논리적 비약이 있다. 

이는 조건 (가)의 좌변이 이차함수의 형태는 맞지만 이차함수가 아니라는 점에서 기인한다. 즉, $\{f(x){\}}^2+2f(x)={(f(x)+1)}^2-1$이라는 것은, 모든 $x$에 대하여 $\{f(x){\}}^2+2f(x)\ge -1$임을 설명할 수 있을 뿐이지, 실제로 최솟값이 $-1$임을 설명하지 못한다.

조건 (가)의 좌변이 $-1$을 최솟값으로 가지려면 $f(x)=-1$인 $x$가 존재해야 한다. 이 점을 설명하기 위해서는 함수 $f(x)$가 연속임을 이용해야 한다.

예리한 시선을 가진 사람이라면 풀이 과정에서 $f(x)$가 연속이라는 점을 한 번도 언급하지 않았음에 주목했을 것이다. 함수의 연속과 관련된 중요한 정리 중 하나로, 사잇값 정리가 있다.

<사잇값 정리> 함수 $f(x)$가 닫힌 구간 $[a,b]$에서 연속이라고 하자. $f(a)$와 $f(b)$ 사이의 값을 가지는 임의의 실수 $k$에 대하여 $f(c)=k$인 실수 $c$가 열린 구간 $(a,b)$에 적어도 하나 존재한다.

${\displaystyle f(0)=-\frac{1}{2},f(2)=-\frac{3}{2}}$이고, 함수 $f(x)$는 연속이므로 사잇값 정리에 의해 $f(x)=-1$인 $x$가 열린구간 $(0,2)$에 존재해야 한다. 따라서 조건 (가)의 좌변은 최솟값 $-1$을 갖고, 최소가 되는 $x$의 값은 열린구간 $(0,2)$에 존재한다. 

문제점▶

풀이 완성하기 ▶

마지막으로 필자는 조건 (가)의 양변의 최솟값이 같더라도 그것이 동일한 $x$의 값에서 나타날 수 있는지 약간 의문스러웠는데, 다음과 같은 과정으로 약간의 디테일을 추가하여 풀이를 완결했다. 

1. 본래와 같은 방법으로 ${\displaystyle f(0)=-\frac{1}{2},f(2)=-\frac{3}{2}}$을 얻는다.

2. 본문의 계산을 통해 닫힌 구간 $[0,2]$에서 함수 $h(x)=a{\cos }^3\pi x\times e^{{\sin }^2\pi x}+b$는 $x=1$에서 최솟값 $-a+b$를 가지고, 이 구간에서는 $x=1$이 함수 $h(x)$가 최소가 되는 유일한 $x$의 값임을 알 수 있다.

3. 조건 (가)의 등식은 항등식이므로, 닫힌 구간 $[0,2]$에서는 함수 $\{f(x){\}}^2+2f(x)$ 또한 $x=1$에서만 최솟값을 가져야 한다. 

4. 사잇값 정리에 의하여 $f(x)=-1$인 $x$가 열린 구간 $(0,2)$에 존재하므로, 닫힌 구간 $[0,2]$에서 함수 $\{f(x){\}}^2+2f(x)$의 최솟값이 $-1$임을 알 수 있다. ($x=0$인 경우와 $x=2$인 경우까지 포함해도 상관 없다.)

5. 위의 3, 4에 의하여 $-a+b=-1$, $f(1)=-1$임을 알 수 있다.

6. 1, 5에 의하여 $$a=\frac{1}{8},b=-\frac{7}{8}$$ 이고, ${\displaystyle a\times b=-\frac{7}{64}}$이다.

풀이 완성하기 ▶

위 풀이는 사실 문제에 꼭 필요한 필수적인 정보만 들어 있는 것은 아니고, $f(1)=-1$을 내놓는 과정을 다른 방식으로 접근하여 좀 더 간결하게 생각할 수도 있다. (그래도 구간 $(0,2)$에서만 제한하여 최솟값을 보는 것은 필요하다.) 다만 위의 풀이에서는 최소가 되는 지점의 유일성을 가미함으로써, $f(x)=-1$인 $x$가 닫힌 구간 $[0,2]$에 유일하게 존재하고, 그 값이 $x=1$인 것도 알 수 있다.

시중의 문제집이나 강사들의 풀이도 그렇고 내가 풀어놓은 것도 그렇고, 이렇게 바깥으로 내놓는 지식은 그 사람이 생각한 과정을 숨기고 논리적으로 맞는 부분만 간결하게 내놓게 된다. (수학교육론에서는 이를 '탈개인화/탈배경화'라고도 한다.) 

어려운 문제를 간결하고 멋진 방법으로 풀어내는 것을 수학적 실력이라 여기는 관점에서는, 그러한 멋진 방법을 생각하는 과정을 거세한 채 내놓는 책의 내용을 읽거나 강의하는 교/강사들이 큰 매력을 가진다고 여겨진다.

그것도 맞는 말이지만, 수학은 논리적 치밀함과 내용에 대한 이해 또한 중요하다는 점에서 이 문제가 개인적으로는 꽤나 반가웠고(풀이를 보면 알겠지만, 사고 과정이 숨기고 멋진 풀이를 쓰는 게 크게 효용적이지 않다.) 비슷한 이유로 이 문제가 시중에서도 많이 회자되지 않았을까 한다.

---

번외: 다른 풀이들

대칭성을 이용한 풀이(?) ▶

(주의!) 올바른 풀이가 아님

함수 $h(x)=a{\cos }^3\pi x\times e^{{\sin }^2\pi x}+b$는 $x=1$에 대하여 대칭인 함수이므로 조건 (가)의 좌변도 그러해야 한다.

즉, $\{f(x){\}}^2+2f(x)=\{f(2-x){\}}^2+2f(2-x)$이므로 이를 정리하면 $$\{f(x)-f(2-x)\}\{f(x)+f(2-x)+2\}=0$$이므로 $f(x)=f(2-x)$ 또는 $f(x)+f(2-x)=-2$가 성립한다. 조건 (나)에 의하여 $f(x)=f(2-x)$는 불가하므로 $f(x)+f(2-x)=-2$이고, 이로부터 $$f(0)=-\frac{1}{2},f(1)=-1,f(2)=-\frac{3}{2}$$이다. 

대칭성을 이용한 풀이(?) ▶

위 풀이가 잘못된 이유는 '$f(x)=f(2-x)$ 또는 $f(x)+f(2-x)=-2$'라는 문장이 둘 중 항상 하나만 성립하는 것을 뜻함이 아니기 때문이다. 즉, 어떤 $x$의 값들에 대해서는 $f(x)=f(2-x)$가 성립할 수도 있고, 다른 $x$의 값들 중 일부에서는 $f(x)+f(2-x)=-2$가 성립하는 경우도 발생할 수 있다. 실제로 그러한 함수도 존재한다. 

다만, 상기한 함수 $h(x)$의 모양이 좋아서 우연히 저렇게 풀어도 답이 맞았을 뿐이다. 이 풀이가 처음에 EBS에 탑재되어 논란이 되었다고 한다. 

자세한 내용은 여기를 참고하면 된다.

대체적으로 많이 언급되는 풀이(EBS) ▶

$\cdots$ $a+b=-\frac{3}{4}$인 것을 구하는 부분까지는 동일하므로 생략 $\cdots$
※ 조건 (가)의 겉함수인 이차함수를 이용하는 것과 이용하지 않는 정도의 차이가 있음.

$g(x)=a{\cos }^3\pi x\times e^{{\sin }^2\pi x}+b+1$이라 하면 조건 (가)에서 $\{f(x)+1{\}}^2=g(x)$이다. 이에 따라 모든 실수 $x$에 대하여 $g(x)\ge 0$이 성립하고, $f(x)=-1\pm \sqrt{g(x)}$이다.

이때 $f(0)>-1$, $f(2)<-1$이고 함수 $f(x)$는 연속이므로 사잇값 정리에 의해 $f(c)=-1$인 $c$가 열린 구간 $(0,2)$에 적어도 하나 존재한다. 

즉, $g(c)=0$이고 모든 $x$에 대해 $g(x)\ge 0$이므로 함수 $g(x)$는 $x=c$에서 극소이다. 
함수 $g(x)$는 미분가능하므로 도함수의 부호 변화를 통해 $g(x)$가 열린 구간 $(0,2)$에서는 $x=1$에서만 극소임을 알 수 있다.

따라서 $c=1$이고 $g(1)=0$이다. 계산을 통해 $f(1)=-1$임을 알 수 있고, $-a+b=-1$을 얻는다.

대체적으로 많이 언급되는 풀이(EBS) ▶

위 풀이는 함수의 극소의 정의와 그 성질까지 구분하여 잘 알고 있어야 꺼낼 수 있는 풀이이므로 난이도가 본문의 풀이보다 좀 더 높지만, 그만큼 공부하기에는 더욱 좋을 것이고 함수를 해석하는 구간을 $(0,2)$로 제한하는 부분이 자연스럽다고 생각된다.

그런데 함수 $g(x)$의 최솟값을 구할 때, 미분하는 과정을 치환 없이 생으로 계산하는 풀이가 많던데... 굳이 그렇게 할 필요가 있나... 싶다. 합성함수의 최대, 최소는 기본적으로 겉함수에 의해 결정되기 때문에 속함수의 치역에 주의해서 치환을 통해 최솟값을 구해도 아무 문제가 없다. 본문의 풀이나, EBS의 풀이나 치환을 통해 계산을 줄이고 논의를 전개해도 속함수의 해석에 주의하면 아무 문제가 없다.