[일반인을 위한]  K-MOOC

 인공지능을 위한 기초수학 입문

      (Introductory Mathematics for Artificial Intelligence)

                          이상구  with  이재화, 함윤미, 박경은

III.  인공지능과 최적해 (미분)

*미적분학의 개념  http://matrix.skku.ac.kr/Calculus-Story/index.htm  

해(root, solution) 구하기와 최적화(optimization)는 둘 다 함수 위의 한 점을 추측하거나 찾는다는 점에서 관련성이 있다.

해 구하기는 함수 혹은 함수들의 근들을 구하는 반면 최적화는 최솟값 혹은 최댓값을 찾는 것이다.

최적해를 구하는 문제는 도함수의 일반화된 개념과 연산들을 포함한다.

 Week 8.  극대, 극소, 최대, 최소

  8.1. 도함수의 응용

함수 가 구간 에서 정의되어 있을 때, 내의 인 임의의 두 점 , 에 대하여 를 만족하면 는 구간 에서 증가(increasing)한다고 하며,

인 내의 임의의 두 점 , 에 대하여 를 만족하면 는 구간 에서 감소(decreasing)한다고 한다. 도함수는 다음과 같이 함수가 증가하거나 감소하는 상황을 알려준다.

함수 가 폐구간 에서 연속이고 개구간 에서 미분가능하다고 하자. 그러면 다음이 성립한다.

 ⓵ 구간 내의 모든 점에서 이면, 는 에서 증가한다.

 ⓶ 구간 내의 모든 점에서 이면, 는 에서 감소한다.

예를 들어, 이면 에서의 접선의 기울기가 양수이므로, 의 근방에서는 함수가 증가함을 알 수 있다.

마찬가지로 이면 의 근방에서는 함수가 감소함을 알 수 있다.

예제 1. 함수 이 증가하는 구간과 감소하는 구간을 구하시오.

따라서 함수는 또는 일 때 증가, 일 때 감소한다.

즉, 증가하는 구간 : (-infinity, 1) & (3, +infinity),   감소하는 구간 : (1, 3)   ■

  8.2. 2계 도함수의 응용

함수 가 에서 미분가능하고 가 곡선 위의 점이라 할 때, 점 를 포함하는 적당한 개구간 가 존재하여

인 구간 의 각 점 에 대응하는 곡선 위의 모든 점 가 점 에서의 곡선의 접선 아래쪽에 있으면 곡선 는 점 에서 위로 볼록 또는 아래로 오목하다고 하고,

반대로 접선의 위쪽에 있으면 아래로 볼록 또는 위로 오목하다고 한다.

 또, 곡선 가 점 에서 연속일 때 (는 존재하지 않아도 무방함), 곡선 위의 점 를 경계로 한쪽에서는 위로 볼록하고 다른 쪽에서는 아래로 볼록할 때,

를 곡선 의 변곡점이라 한다. 2계 도함수는 다음과 같이 함수가 위로 볼록하거나 아래로 볼록하는 상황을 알려준다.

 함수 가 점 를 포함하는 적당한 개구간 에서 미분가능하고 가 존재할 때, 다음이 성립한다.

 ⓵ 이면, 곡선 는 점 에서 아래로 볼록하다.

 ⓶ 이면, 곡선 는 점 에서 위로 볼록하다.

 이면 이므로 는 의 근방에서 증가함을 알 수 있고, 은 접선의 기울기를 의미하므로, 접선의 기울기가 증가하는 상황이다.

따라서 다음 그림과 같이 아래로 볼록임을 알 수 있다. 마찬가지로 이면 접선의 기울기가 감소하므로 위로 볼록임을 알 수 있다.

예제 2. 함수 는 어디에서 위로 볼록하고, 아래로 볼록한지 판단하시오.

따라서 에서 위로 볼록이고, 에서 아래로 볼록이다. 은 변곡점이다. ■

  8.3. 극대, 극소, 최대, 최소

가 폐구간 에서 연속이면 이 구간에서 가 최댓값을 취하는 점 및 최솟값을 취하는 점이 존재한다.

이 점을 구하기 위해서는 먼저 극대, 극소에 관하여 알아야 한다.

함수 가 의 근방의 모든 점 에 대하여 가 성립하면 함수 는 에서 극댓값 를 갖는다고 한다.

반대로 함수 가 의 근방의 모든 점 에 대하여 가 성립하면 함수 는 에서 극솟값 를 갖는다고 한다.

또, 의 극댓값과 극솟값을 통틀어 극값이라 하고, 극대점 또는 극소점 를 극점(極點, extreme point)이라 한다.

아래 그림에는 다양한 극댓값과 극솟값이 표시되어 있다.

이로부터 극값이 생길 수 있는 후보들은 이거나 가 존재하지 않는 점 임을 알 수 있다. 함수의 미분계수가 0이거나 존재하지 않는 점을

함수의 임계점 (critical point)이라고 한다. 다음의 정리가 성립한다.

[Fermat의 임계점 정리]

함수 가 개구간 에서 연속이고 에서 극값을 갖는다면, 이거나 가 존재하지 않는다.

예제 3. 함수 의 임계점을 구하시오.

풀이. 일단 는 다항함수이므로 도함수가 존재하지 않는 점은 생기지 않는다. 따라서

에서 임계점은 또는 이다.

도함수를 이용하면 극댓값과 극솟값을 쉽게 판정할 수 있다.

함수 가 정의역 내의 한 점 에서 과 을 가지며, 일 때,

 ⓵ 이면, 는 함수 의 극댓값이다.

 ⓶ 이면, 는 함수 의 극솟값이다.

이면 점 에서 위로 볼록인데, 이므로 다음 그림에서 는 함수 의 극댓값임을 쉽게 알 수 있다.

마찬가지로 이면 아래로 볼록이므로 다음 그림에서 는 함수 의 극솟값임을 쉽게 알 수 있다.

폐구간에서 연속인 함수 의 최댓값과 최솟값은 임계점에서의 함숫값과 구간의 양 끝점에서의 함숫값을 비교하여 구하면 된다.

[단계 1]  구간 에서 의 임계점들을 찾는다.

[단계 2] 이 각각의 임계점들과 양 끝점에서 의 값을 계산한다. 그 중 가장 큰 값이 최댓값이고, 가장 작은 값이 최솟값이다.

예제 4. 함수 가 구간 에서 정의되었다고 할 때, 의 극댓값과 극솟값을 구하여라. 또, 의 최댓값과 최솟값을 구하시오.

따라서 극댓값은 , 극솟값은 , 최댓값은 , 최솟값은 이다.  ■

[열린문제] 다른 교재에서 찾은 주어진 구간에서 두 번 미분가능한 함수의 극댓값, 극솟값 및 그 구간에서의 최댓값, 최솟값을 찾아보시오.

*[Fermat의 임계점 정리]에 의해 최적해(optimal solution) 는 다음을 만족한다.

따라서 방정식 을 풀어서 나온 해들이 최적해가 되는지 판단하면 된다. 그러나 함수 가 복잡한 경우는 방정식을 풀어서 임계점을 구하는 것조차도 쉽지 않다.

이런 경우에는 수치적인 방법으로 임계점을 구한다. 대표적인 수치 최적화 방법인 경사하강법(gradient descent method)에 대하여는 다음 절에서 소개한다.

<참고사이트> 

[함수의 극값 동영상 강의] http://youtu.be/mXVU8OqIHJY

[미적분학 실습실] http://matrix.skku.ac.kr/Cal-Book1/Ch4/

http://matrix.skku.ac.kr/Cal-Book/part1/CS-Sec-4-1-Sol.html

[미분의 응용 동영상 강의] https://youtu.be/O4lN5zEZnMA

Copyright @ 2020 SKKU Matrix Lab. All rights reserved.
Made by Manager: Prof. Sang-Gu Lee and Dr. Jae Hwa Lee