1.1 미적분 복습

1.1.1 미분(Differentiation)

미분은 쉽게 말해, 함수의 변화율을 측정하는 도구입니다. 예를 들어, 위치를 나타내는 함수 $x(t)$가 있을 때, 미분은 “시간이 조금 변했을 때 위치가 얼마나 바뀌는가?”를 알려줍니다.

• 정의:

  $$ ⁍ $$

• 기하학적 의미: 그래프 위 한 점에서의 접선의 기울기를 의미합니다.

• 적용 예시:

  • 속도, 가속도 등 물리량
  • 오차 함수를 미분해 최소값을 찾는 최적화 문제(머신러닝에서 자주 사용)

1.1.2 적분(Integration)

적분은 어떤 함수의 값을 누적하거나 면적을 구하는 도구입니다. 예를 들어, 미분이 “순간적인 변화”를 보는 것이라면, 적분은 그 변화를 모아서 전체적인 변화를 바라보는 개념입니다.

• 정의:

  $$ ⁍ $$

  연속적으로 변하는 $x$에 대해 $f(x)$ 값을 모두 더한 총합(면적)에 해당합니다.

• 기하학적 의미: 그래프 아래의 넓이.

• 적용 예시:

  • 확률분포에서 확률밀도함수(PDF)의 적분은 항상 1이 됩니다.
  • 누적분포함수(CDF)도 적분을 통해 정의됩니다.

1.1.3 적분 기호 $∫$와 합 기호 $∑$의 차이

• $∫$: 연속적인 구간을 대상으로 함 (예: 실수 구간, 시간 흐름).
• $∑$: 이산적인 항을 대상으로 함 (예: 동전 10번 던진 경우의 10개 항).비록 표기법이 다르지만, 근본적으로는 “어떤 값을 계속 더해나간다”는 공통점을 갖습니다. 다만 대상이 연속인지 이산인지에 따라 적분과 합으로 구분됩니다.

1.1.4 연속 vs 이산

• 연속(Continuous): 값이 실수 축 전체를 가정하거나 끝없이 세분화할 수 있을 때 (예: 실수 좌표 평면 위에서의 곡선).
• 이산(Discrete): 값이 정수처럼 딱딱 떨어지거나, 셀 수 있는 상태만 존재할 때 (예: 동전을 던졌을 때 앞/뒤 2가지 상태).

중요성: 변분추론 과정에서도, 사후분포가 연속형인지 이산형인지에 따라 적분과 합의 형태가 달라집니다.