Calculus Basic

Function

Concept

• 함수의 정의 : 입력 값(변수)과 출력 값(변수)의 '관계(relationship)' : map, mapping, dictionary
  • 정의역(Domain) : 입력 변수가 가질 수 있는 값의 집합
  • 공역(Co-Domain) : 출력 변수가 가질 수 있는 값의 집합 (치역 : Range)
• 변수 : 어떤 숫자를 대표하는 기호

Examples of various funcitions

부호 함수(Sign function)

• 

단위계단 함수(Heaviside step function)

• 

지시 함수(Indicator function)

• 
• 
  • 특정 데이터의 갯수를 세는 경우

역함수(Inverse function)

• 
  • 존재 조건 : 일대일 대응, 가역성, 전단사

다항식 함수(Polynomial function)

• 

최대/최소 함수(max/min function)

• 
• 
• ReLU(Rectified Linear Unit)
  • 

지수 함수(Exponential function)

• 
• 

로지스틱 함수(Logistic function)

• 
  • 
    • 지수함수를 변형한 함수. 시그모이드 함수 종류의 하나이고 로지스틱 함수가 가장 많이 쓰임

로그함수(Log function)

• 
  • 자주 쓰이는 로그함수 성질
    1. 로그함수는 곱하기를 더하기로 변환함
    2. 어떤 함수에 로그를 적용해도 최고,최저가 바뀌지 않음
    • 
    3. 0 ~ 1 사이의 작은 값을 확대시켜 줌

소프트플러스 함수(Softplus function)

• 
  • 

다변수 함수(Multivariate function)

• 
  • 입력변수 x,y를 받아 z를 출력하는 구조
  • 2차원 함수는 3차원의 surface plot으로 그릴 수 있음
    • 

분리 가능 다변수 함수(Separable multivariate function

• 
  • Example
    • 

다변수 다출력 함수

• 입력 변수 뿐만 아니라 출력 변수도 여러 개인 경우
• Example
  • 소프트맥스(Softmax)
    • 
      • 모든 출력 원소는 0 ~ 1 사잇값을 갖는다
      • 모든 출력 원소의 합은 1이다
      • 입력 원소의 크기 순서와 출력 원소의 크기 순서가 같다
      • 다변수 입력을 확률처럼 보이게 출력한다

Differentiation

Integration