앞서 수의 연산에서 다룬 항등원, 역원과 동일한 개념이 함수에도 존재한다. 아래 그림과 같이 정의역과 공역이 동일한 값으로 대응되는 함수를 항등함수(Identity function)라고 하며, 기호 id로 나타낸다.
(a)
(b)
(a)를 수직으로 나타내면 $id \circ f = f$ 이고 (b)를 수식으로 나타내면 $f \circ id=f$가 되는데 항등 함수는 어느 위치에 있든지 합성의 결과는 원함수와 동일한 대응관계를 나타낸다.
이번에는 수의 역원 개념과 동일하게 합성함수의 대응 결과가 항등함수가 되는 경우를 생각해보자. 아래 그림의 (a)와 같은 대응 관계가 있다고 생각한다면, 이를 합성해 간추린 결과는 (b)와 같이 서로 동일한 원소끼리 대응될 것이다.
좌측의 $g(y)$와 같은 함수를 역함수(Inverse Function)라고 한다. 역함수는 위 첨자를 붙여 $f^{-1}$로 표기하며 어떤 함수와 역함수를 합성한 결과는 (b)와 같이 언제나 항등함수가 된다. 이를 수식으로 나타내면 다음과 같다.
$$ f^{-1} \circ f = id \\\ f \circ f^{-1} = id $$
역함수는 두 집합의 대응 관계를 뒤집어 공역 $Y$에서 정의역$X$로 대응하는 함수로도 생각할 수 있다. 이 개념을 도식화하면 아래 그림과 같다.
역함수에서 주의할 점은 모든 함수가 역함수를 갖지는 않는다는 사실이다.
아래 그림의 좌측에서 보여지는 전사함수는 하나의 원소가 두개의 원소에 대응되기 때문에 함수의 기본 조건을 만족하지 못하고, (b)의 단사함수는 정의역의 모든 원소가 대응하지 않기 때문에 이들의 역함수는 함수의 조건을 만족하지 못한다.
전사함수의 역함수
단사함수의 역함수
하지만 전단사함수의 경우 모든경우에서 함수의 조건을 만족하기 때문에 역함수가 보장된다. 어떤 함수가 역함수를 가지기 위해서는 반드시 전단사함수의 형태가 되어야 한다.
좌측 그림의 합성함수 $g\circ f$를 거꾸로 뒤집은 역함수 $(g\circ f)^{-1}$는 아래 그림과 같응 대응관계를 가진다고 볼 수 있다.
