입자와 결

AI에게 함수를 가르쳐보자

2026년 09월 07일

AI에게 함수를 가르쳐보자
다 아는 수학으로 풀어보는 인공지능 ③ AI에게 함수를 가르쳐보자 입력·출력·함수로 이해하는 인공지능 자판기에 1,000원을 넣고 음료 버튼을 누르면 음료가 나온다. 검색창에 단어를 입력하면 검색 결과가 나오고, 번역기에 한국어 문장을 넣으면 영어 문장이 나온다. 서로 다른 일처럼 보이지만 공통점이 있다. 무언가를 넣으면, 어떤 과정을 거쳐 결과가 나온다. 중학교 수학에서 이미 비슷한 것을 배웠다. 바로 함수(Function)다. 입력이 들어가면 출력이 나온다 간단한 함수부터 생각해보자. y = 2x x에 1을 넣으면 y는 2가 되고, 3을 넣으면 6이 된다. 입력 x → 함수 → 출력 y 함수는 어렵게 생각할 필요가 없다. 정해진 규칙에 따라 입력을 받아 출력을 만드는 관계라고 생각하면 된다. AI도 아주 크게 보면 비슷하다. 사진을 입력하면 ‘고양이’라는 결과를 내놓을 수 있고, 문장을 입력하면 번역된 문장을 출력할 수 있다. 생성형 AI에 질문을 입력하면 그에 따른 문장이 나온다. 즉, 입력 데이터 → AI → 출력 결과라는 구조다. 그런데 AI의 함수는 누가 정할까? 여기서 일반적인 수학 문제와 AI의 중요한 차이가 나타난다. 학교에서는 보통 입력이 하나일 필요도 없다 앞에서 70kg이라는 체중 하나만으로 사람의 상태를 설명하기 어렵다고 했다. 집값도 마찬가지다. 집의 넓이 하나만 입력할 수도 있지만 현실에서는 위치, 연식, 방의 수 등 여러 특징이 함께 필요하다. 지난 시간에 배운 벡터를 이용하면 이런 여러 입력을 한꺼번에 표현할 수 있다. 입력 = [넓이, 위치, 연식, 방의 수, …] AI의 함수는 이런 여러 숫자를 입력받아 하나의 예상 가격을 출력할 수 있다. 그래서 앞에서 배운 벡터와 함수가 연결된다. 현실을 여러 숫자의 벡터로 표현하고, 그 벡터를 함수에 넣어 원하는 결과를 얻는 것이다. AI가 항상 정답을 내놓는 것은 아니다 AI가 예상한 집값이 3억 원인데 실제 가격이 3억 5천만 원이었다고 해보자. 5천만 원의 차이가 생겼다. AI 입장에서는 중요한 정보다. “내가 만든 함수가 아직 정확하지 않구나.” 그러면 AI는 실제 결과와 자신의 결과 사이의 차이를 줄이는 방향으로 내부의 숫자를 조금씩 바꾼다. 다시 예측하고, 다시 실제 값과 비교한다. 입력 → 함수 → 예상 → 실제 결과와 비교 → 함수 조정 이 과정을 수없이 반복하면서 더 나은 결과를 만드는 것이 AI 학습의 기본적인 생각 중 하나다. 그렇다면 새로운 질문이 생긴다. AI가 틀렸다는 사실을 알았다고 하자. 수많은 숫자 가운데 무엇을 어느 방향으로 얼마나 바꿔야 할까? 무작정 아무 숫자나 바꿀 수는 없다. 놀랍게도 여기서 우리가 그래프를 배우면서 만났던 기울기가 등장한다. 산에서 아래로 내려갈 때 어느 방향으로 가야 하는지를 기울기로 알 수 있듯이, AI도 자신의 오차를 줄이기 위해 어느 방향으로 숫자를 바꿀지 찾아야 한다. 다음 시간에는 “산에서 가장 빨리 내려가는 길은?”이라는 질문에서 시작해 기울기와 미분이 AI의 학습에 왜 필요한지 알아보자.
× 확대 이미지