① 마케터를 위한 머신러닝 기반의 최적화 알고리즘 살펴보기

퍼포먼스 마케팅에서 익숙하게 접하면서도 정확히 어떤 의미인지 파악이 어려운 단어가 머신러닝입니다. 데이터를 통해 시스템을 학습시키면 정확도가 올라가서 더 많은 구매, 인스톨, 회원가입 등을 일으킬 수 있다고 알려져 있지만, 마케터 입장에서 어떤 일들이 일어나는지 깊이 알기엔 난감한 점이 많습니다. 머신러닝은 수학과 코딩의 산물이고, 수식에 대한 이해와 직접 코딩해 보는 경험이 없이 스토리텔링만으로 이해하기에는 장님 코끼리 만지는 것과 비슷한 것 같습니다. 그럼에도 퍼포먼스 마케터는 머신이 학습한다는 것은 정확히 무엇을 의미하는 것인지, 그리고 광고 매체가 학습 중이라는 것, 그리고 학습이 완료되었다는 것은 무엇을 의미하는 것인지 최대한 밝게 알아둘 필요가 있습니다. 결국 이것이 RTB 시스템과 함께 모든 광고 매체를 아우르는 핵심이기 때문입니다.

Editor 김광수(BAT 에이전시 부문 대표)

머신러닝이란 무엇인가?

머신러닝은 데이터로부터 학습하도록 컴퓨터를 프로그래밍하는 것입니다. 1959년에 머신러닝이라는 용어를 대중화시킨 인공지능 분야의 선구자인 아서 새뮤얼은 명시적인 프로그래밍 없이 컴퓨터가 학습하는 능력을 갖추게 하는 연구 분야라고 말했습니다. 조금 더 실질적인 의미에서 머신러닝은 주어진 데이터로부터 패턴을 학습하여 예측 모델을 찾고, 찾아낸 모델을 통해 새로운 데이터에 대한 예측을 수행하는 것입니다.

머신러닝에서 데이터는 시스템이 패턴을 학습하기 위해 사용하는 데이터 셋을 트레이닝 세트(Training Set), 모델을 검증하는 데 사용하기 위한 밸리데이션 세트(Validation Set), 실제로 예측이 잘 되고 있는지 평가하기 위한 테스트 세트(Test Set)로 구분할 수 있습니다. 모델을 학습시킬 때는 가지고 있는 데이터 셋을 트레이닝 세트 6, 밸리데이션 세트 2, 테스트 세트 2의 비율로 크기를 나누어 학습을 진행합니다.

머신러닝은 메일이 스팸인지 아닌지 분류하는 스팸 필터링 기법처럼 단순한 것부터, 넷플릭스를 통해 유명해진 추천 알고리즘, 리멤버에서 활용하고 있는 명함 인식 OCR 기술, 틱톡, 스노우 등에서 활용되고 있는 카메라 필터까지 굉장히 다양한 영역에서 활용되고 있습니다. 광고 매체에서 “전환을 일으킬 만한 유저”를 분류해 내는 것도 이러한 머신러닝의 분류 기법의 일부이며, “전환을 일으킬 만한 유저를 분류해 내는 모델”을 포함하여 “클릭을 할 만한 유저를 분류해 내는 모델, 랜딩 페이지 조회를 할 만한 유저를 분류해 내는 모델, 동영상을 3초 이상 볼만한 유저를 분류해 내는 모델” 등등을 학습시키는 것이 광고 매체의 머신러닝입니다.

머신러닝을 사용하는 이유

아래 그림처럼 컴퓨터는 동영상, 이미지, 텍스트, 사람들이 웹 내에서 움직이는 행동 패턴 등을 포함한 모든 데이터를 수치화하여 읽어 들입니다. 기존의 프로그래밍 방식은 이렇게 읽어 들인 데이터에 우리가 알고 있는 어떤 규칙들을 적용하여 이 데이터가 뜻하는 것은 무엇인지 판별하는 것이었습니다. 이러한 방식을 룰베이스 방식이라 합니다.

이렇게 컴퓨터가 수치화하여 데이터를 읽어 들인다고 할 때, 하단 그림처럼 고양이가 가지고 있는 특징들을 찾고, 그 특징들이 숫자로 변환되었을 때 갖는 패턴들을 규칙화하여 미리 저장해두었다가 새로운 이미지 데이터가 들어오면 미리 설정해 둔 규칙들을 기반으로 고양이인지 아닌지 판단하는 것이 룰베이스 방식의 분류 기법입니다.

룰베이스 방식의 단점은 규칙들을 충족하는 다른 대상을 구분해 내기 어렵다는 것입니다. 아래의 그림처럼 어떤 규칙을 미리 정해놓고, 머핀인지 강아지인지, 고양이인지 빵이나 아이스크림인지 구분하기 어려운 상황들이 발생하고, 이때마다 규칙을 추가하는 것만으로는 모델의 성능을 개선하기 어려울뿐더러 규칙이 점점 복잡해져서 유지 보수에도 어려움을 겪게 됩니다. (물론 아래의 예시는 머신러닝을 사용해도 구분해 내기 어려운 데이터 셋 예시입니다.) 반면 머신러닝을 활용하면 새로운 학습 데이터를 추가할 때마다 기존의 모델을 업데이트하여 성능을 개선할 수 있고 아래의 그림에 대해서도 더 많은 데이터 셋을 확보할 수 있다면 개와 고양이의 패턴에 대해서도 지속적으로 학습해 낼 수 있기 때문에 유용합니다.

또한 머신러닝은 기존에 해법이 알려지지 않은 분야에서도 해법을 찾아낼 수 있는 강점이 있습니다. 퍼포먼스 마케팅 분야에서도 메타, 구글, 네이버, 카카오는 RTB 시스템을 기반으로 축적된 유저의 행동 데이터를 통해 특정 이벤트를 일으킬 가능성이 높은 유저들의 패턴을 지속적으로 학습해 가고 있으며, 이 지점에서 퍼포먼스 마케팅은 검색 결과 상위 노출과 점유율 관리 위주로 진행되던 전통적인 키워드 마케팅과 차이가 있다는 사실이 드러납니다.  

머신러닝의 기본 원리

머신러닝은 아래와 같이 어떤 데이터 세트가 주어졌을 때, 그 데이터 세트를 가장 잘 설명하면서도 새로운 데이터가 수집되었을 때 그 데이터에 대한 예측치를 가장 잘 도출해 내는 모델을 찾아내는 것을 목표로 합니다. 부동산 가격 예측 예시를 통해 머신러닝의 기본적인 요소들에 대해서 이해해 봅시다.

위 그림을 살펴보면 32개의 부동산 면적 및 가격에 대한 데이터와 이 데이터를 2차원 평면에 뿌려놓은 산포도로 구성되어 있습니다. 오른쪽의 산포도는 면적과 부동산 가격의 관계를 설명하는 빨간색의 일차함수 그래프를 포함하고 있다. 이것을 수식으로 표현하면 아래와 같습니다.

부동산 가격(만원) = a * 면적(제곱미터) + b

그럼 이 선이 주어진 데이터를 가장 잘 설명하게 하기 위해서는 어떻게 선의 위치를 조정하면 좋을까요? 이때 사용하는 것이 오차 제곱의 합을 최소화하는 LSE(least squared error)입니다. LSE가 무엇인지 어렵게 생각할 것 없이 아래의 그림을 살펴봅시다.

위 그림에서 오차는 각 파란 점들과 일차함수 그래프인 빨간 선 사이의 거리를 나타낸 파란 화살표들의 길이를 말합니다. 각 오차의 제곱을 모두 더한 값을 최소화하는 방향으로 빨간 선의 위치를 조정해 나가다 보면, 결국 오차 제곱의 합이 최소화되는 빨간 선을 그릴 수 있을 것입니다. 그렇다면 오차 제곱의 합은 어떻게 구하는 것일까요?

Gradient Descent(경사 하강법)

머신러닝은 경사하강법을 통해 오차 제곱의 합을 최소화하고 예측 모델의 성능을 극대화하며 이 과정을 모델의 “학습”이라 합니다. 경사하강법은 안개가 낀 깜깜한 밤에 산에서 하산하는 방법과 유사하다고 말합니다. 앞이 보이지 않을 때 산에서 내려가려면 지금 내가 서있는 자리보다 경사가 아래로 기울어진 지면을 향해 한발씩 내디디면 반드시 가장 낮은 지점으로 도달하는 것과 같습니다.

경사 하강법(傾斜下降法, Gradient descent)은 1차 근삿값 발견용 최적화 알고리즘이다. 기본 개념은 함수의 기울기(경사)를 구하고 경사의 반대 방향으로 계속 이동시켜 극값에 이를 때까지 반복시키는 것이다. -위키피디아, 경사하강법

이것을 아래로 내려가는 것이 아니라 산 정상을 향해 올라가는 것으로 바꾸어 생각해 보면 훨씬 직관적입니다. 아래 그림을 예로 들어보면, 기울기가 가팔라지는 방향으로 계속 움직이다 보면 어느 순간 정상에 도달해 있게 됩니다. 정상인지 아닌지 판단하는 방법 또한 간단하다. 어떤 방향으로든 한 발 내디뎠을 때 현재보다 아래로 내려간다면 그 지점이 정상일 것입니다.

(여기서부터는 약간의 수식과 그래프가 등장하므로 필요 없다고 느끼는 분들은 스킵하세요.)
경사하강법은 이렇게 정상으로 향하는 과정을 반대로 뒤집어서 생각하는 것입니다. 오차 제곱의 합에 대해 경사하강법을 쓰기 위해 아래와 같이 J(a, b)라는 cost function을 가정하는데, 이 cost function은 아래로 볼록한 성질을 갖는 2차 함수가 됩니다. 이 cost function의 최저점이 예측 모델의 성능을 극대화하는 지점이 되며, 최저점에 있을 수 있게 하는 a, b를 찾는다면 우리는 y = ax + b라는 예측 모델을 찾을 수 있게 되는 것입니다.

여기서 cost function의 최저점을 찾기 위하여 J를 a와 b에 대해 미분하면 되는데, 위 수식에서 b=0으로 가정했으므로 a에 대해서만 미분하면 됩니다. 미분을 통해 나온 에러 값을 일정 크기만큼 a와 b에 반영하는 것을 계속 반복하면 y = ax + b를 찾아낼 수 있습니다. 이 과정의 핵심은 경사하강법을 통해 예측 모델의 성능을 극대화하는 찾는다는 것이며, 이때 아래 그림처럼 cost function J가 최소값이 되는 방향으로 머신러닝 학습이 진행됩니다.

Global minimum vs Local minima

다시 산 그림으로 돌아가 봅시다. 산 그림을 보면 사실 최정상 봉우리와 두 번째로 높은 봉우리가 함께 있습니다. 그 때문에 만약 운이 나빠서 두 번째로 높은 봉우리 쪽에서 등산을 시작하여 경사가 가파른 방향으로 움직인다면 최정상에는 절대 다다를 수가 없습니다. 두 번째로 높은 봉우리도 최정상과 마찬가지로 어느 방향으로 발을 내디딘다고 하여도 아래로 내려가게 되기 때문입니다. 이 경우 머신러닝 학습은 종료됩니다.

이 경우 우리는 캄캄한 밤에 안개마저 자욱한 상황이라고 하였으므로 옆에 최정상 봉우리가 있는지 알 수 없고, 내가 있는 이곳이 가장 정상이라고 생각하게 된다. 머신러닝은 완료된 것이나 예측 모델의 성능이 떨어지게 되는 것입니다. 만족스럽지 않은 예측 결과만 주어진 상황에서, 더 높은 정상이 있는지 모르는 상태에서 학습을 다시 시작해야 할지도 판단하기 어렵고 어떤 출발점에서 시작해야 있는지 없는지 알 수 없는 최정상에 다가설 수 있는지도 판단하기 어렵게 됩니다. 여기서 진짜 최정상 봉우리를 Global minimum, 가짜 최정상 봉우리를 Local minima라 부릅니다.

봉우리 문제를 다시 cost function에 대한 경사하강법 과정으로 가져오면 위 그래프처럼 표현할 수 있습니다. 노란색 점이 Local minima에 빠지게 되면 시간을 더 들여도 학습이 나아질 수 없습니다. 최근에는 머신러닝 과정에서 Local minima 문제가 발생하는 경우가 적지만, 퍼포먼스 마케터로서 명심해야 할 점은 머신러닝이 완료되었다고 하더라도 그것이 베스트가 아닐 수 있다는 전제를 항상 깔아두어야 한다는 것입니다.

머신러닝의 작동 방식이 퍼포먼스 마케터에게 주는 함의

부동산의 사례에서 면적 외에 고려할 수 있는 변수들은 준공 연도, 지하철역과의 거리, 기타 등등 추가될 수 있는 변수들이 있습니다. 하지만 3개 이상의 변수는 사람의 눈으로 이해할 수 있는 시각화를 할 수가 없습니다. 만약 부동산에 대한 빅데이터가 완벽하게 구축되어 부동산 가격에 영향을 주는 1만 개의 요소가 발견되었고 이것을 모두 고려하면 완벽하게 부동산 가격을 예측할 수 있는 상황이라고 한다면, 우리는 시각화할 수는 없지만 수식으로 표현하여 솔루션을 찾을 수 있습니다. 광고 시스템 또한 학습시키려고 하는 최적화 모델은 광고 소재, 광고 세트, 캠페인, 유저 행동 데이터, 다른 광고와의 상호 관계를 포함한 수십, 수백, 수천, 수만, 혹은 수억 개의 변수로 구성이 되어 있을 것으로 추정됩니다. 이것을 아래와 같이 (말도 안 되지만) 식으로 표현해 볼 수 있습니다.

y = 소재_특성 * x1 + 이벤트_설정값 * x2 + 캠페인_설정값 *x3 + 타겟_행동데이터 * x4...

실제로 광고 매체에서는 위와 같이 말도 안 되는 방식이 아니라, 이전 아티클에서 살펴보았던 RTB 시스템을 운영하며 수집해 온 DSP, SSP, DMP 및 광고 반응 데이터들을 기반으로 수식을 구성해 두었을 것입니다. 이것을 추정해 보면 아래와 같은 형태일 것으로 추정해 볼 수 있습니다.

이렇게 수식이 구성되어 있다고 가정하는 것이 퍼포먼스 마케터에게 어떤 의미가 있을까요? 바로 수식 안에 포함시킨 변수들에 포함되는 요소들에 대해 우리가 변화를 준다면 머신러닝 예측 모델에 영향을 줄 수 있다는 뜻이 됩니다. 그리고 그 변화들은 머신러닝 예측 모델이 진짜 최정상으로 더 빠르게 올라갈 수 있는 가이드가 될 수도 있고, 가짜 최정상에서 헤매도록 하는 함정이 될 수도 있습니다. 이를 염두에 둔다면 광고를 세팅해놓고 기다리는 것이 머신러닝 최적화의 전부라고 생각하는 것이 아니라, 매순간 마다 학습이 잘 될 수 있는 방향으로 생각해볼 수 있는 계기가 될 것이라고 생각합니다.

※ 머신러닝에 대해 정확하게 더 공부해보고 싶다면 아래 추천드리는 두 강의를 순서대로 들어보세요. 마케터로서는 차고 넘치는 수준으로 개념에 대해 이해하는데 도움이 되실 것입니다.

1. 모두의 딥러닝(김성훈): https://www.youtube.com/watch?v=BS6O0zOGX4E&list=PLlMkM4tgfjnLSOjrEJN31gZATbcj_MpUm
2. 코세라 머신러닝(앤드류 응): https://ko.coursera.org/learn/machine-learning