Jul 27, 2025

Duolingo는 어떻게 알림 최적화로 리텐션을 2% 끌어올렸을까? (Feat. 밴딧 알고리즘)

같은 메시지를 모두에게 보낼 필요는 없다

Duolingo는 하루 수천만 명의 사용자에게 알림을 보냅니다. 하지만 모든 유저가 똑같은 메시지를 받는 건 아닙니다. 어떤 유저는 “스트릭을 이어가세요”, 또 어떤 유저는 “여행 준비 완료? 지금 복습해요”처럼 전혀 다른 메시지를 받습니다.

CRM에서 자주 묻는 질문이 있습니다.

같은 메시지를 반복하면 유저는 언제부터 반응하지 않을까?
어떤 유형의 유저에게 어떤 메시지가 효과적일까?
그리고, 그걸 자동으로 학습하게 만들 수는 없을까?

Duolingo는 이 질문에 데이터, 강화학습, 퍼스널라이제이션으로 답했습니다. 수많은 유저에게 매일 발송되는 알림을 최적화하기 위해 멀티암드 밴딧(Multi-Armed Bandit)이라는 강화학습 알고리즘을 도입했고, 이를 CRM 콘텐츠 추천 시스템으로 발전시켰습니다.

밴딧 알고리즘은 A/B 테스트를 자동화한 확장된 추천 방식으로, 광고, 추천 시스템, 이메일 최적화 등 여러 분야에서 사용됩니다. 그 중에서도 Softmax는 밴딧 알고리즘에서 팔(arm)을 선택할 확률을 정하는 정책 중 하나입니다.
즉, 밴딧은 문제의 틀이고, Softmax는 그 안에서 선택을 결정하는 방법이라고 할 수 있습니다.

CRM은 ‘적절한 시점에, 적절한 유저에게, 적절한 메시지를 전달’하는 것이 핵심입니다. Duolingo는 단순한 시나리오 자동화를 넘어서, 밴딧 알고리즘을 통해 유연하고 실시간으로 학습하는 메시지 시스템을 구축했습니다. 이 시도는 CRM 전략의 진화라는 점에서 큰 의미가 있습니다.

‍

문제 : 알림은 반복될수록 효과가 떨어진다

Duolingo는 다양한 알림 메시지를 유저에게 보냅니다. 예를 들면:

“오늘도 3일 연속 학습 달성 중이에요!”
“여행 준비 중이신가요? 이탈리아어 복습을 해보세요.”
“스트릭 미션 5일차, 이어가볼까요?”

하지만 여기에는 두 가지 명확한 문제가 있습니다.

같은 메시지를 반복하면 유저가 반응하지 않는다
모든 메시지가 모든 유저에게 적절한 건 아니다

이런 문제는 학습 서비스뿐 아니라, 게임, 커머스, 디지털 헬스케어 등 다양한 영역의 CRM에서도 마찬가지입니다. 유저와의 관계를 유지하기 위해 상황과 타이밍에 맞는 메시지 전달은 점점 더 중요해지고 있습니다.

Duolingo는 이 문제를 실제로 데이터 기반으로 해결할 수 있는지 실험을 시작했습니다.

‍

해결 : 알고리즘이 유저의 ‘피드백’을 학습한다

Duolingo는 각 알림 메시지(템플릿)에 대해 유저가 얼마나 반응했는지 데이터를 수집하고,
이를 학습하여 어떤 메시지를 어떤 유저에게 보낼지 결정하는 알고리즘을 만들었습니다.

핵심 아이디어 1: “같은 메시지를 반복하면 감점”

사람은 같은 말을 반복해서 들으면 무뎌집니다.
Duolingo는 이를 고려해, 최근에 노출된 템플릿일수록 점수를 낮추는 방식을 적용했습니다.

“최근에 본 알림일수록 덜 반응할 테니, 새로운 걸 보여주자.”

이를 통해 유저에게 신선함을 유지하고, 반복에 의한 피로도를 줄였습니다.

핵심 아이디어 2: “조건이 맞지 않으면 추천하지 않음”

예를 들어 스트릭 미션 관련 메시지는, 해당 기능을 사용하고 있는 유저에게만 유효합니다.
Duolingo는 각 메시지에 ‘유효 조건’을 정의하고, 조건을 만족한 유저 중에서만 반응률을 비교합니다.

“모든 유저에게 평균적으로 좋은 메시지보다, 그 유저에게 ‘지금’ 맞는 메시지가 더 중요하다.”

‍

어떻게 동작하는가?

Duolingo의 시스템은 다음과 같은 과정을 매일 반복합니다:

유저가 최근에 어떤 메시지를 받았는지 확인
조건에 맞는 메시지 중에서 반응률이 높은 템플릿 선택
일부 유저에게는 실험적으로 새로운 메시지를 노출
알림 후 2시간 이내 학습 시작 여부로 반응을 평가하고 점수 업데이트

이 구조는 단순한 규칙 자동화가 아니라, 매일 새롭게 학습하는 자동화된 A/B 테스트 시스템입니다.

‍

Softmax 선택 확률 공식

Duolingo는 각 메시지의 ‘점수’를 계산한 뒤, 아래 공식으로 각 메시지를 선택할 확률을 구합니다:

Source : Duolingo <A Sleeping, Recovering Bandit Algorithm for OptimizingRecurring Notifications>

a: 특정 알림 템플릿
t: 현재 시점 (예: 오늘 아침)
s*_{a,t}: 해당 템플릿의 '예상 반응 점수'
τ: 무작위성 조절값 (낮을수록 안정적, 높을수록 탐색적)
A_t: 현재 유저에게 유효한 모든 템플릿의 집합

이 공식은 반응률이 높은 메시지를 더 자주 선택하되, 가끔은 다른 메시지도 시도하여 새로운 가능성을 학습할 수 있게 도와줍니다.

‍

성과

Duolingo는 이 알고리즘을 실제 프로덕션에 적용했고, 다음과 같은 결과를 얻었습니다.

신규 유저 D7 리텐션: +2.0%
전체 DAU: +0.5%
알림 후 2시간 내 학습 전환률: +1.9%

특히 신규 유저에게 가장 큰 효과가 있었는데, 이는 초기 사용 경험에서 적절한 메시지를 받는 것이 이탈률을 줄이고 앱과의 관계를 형성하는 데 중요하기 때문입니다.

‍

참고 : https://research.duolingo.com/

‍

CRM

Growth

Analysis

Jan 10, 2025

Duolingo는 어떻게 알림 최적화로 리텐션을 2% 끌어올렸을까? (Feat. 밴딧 알고리즘)

GA4 & 빅쿼리 내보내기(Bigquery link) (2편) – Bigquery 연결, events_ 테이블 쌓기

Bigquery _table_suffix을 사용해 Google Analytics4 (GA4)로부터 전송된 ‘events_’ 멀티 테이블 쿼리하는 방법

Webflow에 Google Tag Manager를 적용하고 Google Analytics 4 연결하기