켈리 기준(Kelly Criterion): 리스크와 수익을 최적화하는 자금 관리 공식

켈리 기준의 정의 및 원리

켈리 기준(Kelly Criterion)은 트레이딩 및 투자에서 장기적인 수익을 극대화하기 위해 자본의 최적 비율을 베팅하는 수학적 공식입니다. 1956년 존 래리 켈리 주니어가 발표한 이 이론은, 주어진 승률과 손익비를 바탕으로 파산 위험을 최소화하면서 자산을 가장 빠르게 증식시킬 수 있는 1회 베팅 규모를 산출합니다.

기본 공식은 다음과 같습니다.

• f = (bp - q) / b

여기서 각 변수는 다음을 의미합니다.

• f: 1회 트레이딩에 투입할 자본의 최적 비율 (Fraction)
• b: 손익비 (이익 / 손실, 배당률)
• p: 승률 (성공 확률)
• q: 패률 (1 - p)

이 공식을 통해 도출된 값은 자산을 가장 빠르게 불릴 수 있는 '전액 켈리(Full Kelly)' 비율을 의미합니다. 그러나 실제 시장의 변동성과 심리적 압박을 고려하여, 도출된 값의 절반만 베팅하는 '반켈리(Half Kelly)' 또는 '분수 켈리(Fractional Kelly)' 전략이 널리 사용됩니다. 전액 켈리는 이론적 최적점이지만 그만큼 자산 곡선의 변동폭(Drawdown)이 매우 커지는 반면, 반켈리는 변동성을 크게 줄이면서도 수익률의 감소는 상대적으로 적게 유지하여 안정적인 자금 관리를 가능하게 합니다.

실전 트레이딩에서의 활용법

비트코인 선물 매매를 예로 들어 켈리 기준을 실전에 적용하는 방법을 살펴보겠습니다. 과거 100번의 트레이딩 데이터를 분석한 결과, 특정 매매 기법의 승률(p)이 40%(0.4)이고, 평균적으로 손실 대비 2배의 수익을 내는 손익비(b) 2를 기록했다고 가정해 봅니다. 이때 패률(q)은 60%(0.6)가 됩니다.

공식에 대입하면 다음과 같습니다.

• f = (2 * 0.4 - 0.6) / 2 = (0.8 - 0.6) / 2 = 0.1

계산 결과 최적 비율 f는 0.1, 즉 전체 자본의 10%입니다. 이는 해당 트레이딩 전략을 사용할 때 총 자본의 10%를 리스크로 노출시키는 것이 장기적으로 가장 유리하다는 수학적 결론입니다. 만약 자본이 1,000만 원이라면, 한 번의 비트코인 진입에서 발생할 수 있는 최대 손실액이 100만 원이 되도록 포지션 크기와 손절선(Stop Loss)을 설정해야 합니다.

여기서 변동성을 줄이기 위해 반켈리 방식을 채택한다면, 도출된 10%의 절반인 5%만을 리스크로 설정합니다. 이렇게 하면 연쇄적인 손실이 발생하더라도 파산에 이르는 시간을 극적으로 늦추고 심리적인 평정심을 유지할 수 있습니다.

주의사항 및 한계

켈리 기준은 수학적으로 증명된 강력한 도구이지만, 맹신해서는 안 되는 몇 가지 한계가 존재합니다.

• 과거 데이터의 함정: 공식에 입력되는 승률과 손익비는 과거의 백테스트나 매매 기록을 기반으로 합니다. 미래의 시장 환경이 과거와 다르게 움직인다면, 잘못된 변수 입력으로 인해 과도한 비율이 산출될 수 있습니다.
• 연속 손실의 심리적 압박: 전액 켈리로 투자할 경우, 일시적으로 자산이 반토막 나는 심각한 손실 구간(Drawdown)을 경험할 확률이 높습니다. 이는 대부분의 트레이더가 감당하기 힘든 심리적 고통을 수반합니다.
• 슬리피지와 수수료 무시: 기본 켈리 공식은 거래 수수료나 시장가 체결 시 발생하는 슬리피지를 고려하지 않습니다. 잦은 매매가 발생하는 단기 트레이딩에서는 이러한 비용이 수익 기댓값을 훼손하여 실제 최적 비율을 낮추게 됩니다.

결론적으로 Kelly Criterion은 트레이딩에 있어 객관적인 자금 관리의 기준점을 제시합니다. 자신의 매매 성과를 수치화하고, 감정이 아닌 통계에 기반하여 포지션 크기를 결정하는 데 활용하되, 보수적인 접근(반켈리 등)을 결합하는 것이 실전에서 가장 효과적인 방식입니다.