주가 예측의 증거

본문에 반복해서 나오는 말들을 먼저 정리한다. 이것만 알면 나머지는 그냥 읽힌다.

• 적중률. 가격이 오를지 내릴지 맞힌 비율이다. 아무 정보 없이 찍으면 50%가 나온다. 그래서 50%는 아무것도 모르는 상태를 뜻하고, 51%는 100번 중 한 번 더 맞혔다는 뜻이다.
• 설명력. 가격이 움직인 정도 중에서 모델이 미리 알아맞힌 몫이다. 1.0이면 완벽하게 맞혔다는 뜻이고 0이면 전혀 못 맞혔다는 뜻이다. 주가 예측에서 나오는 값은 대개 0.01 아래다. 즉 99% 이상은 여전히 모른다.
• 사자·팔자 가격 차이. 주식은 사는 가격과 파는 가격이 조금 다르다. 사자마자 되팔면 이 차이만큼 손해다. 이 차이가 거래할 때마다 무조건 나가는 비용이다. 이 글에서는 이것을 거래 비용이라고 부른다.
• 과거 시험. 만든 모델을 과거 데이터에 돌려서 얼마나 벌었을지 계산해 보는 것이다. 문제는 과거에만 잘 맞도록 모델을 다듬기 쉽다는 점이다. 이 글에서 반복해 나오는 실패는 대부분 여기서 시작된다.
• 봉. 일정 시간 동안의 가격 움직임을 하나로 묶은 단위다. 1분봉은 1분 동안의 시작가, 최고가, 최저가, 종료가를 담는다. 30분봉이면 30분치다. 우리가 받은 데이터는 1분봉이다.

성공한 곳과 실패한 곳을 나누는 것은 모델의 정교함이 아니었다. 거래에 드는 비용, 빌릴 수 있는 돈의 규모, 그리고 그 방법으로 굴릴 수 있는 돈의 한계 이 세 가지였다. 그리고 이 셋은 전부 개인과 기관을 가르는 지점이다.

우리 데이터로 직접 계산한 결과도 같은 방향이었다. 1분봉으로 방향을 맞혀 돈을 벌려면 100번 중 56번을 맞혀야 한다. 그런데 이 분야 최고 수준의 연구가 인정하는 한계가 100번 중 55번이다. 봉을 5분에서 30분으로 늘리면 필요한 적중률이 100번 중 51번에서 53번으로 떨어져 비로소 가능한 범위에 들어온다. 이것이 이번 조사에서 나온 가장 실행 가능한 결론이다.

르네상스 테크놀로지라는 회사의 메달리온 펀드가 가장 자주 언급된다. 30년 동안 수수료를 떼기 전 연 66%, 떼고 나서 39%를 벌었다고 알려져 있다. 이 숫자를 다룰 때 거의 언급되지 않는 사실이 하나 있다.

같은 방법을 남이 따라 할 수 있느냐는 질문에는 결정적인 증거가 있다. 외부의 비판이 아니라 이 회사 자신이 만든 증거다. 같은 회사, 같은 연구원, 같은 데이터로 운용한 두 펀드가 2020년에 이렇게 갈렸다.

규모를 키울 수 있는 쪽이 손실을 본 해에, 규모를 묶어둔 쪽이 76%를 벌었다. 이 회사는 업계에서 가장 비싼 수수료를 받으면서도 메달리온에는 외부 돈을 받지 않고, 매년 번 돈을 직원들에게 강제로 돌려줘서 규모가 커지지 않게 한다. 돈을 얼마든지 더 모을 수 있는 회사가 그러지 않기로 한 것이다. 그 결정 자체가 이 방법으로 굴릴 수 있는 돈에 한계가 있다는 증거다.

숫자가 검증된 회사들

이것이 성공 사례의 실제 구조다. 50%보다 아주 조금 높은 확률을 엄청난 거래 횟수에 곱한다. 이길 수 있는 이유는 예측이 정확해서가 아니라, 그 정도 확률로도 이익이 남을 만큼 거래 비용이 낮기 때문이다. 개인은 그런 비용 조건을 얻을 수 없다.

예외가 하나 있다. XTX는 속도가 아니라 예측의 정확도로 경쟁한다고 공개적으로 밝힌 회사다. 예측으로 이기는 것이 불가능하지는 않다는 뜻이다. 다만 그 회사는 유럽에서 손꼽히는 규모의 연산 설비를 갖추고 그렇게 한다.

실패 사례가 중요한 이유는 막는 방법이 각각 다르기 때문이다.

1. 모델이 가정한 것이 무너진다. LTCM이라는 펀드는 1998년 8월 한 달에 자기 자본의 44%를 잃었다. 미국 정부 조사 보고서는 원인을 분명히 적었다. 이 펀드의 위험 계산은 평온했던 최근 몇 년만 보고 만들어졌고, 시장이 급할 때도 원하는 가격에 팔 수 있다고 가정했다. 그 가정들이 한꺼번에 틀렸다.

2. 같은 생각을 하는 사람이 너무 많아진다. 2007년 8월, 비슷한 방식으로 투자하던 펀드들이 3일 만에 6.85%를 잃었다. 평소 하루 변동폭의 12배에 해당하는 손실이었다. 그런데 4일째에 5.92%가 되돌아와 그 주 전체로는 0.43% 손실에 그쳤다. 사흘째에 겁이 나서 정리한 쪽은 25% 손실을 확정했고, 버틴 르네상스는 그해 85.9% 수익으로 마감했다.

3. 프로그램 배포를 잘못한다. 나이트캐피털이라는 회사는 2012년 8월 1일 45분 만에 4억 6천만 달러를 잃었다. 규제기관 조사서에 경위가 남아 있다. 2003년부터 쓰지 않던 옛날 코드를 지우지 않고 놔뒀는데, 2005년에 그 코드를 멈추게 하는 장치가 끊어졌고 아무도 확인하지 않았다. 그리고 서버 8대 중 1대에 새 코드를 올리는 것을 빠뜨렸다. 수학은 아무 관련이 없었다.

4. 정상 작동하는 프로그램끼리 사고를 만든다. 2010년 미국 증시가 몇 분 만에 폭락한 사건이 있었다. 대량 매도 프로그램이 직전 1분 거래량의 9%씩 팔도록 설정돼 있었는데, 다른 프로그램들이 물량을 주고받으며 거래량을 늘리자 이 프로그램이 매도 속도를 오히려 높였다. 오류도 악의도 없었다.

이 부분의 증거는 여러 나라에서, 여러 시대에, 여러 상품에서 같은 결과를 보여준다. 조사 대상이 크고 방법이 깨끗해서 반박하기 어렵다.

프로그램으로 자동 매매하면 다른가

이 질문에 대한 가장 좋은 증거는 퀀토피안이라는 회사가 자기 사용자를 대상으로 한 연구다. 실제로 돈을 넣고 6개월 이상 돌린 888개의 프로그램을 분석했다.

이후 결말도 증거다. 퀀토피안은 2020년 2월 투자자 돈을 돌려주고 그해 11월 문을 닫았다. 창업자는 최소 2년간 성과가 나지 않았다고 밝혔다. 비슷한 서비스를 하던 퀀트커넥트도 자사 프로그램 선정 방식이 과거에만 맞는 모델을 고르는 결과를 낳았다고 스스로 인정하며 해당 사업을 접었다. 개인이 만든 전략을 모아 돈을 벌려던 가장 큰 두 시도가 같은 이유로 실패했다.

가장 중요한 반대 증거

논문보다 더 정직한 기준이 있다. 수천 팀이 잘 정리된 데이터로 겨룬 공개 대회의 최종 성적이다. 여기서는 나중에 공개되는 데이터로 채점하기 때문에 과거에만 맞춘 모델이 걸러진다.

제인스트리트 대회의 0.0139가 짧은 시간 단위 예측의 현실적인 한계다. 가격 움직임의 1.4%만 미리 알아맞혔다는 뜻이다. 8등을 한 참가자가 무엇이 성적을 올렸는지 공개했는데, 모델 구조를 바꾼 것보다 새 데이터가 들어올 때마다 모델을 다시 학습시킨 것이 가장 크게 기여했다.

잘 맞히는 것과 돈을 버는 것은 다른 문제다

이 결과는 무엇을 만들어야 하는지에 직접적인 영향을 준다. 예측이 나온 뒤 얼마를 어느 종목에 넣을지 정하는 단계를, 예측 모델에 딸린 부속이 아니라 따로 평가하는 독립된 단계로 만들어야 한다.

지금까지는 남의 데이터였다. 토스증권에서 받은 SOXL과 TQQQ의 1분봉 1년치, 70만 7,510개로 같은 질문을 직접 던졌다. 두 종목 모두 미국 상장지수펀드이고, 지수가 움직인 것의 3배로 움직이도록 설계된 상품이다.

그래서 몇 분봉을 써야 하는가

두 가지가 서로 반대로 작용한다. 거래 비용은 한 번 사고팔 때마다 똑같이 나가는데, 봉이 길수록 그 안에서 가격이 더 많이 움직인다. 그래서 봉이 길수록 본전을 맞추기 위해 필요한 적중률이 내려간다. 반대로 봉이 길수록 1년치 데이터에 들어 있는 표본 수가 줄어서, 실력인지 운인지 구분하기가 어려워진다.

1분봉이 안 되는 이유는 신호가 없어서가 아니라 비용을 못 넘어서다. 100번 중 56.4번을 맞혀야 본전인데, 훨씬 자세한 데이터를 쓰는 최고 수준 연구도 51번에서 55번 사이를 보고한다. 그보다 높은 숫자가 나오면 계산 과정에 미래 정보가 섞여 들어간 것으로 의심하라는 것이 이 분야의 공통된 조언이다.

하루 단위가 안 되는 이유는 정반대다. 필요한 적중률은 50.3%로 아주 낮지만, 1년에 250개뿐인 표본으로는 운과 실력을 구분하는 데 59.5%가 필요하다. 증명할 수 없는 실력은 없는 실력과 같다. 하루 단위로 가려면 최소 5년에서 10년치 데이터가 있어야 한다.

4절에서 본 0.025라는 숫자는 증상이다. 원인은 수학적으로 밝혀져 있다.

2년치 데이터에서 나온 아주 좋은 성적은, 설정을 바꿔가며 반나절만 돌리면 저절로 나온다. 같은 성적이 10년치에서는 시험만으로 만들어내기 어렵다. 우리 데이터는 1년치이므로 시험할 수 있는 횟수가 아주 적다는 뜻이다.

여기서 따라오는 규칙이 하나 있다. 검증 도구가 잘 작동하는지를 그 도구가 만든 지표로 확인하면 순환논증이다. 한 번도 사용하지 않고 남겨둔 기간을 따로 떼어 두거나, 실제로 돈을 넣지 않고 모의로 돌려보는 등 별도의 기준이 필요하다.

거래 비용은 생각보다 크다

거래 비용 추정치는 연구마다 열 배 가까이 차이가 난다. 대형 운용사 소속 연구자들은 17년간 실제로 체결한 1.7조 달러어치를 분석해 평균 비용을 0.1%로 보고했다. 반면 학계 연구는 전형적인 전략의 왕복 비용이 0.5%를 넘는다고 보고했다.

둘 다 맞을 수 있고, 그 차이 자체가 발견이다. 얼마나 잘 체결하느냐가 크고 지속적인 차이를 만든다는 뜻이다. 그리고 개인은 0.1% 쪽이 아니라 0.5% 쪽에서 거래한다.

이 논쟁의 결론은 세 번째 연구가 냈다. 120개 수익 패턴을 단계별로 깎아 내려간 결과다.

0.66%에서 0.04%로 줄어든다. 그리고 저자들은 공매도에 드는 비용만 넣어도 남은 수익이 사라진다고 덧붙였다.

손실 폭으로 과거 시험을 검증하는 방법

잘 알려지지 않은 검증 방법이 하나 있다. 어떤 전략이 앞으로 겪을 최대 손실 폭은 그 전략의 성적과 기간만으로 이론적으로 계산된다. 과거 시험에서 나온 손실 폭이 이 계산값과 크게 다르면 무언가 잘못된 것이다.

예를 들어 1년에 10% 정도 오르내리는 전략이 괜찮은 성적을 낸다면, 3년 동안 고점 대비 13%, 10년 동안 19% 정도 떨어지는 시기를 겪는 것이 정상이다. 과거 시험에서 손실 폭이 이보다 훨씬 작게 나왔다면 그것은 장점이 아니라 경고다. 운 좋은 구간만 봤거나 계산에 미래 정보가 섞였을 가능성이 있다.

인공지능을 써야 하는가

1분봉 가격 데이터로 미국 상장지수펀드를 예측하는 문제에서는, 복잡한 인공신경망이 출발점으로 적절하지 않다. 근거가 여러 갈래로 모인다.

• 앞서 본 대규모 연구에서 가장 좋은 신경망과 훨씬 단순한 방법의 차이가 0.0006이었다. 저자들 스스로 깊은 신경망의 이점이 제한적이라고 적었다.
• 마이크로소프트가 공개한 성능 비교표에서 일부 최신 신경망은 오히려 손실을 냈다. 표 형태 데이터에서는 더 단순한 방법이 앞섰다.
• 제인스트리트 대회의 조건을 똑같이 맞춘 비교에서 최신 신경망이 꼴찌였다. 단순한 방법이 가장 좋았다.
• 2026년 연구가 대규모 사전학습 모델로 미국 주식 1,000종목을 예측했더니 거의 아무 변화 없는 예측이 나왔다. 같은 조건에서 예측 대상을 거래량으로 바꾸면 문제가 사라졌다. 모델 탓이 아니라 주가가 원래 예측하기 어렵기 때문이다.
• 대규모 비교 연구에 따르면 신경망은 쓸모없는 입력값이 섞여 있을 때 특히 약하다. 주가 예측에서 쓰는 수백 개의 지표가 정확히 그런 상황이다.

인공지능이 금융에서 확실히 이기는 영역은 있다. 주문이 오가는 기록을 초 단위 이하로 들여다보는 영역이다. 한 연구는 나스닥의 주문 기록 수십억 건으로 학습한 모델이 개별 종목별로 만든 모델보다 낫고, 학습에 쓰지 않은 종목에도 통한다는 것을 보였다. 데이터 양이 압도적이고 신호가 실제로 존재하기 때문이다. 우리에게는 그 데이터가 없다.

권장 구성

1. 5분에서 30분 단위를 주 대상으로 한다. 1분봉은 계속 수집하되 합쳐서 쓴다. 정규 거래시간 외 데이터는 제외한다. 그것만으로 거래 비용 추정치가 0.094%에서 0.056%로 내려간다.

2. 비용을 뺀 수익으로만 평가한다. 비용을 빼기 전 숫자는 믿지 않는다. 우리 계산에서 유일하게 보이던 신호가 비용을 넣는 순간 사라졌다. 이것을 기본값으로 삼는다.

3. 몇 번 시험했는지 강제로 기록한다. 포기한 설정까지 모두 남기고, 나중에 고칠 수 없게 만든다. 우리 데이터는 1년치라서 시험할 수 있는 횟수가 아주 적다는 사실을 화면에 먼저 보여주는 것이 맞다.

4. 아주 단순한 방법을 먼저 이긴다. 직전 값을 그대로 쓰는 방법과 가장 단순한 계산을 항상 함께 돌린다. 암호화폐 대회에서 한 줄 계산이 1등과 거의 같은 성적을 냈고, 다른 대회에서는 68초 만에 학습이 끝나는 단순한 방법이 우승했다.

5. 검증 도구를 그 도구로 검증하지 않는다. 한 번도 쓰지 않고 남겨둔 기간을 따로 떼어둔다. 정답을 무작위로 섞어서 돌렸을 때 좋은 성적이 나오면 계산 과정에 미래 정보가 섞인 것이므로, 이 확인을 기본으로 넣는다.

6. 얼마를 넣을지 정하는 단계를 따로 평가한다. M6 대회에서 예측 정확도와 실제 수익의 관계가 0.04였다. 예측 모델에 딸린 부속으로 두면 안 된다.

7. 움직임의 크기를 예측하는 쪽을 버리지 않는다. 방향은 안 되지만 크기는 설명력 0.21에서 0.26으로 확실히 예측된다. 얼마를 넣을지 정하고 위험을 관리하는 데 실질적인 가치가 있고, 우리 데이터가 실제로 뒷받침하는 유일한 신호다.

8. 남의 논문에서 가져온 방법은 먼저 확인한다. 장중 패턴 검증을 이미 코드로 만들어뒀다. 우리 데이터에서 통과한 것만 쓴다.

마지막으로 하나를 분명히 해둘 필요가 있다. 이 보고서의 증거는 개인이 이런 방식으로 돈을 벌 수 없다고 말하지 않는다. 대만 연구는 실력이 실제로 있고, 유지되고, 측정할 수 있다는 것을 보여줬다. 다만 그런 사람이 1% 미만이고, 자기가 거기 속하는지 미리 알 방법이 없다는 것이 문제다.

그래서 알 수 있게 만드는 것이 이 플랫폼의 목적이 되어야 한다. 돈을 버는 모델을 찾는 것보다, 찾았다고 착각하지 않게 막아주는 장치를 먼저 만드는 편이 낫다.