바둑 기사들은 AI 앞에서 어떻게 스스로 무력해지는가

원문: How Go Players Disempower Themselves to AI 작성자: Ashe Vazquez Nuñez · 2026-05-01 · 👍 506

본 글은 LessWrong 인기 게시글을 AI로 자동 번역한 것입니다. 번역 오류는 GitHub 이슈로 알려주세요.

MATS 9.1 확장 프로그램의 일환으로 작성되었으며, Richard Ngo의 멘토링을 받았습니다.

2016년 3월 9일부터 15일까지, 전 세계의 바둑 기사들은 자신들의 게임이 AI에 무너지는 것을 지켜보기 위해 밤을 지새웠다. Google DeepMind의 AlphaGo는 당시 세계 최강 기사로 통하던 이세돌을 4-1이라는 압도적인 스코어로 이겼다.

이 사건은 바둑계를 “뒤흔들었지만”, 문화 전반에 미친 영향은 처음에는 분명하지 않았다. 예를 들어 체스에서는 컴퓨터가 인간의 일자리를 의미 있게 자동화하지 않았다. 인간 체스는 인터넷 시대에 유사 e스포츠로 번창한 반면, 매년 열리는 컴퓨터 체스 챔피언십은 온라인에서 수백 명에 불과한 마니아들만 동시에 시청한다. 알고 보니 게임의 문화적·경제적 가치는 최고 수준 퍼포먼스의 추상적 아름다움이 아니라, 인간 드라마와 몰입에서 나온다는 것이다. 실제로 바둑도 이 패턴을 따라가는 듯했다. 해설 방송에는 시청자에게 맥락을 제공하는 보조 AI 평가 막대가 등장할 수 있고, 바둑 강사는 강의 자료에 흥미로운 새 AI 변화도를 포함시킬 수 있다. 하지만 바둑이라는 문화적 실천은 대체로 영향을 받지 않은 듯 보였다.

그럼에도 2018년 초, 유럽에서 불협화음의 초기 신호가 가시화되었다. 온라인 유럽 팀 챔피언십(ETC)의 심판이 Carlo Metta라는 선수를 게임 중 부정 AI 사용 혐의로 고발한 것이다. 그의 결과는 무효 처리되었고, 추가 참가도 금지되었다. 문제의 게임이 진행되던 시점에 AlphaGo 논문에 기반한 Leela Zero 같은 오픈소스 엔진은 등장한 지 한 달밖에 되지 않았다. 그러나 Leela 0.11이라는 전신은 이미 널리 보급되어 있었고, Metta가 상대하던 유럽 최상위 선수들 수준에 필적하는 것으로 알려져 있었다. Metta의 고발인들은 그의 수가 이 AI가 선호하는 수와 너무 비슷하다고 주장했다. 게다가 그의 오프라인(OTB) 대국이 온라인 대국보다 AI와의 일치도가 현저히 낮다는 점도 의심스럽게 여겨졌다.

검찰 측에는 안타깝게도, 그들의 결과는 불투명하고 허술한 방식으로 보고되었다. 그들의 조사 결과를 가장 잘 모아놓은 것이 위에 링크한 즉흥적인 페이스북 스레드라는 사실이 이를 뒷받침한다. 이 점은 정황 증거의 본질적 한계와 함께 같은 스레드에서 커뮤니티 구성원들에게 비판받았다. Metta의 동료와 친구들도 공개적으로 그를 옹호하고 나섰다. 그들의 수사가 효과를 발휘한 한 방식은 AI 부정행위자들에 대한 사회적 낙인과 경멸을 활용한 것이었다. 역설적이게도 이 때문에, 고발의 무게감이 크게 느껴져 Metta에 대한 처분이 부당하고 과도해 보이게 되었다. 결국 이탈리아 팀은 결정에 항소했고 승소했다. Carlo Metta는 공식적으로 무혐의 처리되었다.

이탈리아인이 아닌 유럽 바둑 기사들 사이에서, Metta가 2018년 이후 ETC의 거의 모든 게임에서 AI를 사용했다는 주장은 거의 반박이 불가능한 것이 되었으며, 특히 이후 상황 전개를 고려하면 더욱 그렇다. 2017/2018 시즌에 그는 약 절반의 승률을 기록했는데, 아마도 봇과 비슷한 수준의 상대들을 상대로 Leela 0.11을 사용했을 것이다. 같은 해, 이탈리아 팀은 어차피 유럽 바둑 정치에서 영향력 있는 누구도 신경 쓰지 않는 하위 리그로 강등되었다. 이는 진정으로 초인적인 오픈소스 바둑 엔진인 Leela Zero의 대중화와 시기를 같이했다. Metta는 2018/2019 시즌에 자신의 OTB 수준에 맞는 상대들을 상대로 9-0 연승을 거뒀고, 2019/2020 시즌에는 9-1을, 그리고 이후 몇 년간은 26경기 중 25경기를 이겼다¹. 이 마지막 연승 기간 중 그의 유일한 패배는 카메라 통제 하에서 강제로 두어야 했던 대국에서였다. 이 기간 내내 그의 OTB 실력은 정체되어 있었다.

이 시점에서 Metta를 “무죄"로 간주하는 것은 정황 증거에 기반한 유죄판결을 거의 범주적으로 거부하는 것을 뜻한다. 나는 그 문제를 다투기 위해 여기 있는 것은 아니지만, 그럼에도 Metta가 이 게임들에서 정기적으로 AI를 사용했다고 가정하는 데 거리낌이 없다. 그러나 이는 우리 이야기의 시작에 불과한데, 바둑에서 AI 사용의 사회학에 관한 몇 가지 핵심을 보여주기 때문이다. 첫째, 그의 자격 박탈에 대한 공식 발표와 이어진 담론은 AI 부정행위자들을 (결과적으로 잘못되었지만) 유난히 불명예스럽고 사악한 존재로 악마화했다. 둘째, 그는 AI 사용자들이 부정행위가 조사 중에도 아무리 명백하더라도 사실상 결코 처벌받지 않는다는 선례를 남겼다. 그들은 언제든 동맹들을 동원해 소란을 일으키고, 주최 측을 압박해 결정을 뒤집게 할 수 있었다. 이런 특성들 때문에 사람들을 부정행위로 고발하는 일은 사회적으로 비용이 컸고, 동시에 토너먼트 주최자와 페어플레이 위원회는 그것이 무익하다는 기대를 갖게 되었다. 따라서 응징을 위한 기능적 메커니즘이 거의 완전히 부재한 탓에 온라인 유럽 대회에서의 부정행위는 사소할 정도로 쉬워졌다.

나는 2020년에 바둑 강사로 경력을 시작했는데, 팬데믹 수요에 맞춰 새로 재설립된 온라인 바둑 학교에서 기술적 기보 리뷰를 제작했다. 우리는 학교에서 부정행위가 큰 문제가 될 것이라고는 계획하지 않았었다. 부정 AI 사용은 성장하는 온라인 토너먼트 생태계에서 이미 잘 알려진 문제였지만, 등급도 없고 상금도 없는 우리 교육 리그에까지 영향을 미칠 거라고는 예상하지 못했다. 오히려 우리는 곧 학생들 중 일부가 우리 강사들이 평생 둘 수 있길 바라는 것보다 더 좋은 기보를 만들어내고 있다는 사실을 인식하게 되었다. 가끔은 양쪽 모두 게임 내내 톱 AI 수를 두는 명백한 AI 사용도 있었다. 지금 추정하기로는 우리 학생의 약 절반이 적어도 한 게임에서 AI를 사용했고, 열 명 중 한 명은 만성적 사용자였다. 우리는 처음에 이 관찰에 어리둥절했다. 선수들이 AI에게 자신을 대신해 이기게 하려고 연습 게임을 그냥 내던진다는 것은 말이 안 됐다. 우리는 또한 이 문제에 어떻게 대처할지 결정하기 어려웠고, 대다수 토너먼트 주최자들과 거의 같은 이유로 이를 다루는 것을 꺼렸다.

비슷한 시기에, 한 친구가 청소년 리그에서 AI 사용을 의심한 한 유망한 어린 선수의 온라인 기보를 살펴봐 달라는 요청을 받았다. 바둑 학교에서처럼, 거의 모든 아이들이 서로를 상대로 정기적으로 AI를 사용하고 있었기 때문에 부정행위 탐지가 얼마나 쉬운지 놀랐다. 이 사건과 다른 유사한 사건들로 인해 나는 부정 AI 사용이 바둑계 전반에 완전히 만연해 있다는 사실을 점차 깨닫게 되었다. 다행히 이 패턴은 COVID 기간 중 온라인으로 열린 정말로 중요하거나 권위 있는 토너먼트로는 일반화되지 않았다. 작정한 부정행위자라면 우회하기 쉬울 상징적인 카메라 통제만으로도, 위협이나 무력한 “페어플레이 위원회” 언급이 막지 못하던 거의 모든 부정행위를 억제하기에 충분한 듯했다. 이는 Metta가 카메라 하에서 두거나 다른 AI 사용자를 상대할 때를 제외하면 온라인 토너먼트에서² 거의 지지 않던 것을 떠올리게 했다.

다시 바둑 학교에서 무력한 동료들과 나로 돌아오면, 우리는 처음에 의심스러운 게임이 “리뷰하기에는 너무 잘 둔 것"이라고 무미건조하게 시사하고, “그런 수준의” 게임을 두는 학생은 우리가 도울 수 없다고 강조하는 것으로 만족했다. 학생들은 눈치를 챘고, 이후로 우리는 운 좋게도 부정행위에 대한 사적 고백 몇 건을 받았다. 여러 해에 걸쳐 나는 AI를 사용한 많은 학생들과 후속 인터뷰를 할 수 있었고, 그중에는 원래 자수하지 않은 학생들도 포함되어 있었다. 매력적이고 흥미로운 부정행위자의 전형은 은밀하고 정교한 방법으로 외부 정보를 얻어 사기로 상금이나 권위 있는 타이틀을 차지하는 사람이다. 그러나 우리는 많은 부정행위 사례와 선수들의 고백을 통해 우리 학교에서 AI 사용의 지배적 이유는 나태한 호기심과 게으름임을 알게 되었다. 학생들은 흔히 평범한 바둑 한 판을 두려고 시작하지만, 특히 어렵거나 짜증나는 수에서 막히게 되고, 결국 호기심 어린 눈은 두 번째 모니터로 떠밀려간다 — 어차피 거기서 보통 AI 소프트웨어를 돌리고 있었으니까 — 그리고 흥미로운 퍼즐이나 숙제 문제의 답을 슬쩍 곁눈질하듯 정답을 확인하곤 했다. 사람들이 AI 사용 이유로 든 또 다른 이유는 학교 커뮤니티 내 이미지를 보존하거나 개선하는 것에 대한 정서적 투자였다. 일부는 무능해 보이는 것을 피하고 싶어 했고, 컴퓨터에 따르면 기댓값으로 “n” 점 이하만 잃는 수만 두는 식의 전략을 사용했다.

이 이유들 중 어느 것도 우리에게 놀랍지는 않았다. 우리는 이미 학생들의 이상한 행동에 대해 가상으로 격투를 벌이며 그 대부분을 떠올렸기 때문이다. 그러나 개인적으로 충격이었던 것은 학생들이 자신의 AI 사용을 어떻게 개념화하느냐였다. 이 점에서도 Carlo Metta는 놀랍도록 예측력 있는 사례였다. 그의 출전 정지를 논의하던 원래 레딧 스레드에는 “carlo_metta"라는 사용자의 댓글이 실려 있었다.

나는 절대 Leela가 수를 고르도록 두지 않는다. 어느 수가 더 좋은지 직접 결정한다. 그래서 Leela와 함께 내 자신의 스타일을 찾을 수 있다고 생각한다. 바둑은 예술이고 Leela는 내가 내 실력을 표현하도록 돕는다

\[원문 그대로\]

그 계정은 일회용 계정이었고, 어쩌면 트롤이었을 수도 있다. 그러나 우리 학교의 부정행위 학생들에게서 똑같은 주장이 나오는 것을 들었을 때 그 댓글이 떠오르지 않을 수 없었다. 모든 학생의 이야기에서 핵심은, AI를 사용했음에도 자신은 결과물에 대한 예술적 통제권을 유지하고 있고, 스스로 사고하고 발전할 행위 주체성을 행사할 수 있다는 것이었다. 그들에게 AI는 잠재적 가능성이나 예술적 감각을 실현하도록 돕는 도구처럼 느껴졌다.

AI 사용자는 자신이 “이해하지 못한다"는 것을 결코 알아내지 못한다.

대륙 유럽의 수학 학사 과정은 잔혹함으로 응당한 평판을 가지고 있으며, 졸업률이 10-15%인 경우가 비교적 흔하다. 90% 중 다수는 거의 즉시 중도 포기하지만, 일부는 1학년 전체를 버틴다. 이들은 흔히 증명과 연습 풀이의 원자적 단계들을 따라갈 수 있고, 이는 그들에게 헛된 희망을 준다. 그러나 그들은 자료의 “큰 그림” 동기를 보지 못해 어려움을 겪고, 결국 희망이 풀려버리는 경향이 있다. 나는 우연히 대수와 행렬 계산 기초에 관한 기말 3차 시험에서 이런 집단적 풀어짐을 목격할 기회를 얻었다. 나는 그해 초의 성적을 올리려고 재시험을 봤는데, 그나마 어느 정도라도 유능한 다른 사람은 아무도 그렇게 하려 하지 않았다. 시험장 밖에서 다른 약 40명의 학생들이 떠드는 소리를 들으며, “증명은 싫지만 연습문제는 풀 수 있어"라거나 “이번엔 행렬 곱셈 법칙들을 다 외웠어” 같은 말에 속이 얼어붙었다. 시험 자체는 꽤 비전형적이었다. 교수는 우리가 행렬을 다루는 데 신물이 났을 거라고 판단했는지, 그 대신 절충적인 단순 대수 문제들을 냈는데, 내게는 “지금쯤 수학자처럼 사고하는 법을 배웠다면 풀 수 있어야 할 기본 연습문제들"이라는 느낌이었다.

시험장을 나올 때의 분위기는 우울과 독설이 뒤섞여 있었다. 사람들은 시험에 대해 표면적으로 불평했고, 보통 시험이 자료에 비해 너무 지엽적이거나 주제에서 벗어났다는 식이었다. 그러나 그 이면에는 더 근본적인 무언가가 진행되고 있었다. 사람들은 어설픈 휴리스틱과 손으로 베껴 쓴 연습문제와 증명들을 한 가방씩 들고 나타났던 것이다. 그 시험은 그들에게 자신들의 기억 보조 수단이 결코 그들이 “이해하게” 만들어 주지 못할 것이라는 사실을 정면으로 마주하게 했다. 그들 중 누구도 다시는 본 적이 없었던 것 같다.

바둑 AI 사용자 집단 — 온라인 게임에서 부정행위를 하는 사람들이든, 단순히 사후에 AI로 자신의 게임을 복기하는 사람들이든 — 은 그 시험의 영원한 전야에 있는 집단이다. 그들은 한가한 호기심으로 컴퓨터를 켜고, 우주의 진리들이 그들 곁을 지나가는 동안 수동적으로 고개를 끄덕인다. 그들은 숭고한 수를 클릭할 수 있다는 이유만으로, 통찰을 조금도 더 등록하지 않는다. 사람들은 정답이 더 이상 눈앞에 없을 때 자신이 얼마나 길을 잃을지를 일관되게 과소평가한다. 내게 이 AI 사용에 대한 관점은 카메라 통제가 왜 그토록 온라인 부정행위에 효과적이었는지를 설명한다. AI 사용은 보통 자기 비하와 권능 박탈의 행위 — 자신을 주변 인센티브 그라디언트에 종속시키는 것 — 이기 때문에, 사소한 장애물을 임기응변으로 극복하는 미학과 근본적으로 모순된다.

AI 사용자들이 일관되게 보여온 통제의 환상은 그들의 권능 박탈과 음험한 방식으로 상호작용한다. 이는 자신의 문화 참여가 자동화되어 사라지는 것을 허용하는 바둑 기사들의 사회를 형성하는 데 기여한다. 게다가 그들은 그것에 대해 너무 무력해서 자신의 진부화를 결코 인식하지 못하도록 막는 내장된 심리 메커니즘까지 갖추고 있다. 이 메커니즘은 타인의 AI 사용 탐지를 사보타주하는 데에도 작용한다. 사람들은 주어진 게임이 AI를 사용했을 가능성에 대해 지나치게 보수적인 추정치를 내놓는 경향이 있다. 나는 이것이 그들이 의심되는 게임을 확인하기 위해 보통 자신의 AI에게 자문을 구하기 때문이라고 생각한다. 그렇게 하면서 그들도 기계의 관점으로 동조하게 되고, 결국 그 상황에서 정확한 AI 수를 두는 것이 어차피 “자연스러운” 일이었다고 결론짓는다.

바둑에서의 AI 사용(특히 부정행위)에 대한 내 견해는 원래 그 실천자들에 대한 혐오로 나타났다. 나는 결국 사악하다기보다는 훨씬 더 천박하고 약한 습관에 대한 연민과 실용주의의 태도로 전환했다. 시간이 지나면서 자신이 가치 있다고 주장하는 많은 것을 포기하는 집단에 대한 깊은 슬픔으로 진전했다. 이 글로 강조하고 싶은 것은, 우리가 종으로서 금전적 인센티브가 없을 때조차도 자신의 문화, 경제, 자율성을 AI에게 넘겨주려는 의지를 일관되게 과소평가한다는 것이다. 이런 일이 일어나는 데 AI가 초인적일 필요조차 없다. 실제로 바둑 AI는 인간 선수들의 문화적 역할을 얕은 시뮬라크르로 자동화한다. AI가 해야 할 일은 어떤 작업에서 그저 그럭저럭 잘하는 것이 전부이며, 그것만으로도 사람들이 자기 자신의 대체를 자원하기에 충분할 수 있다.

부록 A: 아니, 바둑 기사들은 강해지고 있지 않다

이 비관적 독백에 대해 예상되는 반론 중 하나는 AI가 널리 보급된 이후로 전문 바둑 기사들의 실력이 향상된 것 같다는 것이다. 문화 진화 분야에서 이를 옹호하는 적당한 양의 연구가 있는데, 같은 저자 그룹의 이 논문 및 관련 논문들이 그렇다. 이런 견해는 테크노 낙관주의 궤도의 블로그들에 의해 홍보되어 왔으며, 관련된 그래프 중 하나가 최근 트위터에서 돌아다니고 있었다. 나는 이미 이 연구에 사용된 데이터를 분석한 글을 썼는데, 거기서 그것이 잘못 해석되고 있다고 결론지었다. 요약하자면, 기보 품질의 모든 향상은 인간이 외운 AI 정책을 흉내낼 수 있는 60수 이전에 일어난다. 게임의 결정적인 부분인 60수 이후의 기보에서는 향상이 보이지 않는다. AI 이전 시대 대비 인간 기보에 의미 있는 변화가 있다고 내가 생각하려면, 선수들이 자신이 베끼는 AI 수를 충분히 잘 이해해서 포석 이후 정책을 벗어날 때에도 향상된 수준을 유지한다는 것을 납득해야 할 것이다. 이에 대한 증거는 없다.

부록 B: 이 글이 존재하는 이유

이 글은 바둑 기사들이 권능을 박탈당했음을 엄밀히 정당화하거나 그 권능 박탈의 형태를 신중하게 탐구하기 위한 것이 아니다. 대신, 점진적 권능 박탈(Gradual Disempowerment)이라는 일반 현상에 대한 유용한 직관을 제공할 수 있다고 생각하는, 바둑 커뮤니티에서의 일화적 경험에서 비롯된 분위기를 전달하기 위해 설계되었다.