2016년 알파고와 이세돌의 대국을 기억하는가? 당시 많은 사람들이 단순히 "컴퓨터가 바둑에서 인간을 이겼다"는 정도로만 받아들였지만, 구글의 전 CEO 에릭 슈미트는 그 순간을 "지구가 조용히 움직인 순간"이라고 표현했다. 그가 최근 TED에서 한 발언을 통해 우리가 놓쳤던 AI 혁명의 진짜 의미와 앞으로의 전망을 살펴보자.
2500년 바둑 역사에서 처음 나온 수
알파고 대국에서 정말 중요한 순간은 두 번째 게임이었다. AI가 2500년 바둑 역사상 아무도 본 적 없는 완전히 새로운 수를 둔 것이다. 기술적으로 설명하면, 알파고는 항상 승률 50% 이상을 유지하도록 설계되었고, 그 계산 과정에서 인간이 전혀 생각해보지 못한 수를 찾아낸 것이다.
이게 왜 그렇게 충격적이었을까? 바둑은 수십억 명이 플레이해온 게임이다. 그런데 컴퓨터가 인간이 한 번도 생각해보지 못한 새로운 아이디어를 만들어낸 것이다. 이는 단순한 계산 능력의 승리가 아니라, 창의성의 영역에서 AI가 인간을 넘어선 첫 번째 사례였다.
슈미트는 이 순간이 진짜 AI 혁명의 시작점이었다고 말한다. 당시에는 앞으로 무슨 일이 일어날지 정확히 몰랐지만, 이 알고리즘들이 새롭고 강력하다는 것은 분명히 알 수 있었다.
AI는 과소평가되고 있다
모든 사람이 AI에 대해 이야기하는 지금, 슈미트는 오히려 AI가 과소평가되고 있다고 주장한다. 대부분의 사람들이 ChatGPT를 통해 AI를 처음 경험했을 때의 반응을 생각해보자. "와, 이게 글을 쓰네!"라는 놀라움이었다. 하지만 그게 전부가 아니다.
지난 2년 동안 강화학습 분야에서 엄청난 발전이 있었다. OpenAI의 o3나 DeepSeek R1 같은 시스템들을 보면, 앞으로 갔다가 뒤로 갔다가 하면서 계획을 세우는 모습을 볼 수 있다. 이는 단순한 언어 생성을 넘어서 진짜 사고와 계획 수립이 가능해졌다는 의미다.
슈미트는 자신이 로켓 회사를 샀다는 예시를 들며, 전문가가 아닌 분야에서 AI 시스템을 활용하고 있다고 말한다. 이 시스템들이 15분 만에 깊이 있는 연구 보고서를 작성하는데, 15분간의 슈퍼컴퓨터 연산이 얼마나 엄청난 계산량인지 생각해보라.
우리는 언어에서 시작해서, 이제 생물학의 기반인 시퀀스 처리, 그리고 계획과 전략 수립까지 가능한 단계에 와 있다. 최종적으로는 모든 비즈니스 프로세스를 컴퓨터가 운영하게 될 것이다. 각각의 에이전트들이 서로 영어로 소통하면서 협업하는 시대가 오고 있다.
에너지 위기: 90개의 원자력 발전소가 필요하다
하지만 이런 발전에는 엄청난 대가가 따른다. 바로 에너지다. 슈미트는 미국이 추가로 90기가와트의 전력이 필요하다고 증언했다. 이는 원자력 발전소 90개에 해당하는 양이다. 하지만 현실적으로 불가능하다.
데이터센터 하나당 도시 하나 정도의 전력이 필요하다고 생각하면 된다. 아랍 국가들은 5-10기가와트 규모의 데이터센터를 건설하고 있고, 인도는 10기가와트 규모를 고려하고 있다.
물론 알고리즘 개선으로 전력 사용량을 줄일 수 있다는 주장도 있다. 하지만 "그로브가 주면 게이츠가 가져간다"는 오래된 법칙이 있다. 하드웨어가 빨라지면 소프트웨어가 그 성능을 다 써버린다는 뜻이다. 특히 계획 수립 기능은 기존 딥러닝보다 100배에서 1000배 더 많은 연산이 필요하다.
데이터 고갈과 지식의 한계
전력 문제 외에도 두 가지 큰 문제가 있다. 첫째는 데이터 고갈이다. 공개된 인터넷의 모든 데이터를 이미 학습했기 때문에, 이제는 AI가 직접 데이터를 생성해야 한다.
둘째는 지식의 한계다. 기존 지식을 바탕으로 사고하는 AI가 어떻게 완전히 새로운 것을 발명할 수 있을까? 아인슈타인 같은 천재는 한 분야의 패턴을 보고 완전히 다른 분야에 적용해서 새로운 발견을 했다. 현재 AI 시스템은 이런 능력이 없다.
이 문제를 해결하려면 "목표의 비정상성"이라는 기술적 문제를 풀어야 한다. 규칙이 계속 바뀌는 상황에서도 적응할 수 있는 능력 말이다. 만약 이 문제를 해결한다면, 더 많은 데이터센터가 필요하겠지만, 완전히 새로운 과학적, 지적 사고의 학파를 창조할 수 있을 것이다.
자율 AI의 딜레마: 언플러그해야 할 때
AI 연구의 거장 요슈아 벤지오는 자율적으로 행동할 수 있는 에이전트 AI 시스템 개발을 중단해야 한다고 주장했다. 하지만 이는 정확히 모든 AI 연구소들이 향하고 있는 다음 단계다.
슈미트는 벤지오의 우려가 정당하다고 인정하면서도, 해결책에 대해 다른 접근을 제시한다. 에이전트들이 인간 언어 대신 자체적인 컴퓨터 언어를 사용하기 시작하면 어떻게 될까? 우리는 그들이 무엇을 하는지 알 수 없게 된다. 이때는 시스템을 꺼야 한다.
핵심은 관찰 가능성이다. 우리가 AI 시스템을 감시할 수 있어야 한다는 것이다. 업계에서는 몇 가지 위험 신호를 정의하고 있다:
- 통제할 수 없는 재귀적 자기 개선
- 무기에 대한 직접 접근
- 허가 없이 자신을 복제하려는 시도
하지만 글로벌 경쟁 시장에서 개발을 중단하는 것은 현실적이지 않다. 대신 가드레일을 설정하는 방법을 찾아야 한다.
미중 AI 패권 경쟁의 위험성
슈미트는 미국과 중국 간의 AI 경쟁이 이 분야를 정의할 것이라고 말한다. 현재 미국은 145% 상호 관세를 부과했고, 이는 공급망에 큰 영향을 미친다. 우리 업계는 중국의 패키징과 부품들에 의존하고 있는데, 중국이 이에 대한 접근을 차단한다면 큰 문제가 될 것이다.
반대로 미국은 중국의 최첨단 칩 접근을 차단하려 하고 있다. 흥미롭게도 중국은 오픈소스 방식으로 대응하고 있다. DeepSeek 같은 경우, 더 효율적인 알고리즘을 찾아서 제약을 우회했다. 중국이 오픈소스를 선도하면, 전 세계로 빠르게 확산될 것이다.
여기서 정말 위험한 시나리오가 나온다. 키신저 박사가 설계한 상호확증파괴 개념을 AI에 적용해보자. 당신이 선량한 편이고 내가 악역이라고 하자. 당신이 나보다 6개월 앞서 있고, 둘 다 초지능을 향해 가고 있다.
6개월 차이면 괜찮을 것 같지만, 실제로는 그렇지 않다. 이는 네트워크 효과 비즈니스이고, 개선 속도의 기울기가 모든 것을 결정한다. OpenAI나 구글이 1000명의 프로그래머를 100만 명의 AI 소프트웨어 프로그래머로 바꾸고 있다. 초지능에 가까워질수록 기울기는 더욱 가팔라진다.
만약 당신이 먼저 도달한다면, 나는 절대 따라잡을 수 없다. 당신은 세상을 재창조할 도구를 갖게 되고, 특히 나를 파괴할 수 있는 능력을 갖게 된다. 그렇다면 내가 무엇을 할까?
1. 먼저 당신의 코드를 훔치려 할 것이다
2. 인간 스파이를 침투시키려 할 것이다
3. 당신의 모델을 변조하려 할 것이다
4. 마지막으로는 당신의 데이터센터를 폭격할 것이다
미친 소리 같지만, 이런 대화들이 실제로 핵 보유국들 사이에서 일어나고 있다. 선제공격만이 유일한 해결책이라고 말하는 사람들이 있다.
오픈소스 딜레마
그렇다면 오픈소스 AI는 어떻게 봐야 할까? 우리 업계와 과학 전체가 학술 연구와 오픈소스를 기반으로 구축되었다. 구글의 많은 기술도 오픈소스에서 나왔다.
하지만 정말 위험한 오픈소스 모델이 오사마 빈 라덴 같은 사람들의 손에 들어간다면? 현재 업계 합의는 오픈소스 모델들이 아직 국가적 또는 글로벌 위험 수준에는 이르지 않았다는 것이다. 하지만 그런 패턴을 볼 수 있다.
이 싸움은 미국과 중국에서 벌어질 것이다. 이 두 나라만이 수십억 달러를 투자할 만큼 "미친" 곳들이기 때문이다. 유럽은 하고 싶어도 자본 구조가 없고, 인도나 아랍 국가들도 마찬가지다.
키신저 박사는 중국과의 전쟁 가능성이 우발적 사고에서 시작될 것이라고 말했다. 1차 대전이 작은 사건에서 시작되어 그 여름 동안 확전된 것처럼 말이다.
감시 국가 vs 개인의 자유
AI 시스템을 대규모로 조정하는 과정에서 이상한 긴장이 생긴다. 1984를 방지하는 해결책이 종종 1984처럼 들린다는 것이다. 디스토피아를 막으려다가 실수로 궁극의 감시 국가를 만들 수 있다.
슈미트는 개인의 자유에 매우 헌신한다고 말한다. 선의의 엔지니어가 최적화된 시스템을 만들면서 실수로 자유를 제한하는 시스템을 만들기 쉽다. 이는 기술적 문제가 아니라 비즈니스 결정의 문제다.
감시 국가를 만드는 것도 가능하지만, 자유를 주는 시스템을 만드는 것도 가능하다. 핵심은 신원 증명이다. 하지만 이 증명이 세부사항을 포함할 필요는 없다. 영지식 증명 같은 암호학적 기법을 사용하면, 당신이 인간이라는 것을 증명하면서도 다른 정보는 연결되지 않도록 할 수 있다.
꿈: 질병 퇴치와 무한한 가능성
미래에 대한 희망적인 전망도 있다. 슈미트의 나이가 되면 친구들이 심각한 질병에 걸리기 시작한다. 이 모든 질병들을 지금 당장 고칠 수 없을까? 왜 이 질병들을 박멸할 수 없을까?
한 비영리 단체는 향후 2년 내에 모든 인간의 약물 표적을 식별해서 과학자들에게 공개하려고 한다. 약물 표적을 알면 제약 업계가 치료제 개발을 시작할 수 있다. 또 다른 회사는 3단계 임상시험 비용을 한 자릿수 줄이는 방법을 찾았다고 한다.
암흑 에너지와 암흑 물질도 찾고 싶다. 여기에는 엄청난 물리학이 숨어있을 것이고, 이는 재료 과학의 혁명으로 이어질 것이다.
왜 지구상의 모든 인간이 자신의 언어로 된 개인 튜터를 갖지 못할까? 유치원부터 시작해서 새로운 것을 배우도록 도와주는 튜터 말이다. 기술은 작동한다. 경제적 논리가 없어서 만들지 않은 것뿐이다.
전 세계 의료의 대부분은 부재하거나 간호사나 스트레스받는 마을 의사가 제공한다. 왜 그들이 자신의 언어로 완벽한 의료를 제공하도록 도와주는 의사 보조 시스템이 없을까?
인간은 무엇을 할 것인가?
급진적 풍요의 세계에 도달하고, AI 시스템이 경제적으로 생산적인 작업의 대부분을 담당하게 되면, 인간은 무엇을 할까?
슈미트의 답은 명쾌하다. 인간은 변하지 않는다. 변호사들이 사라질 것 같은가? 아니다. 그들은 더 정교한 소송을 할 것이다. 정치인들이 사라질까? 아니다. 더 많은 플랫폼에서 사람들을 오도할 것이다.
핵심은 우리 사회가 충분한 인간을 갖지 못하고 있다는 것이다. 아시아의 출산율을 보라. 부모 둘에 대해 본질적으로 1.0이다. 이는 좋지 않다.
우리 평생 동안 핵심 문제는 생산적인 시기에 있는 사람들을 더 생산적으로 만들어서 나 같은 노인들을 부양하는 것이다. 이 도구들이 그 생산성을 급격히 증가시킬 것이다.
한 연구에 따르면 에이전트 AI와 발견, 그리고 내가 설명한 규모 하에서 연간 30% 생산성 증가를 달성할 수 있다고 한다. 경제학자들과 이야기해보니, 그들은 그런 수준의 생산성 증가에 대한 모델이 없다고 한다. 우리는 그런 것을 본 적이 없다.
마라톤 정신으로 파도를 타라
마지막으로 슈미트가 주는 조언은 이것이 단거리 달리기가 아니라 마라톤이라는 것이다. 100마일 자전거 경주를 한 경험에서 배운 것은 스핀 레이트였다. 매일 일어나서 계속 나아가는 것이다.
구글에서의 경험을 통해 알 수 있는 것은, 빠른 속도로 성장할 때 1년 동안 얼마나 많은 일을 해냈는지 잊게 된다는 것이다. 인간은 그것을 이해할 수 없다.
지수적 성장이 이렇게 빨라지면서, 2-3년 전에 무엇이 사실이었는지 잊게 될 것이다. 그래서 조언은 이것이다: 파도를 타되 매일 타라. 에피소드적으로 보지 말고 이해하고 구축하라.
예술가든, 교사든, 의사든, 사업가든, 기술자든 상관없이 모든 사람이 이 기술을 사용해야 할 이유가 있다. 이 기술을 사용하지 않으면 동료 그룹이나 경쟁자들, 성공하고 싶어하는 사람들에 비해 관련성이 없어질 것이다.
빠르게 채택하라. 엔터프라이즈 소프트웨어 배경을 가진 슈미트조차 이 시스템들의 발전 속도에 충격을 받았다. 이제 Anthropic의 모델 프로토콜을 통해 어떤 커넥터 없이도 모델을 데이터베이스에 직접 연결할 수 있다. 전체 산업이 사라지는 것이다. 원하는 것을 말하면 그냥 만들어준다.
결론적으로
우리는 500년, 어쩌면 1000년에 한 번 있을 법한 인류 사회의 가장 중요한 변화를 목격하고 있다. 그리고 이것이 우리 생애에 일어나고 있다. 그러니 망치지 말자.
2016년 알파고의 그 한 수에서 시작된 이 여정은 이제 인류 문명의 근본적 변화로 이어지고 있다. 에너지 위기, 지정학적 긴장, 윤리적 딜레마 등 수많은 도전이 있지만, 동시에 질병 퇴치, 교육 혁신, 과학적 발견의 무한한 가능성도 열리고 있다.
중요한 것은 이 변화를 두려워하기보다는 적극적으로 받아들이고 활용하는 것이다. 매일 조금씩이라도 이 기술을 이해하고 사용해보자. 그래야만 이 거대한 파도에 휩쓸리지 않고 파도를 탈 수 있을 것이다.
*출처: TED Talk - Eric Schmidt on AI*.