계획과 전략의 새로운 차원
최근 AI 기술의 발전을 보면 정말 놀라운 변화가 일어나고 있다. OpenAI의 o3나 DeepSeek R1 같은 모델들을 보면, 이들이 어떻게 앞으로 갔다가 뒤로 갔다가를 반복하면서 계획을 세우는지 볼 수 있다. 이건 정말 놀라운 일이다.
에릭 슈미트는 자신이 로켓 회사를 산 이유를 "흥미로워서"라고 말한다. 전문가가 아닌 분야에서 전문가가 되고 싶어서 말이다. 이런 계획과 전략이 바로 AI의 핵심이다.
궁극적으로는 컴퓨터가 모든 비즈니스 프로세스를 운영하게 될 것이다. 이것을 하는 에이전트, 저것을 하는 에이전트들이 서로 연결되어 영어로 대화하면서 일을 처리하게 된다는 것이다.
전력 문제: AI 시대의 가장 큰 도전
하지만 이런 시스템들의 컴퓨팅 요구사항을 생각해보면 정말 어마어마하다. 미국에서만 90GW의 전력이 필요하다고 한다. 이는 90개의 원자력 발전소에 해당하는 양이다. 하지만 미국은 현재 원자력 발전소를 하나도 짓지 않고 있다.
슈미트는 "캐나다를 생각해보라"고 말한다. 좋은 사람들에 수력발전이 풍부한 나라라고. 하지만 지금 정치적 분위기로는 그것도 쉽지 않아 보인다.
아랍 세계는 5-10GW 규모의 데이터센터를 건설하고 있고, 인도는 10GW 데이터센터를 고려하고 있다. GW가 얼마나 큰 규모인지 이해하려면 "데이터센터당 도시 하나"라고 생각하면 된다. 그만큼 많은 전력이 필요하다는 뜻이다.
사람들은 알고리즘 개선으로 전력 사용량이 줄어들 것이라고 말하지만, 오래된 법칙이 있다. "그로브가 주면 게이츠가 가져간다." 하드웨어가 빨라질수록 소프트웨어는 그것을 다 써버린다는 뜻이다.
계획 알고리즘만 봐도 기존 딥러닝에서 강화학습으로, 그리고 테스트 타임 컴퓨트로 발전하면서 계산량이 최소 100배, 어쩌면 1000배까지 늘어날 것으로 예상된다.
데이터 고갈과 지식의 한계
전력과 하드웨어 문제가 첫 번째라면, 두 번째 문제는 데이터 부족이다. 이제 데이터를 생성해야 하는데, 다행히 이는 AI의 기능 중 하나이기 때문에 쉽게 해결할 수 있다.
하지만 세 번째 문제가 더 흥미롭다. 지식의 한계는 무엇일까? 전 세계의 모든 컴퓨터가 함께 생각한다고 상상해보자. 기존에 발명된 지식을 바탕으로 생각하는데, 어떻게 완전히 새로운 것을 발명할 수 있을까?
아인슈타인을 예로 들어보자. 과학적 발견이 어떻게 이루어지는지 보면, 정말 뛰어난 인간이 한 분야를 보다가 완전히 다른 분야에서 같은 패턴을 발견한다. 전혀 관련 없어 보이는 두 분야에서 같은 패턴을 찾아내고, 한 분야의 도구를 다른 분야에 적용하는 것이다.
현재 우리 시스템은 이런 일을 할 수 없다. 이 문제를 해결할 수 있다면 - 이를 기술적으로는 "목표의 비정상성"이라고 부른다 - 더 많은 데이터센터가 필요하겠지만, 완전히 새로운 과학적, 지적 사고의 학파를 발명할 수 있게 될 것이다.
자율 AI의 딜레마
조슈아 벤지오는 최근 자율적 행동이 가능한 에이전트 AI 시스템 개발을 중단해야 한다고 주장했다. 하지만 이것이 바로 모든 AI 연구소들이 향하고 있는 다음 프론티어다.
슈미트는 벤지오를 "우리가 논의하는 많은 것들의 뛰어난 발명가이자 좋은 개인적 친구"라고 부르며, 그의 우려가 매우 정당하다고 인정한다. 하지만 문제는 우려가 맞느냐가 아니라 해결책이 무엇이냐는 것이다.
에이전트를 생각해보자. 청중의 모든 사람이 에이전트다. 영어나 다른 언어로 입력을 받고, 영어로 출력하며, 모든 인간이 그렇듯 기억을 가지고 있다. 그런데 갑자기 여러분 중 한 명이 인간 언어를 사용하는 것보다 자체 컴퓨터 언어를 발명하는 것이 더 효율적이라고 결정한다면?
우리는 그저 지켜보면서 "이제 어떻게 해야 하지?"라고 말할 것이다. 정답은 전원을 뽑는 것이다. 그들이 무엇을 하고 있는지 알 수 없기 때문이다. 정말 나쁜 일을 할 수도 있고, 정말 놀라운 일을 할 수도 있다. 우리는 지켜볼 수 있어야 한다.
업계에서는 "전원을 뽑아야" 하는 기준점들이 있다고 본다. 하나는 통제할 수 없는 재귀적 자기개선이다. 컴퓨터가 스스로 학습하는데 무엇을 학습하는지 모르는 상황 말이다. 또 다른 하나는 무기에 직접 접근하는 것이고, 컴퓨터 시스템이 우리 허락 없이 스스로를 복제하기로 결정하는 것도 마찬가지다.
하지만 전 세계적으로 경쟁이 치열한 시장에서 개발을 중단하는 것은 실제로 작동하지 않는다. 에이전트 작업을 중단하는 대신, 가드레일을 설정하는 방법을 찾아야 한다.
이중 사용 기술의 윤리적 딜레마
이 기술의 가장 큰 문제 중 하나는 민간과 군사 용도 모두에 적용 가능한 이중 사용 특성이다. 슈미트는 많은 군사 작업을 해왔고 지금도 계속하고 있다고 말한다.
미군에는 3000.09라는 규칙이 있는데, 일반적으로 "인간이 루프에 있어야 한다" 또는 "의미 있는 인간 통제"라고 알려져 있다. 우리 통제 하에 있지 않은 시스템은 원하지 않는다는 것이다. 이는 넘어서는 안 될 선이다.
서구, 특히 미국과 중국 간의 경쟁이 이 분야에서 결정적일 것이다. 현 정부는 본질적으로 145%의 상호 관세를 부과했다. 이는 공급망에 큰 영향을 미친다. 우리 업계는 중국의 포장재와 부품들에 의존하고 있는데, 이들은 지루해 보이지만 컴퓨터의 일부인 작은 포장재와 접착제 같은 것들로 매우 중요하다.
중국이 이들에 대한 접근을 거부한다면 큰 문제가 될 것이다. 우리는 그들의 최첨단 칩 접근을 거부하려 하고 있고, 그들은 이에 대해 매우 화가 나 있다.
키신저 박사는 슈미트와 크레이그에게 중국과의 트랙 투 대화를 요청했고, 그들과 대화를 나누고 있다. 가장 중요한 이슈가 바로 이 문제다.
DeepSeek을 보면 정말 인상적인데, 그들은 더 효율적으로 만들어서 문제를 해결하는 알고리즘을 찾아냈다. 중국이 모든 것을 오픈소스, 오픈 웨이트로 하고 있기 때문에, 우리는 즉시 그들의 발명의 혜택을 받아 미국 시스템에 채택했다.
지금 우리는 매우 불안정한 상황에 있다. 미국은 여러 좋은 이유로 대부분 폐쇄형 모델을 추진하고 있고, 매우 좋은 통제 하에 있다. 중국은 무언가 변하지 않는 한 오픈소스의 리더가 될 가능성이 높고, 오픈소스는 전 세계로 매우 빠르게 확산된다.
이런 확산은 사이버와 생물학적 수준에서 위험하다. 하지만 더 중요한 방식으로, 핵 위협 방식으로도 위험하다.
초지능 경쟁의 위험한 게임
키신저 박사는 상호확증파괴와 억제의 설계자 중 한 명이었다. 지금 일어나고 있는 상황을 예를 들어 설명해보자.
당신이 선한 사람이고 나는 악한 사람이다. 당신은 나보다 6개월 앞서 있고, 우리 둘 다 초지능을 향한 같은 길에 있다. 당신이 먼저 도달할 것이다. 나는 6개월 뒤처져 있다. 꽤 좋은 상황 같지 않나?
아니다. 이들은 네트워크 효과 비즈니스다. 네트워크 효과 비즈니스에서는 개선의 기울기가 모든 것을 결정한다. OpenAI나 Gemini는 천 명의 프로그래머를 가지고 있다. 그들은 백만 명의 AI 소프트웨어 프로그래머를 만드는 과정에 있다.
이것이 무엇을 의미하는가? 첫째, 전기 외에는 먹일 필요가 없다. 둘째, 그들은 그만두지 않는다. 기울기가 이렇게 올라간다. 초지능에 가까워질수록 기울기는 더욱 가팔라진다.
당신이 먼저 도달한다면, 나는 절대 당신을 따라잡을 수 없다. 당신은 세상을 재발명할 도구를 갖게 되고, 특히 나를 파괴할 수 있게 된다. 악역인 내 뇌는 그렇게 생각할 것이다.
그럼 나는 무엇을 할까? 첫 번째로 당신의 모든 코드를 훔치려 할 것이다. 당신이 선하기 때문에 그것을 막았다. 두 번째로 인간을 침투시키려 할 것이다. 당신은 그에 대한 좋은 보호책을 가지고 있다. 스파이는 없다.
그럼 무엇을 할까? 들어가서 당신의 모델을 바꿀 것이다. 수정해서 실제로 당신을 망쳐서 내가 하루 앞서게 만들 것이다. 당신이 너무 훌륭해서 그것도 할 수 없다면? 다음 선택은 당신의 데이터센터를 폭격하는 것이다.
내가 미쳤다고 생각하는가? 이런 대화들이 오늘날 우리 세계의 핵 상대들 사이에서 일어나고 있다. 정당한 사람들이 이 문제의 유일한 해결책은 선제공격이라고 말하고 있다.
내가 방금 말한 것은 선한 당신이 전 세계를 통제할 열쇠를 갖게 된다는 것이다. 경제적 지배, 혁신, 감시, 당신이 관심 있는 모든 것에서 말이다. 나는 그것을 막아야 한다.
우리 사회에는 이에 대한 언어가 없다. 외교정책 담당자들은 이에 대해 생각해보지 않았다. 그리고 이것이 다가오고 있다. 언제? 아마 5년 후. 우리에게는 시간이 있다. 이 대화를 위한 시간이 있다.
오픈소스 AI의 딜레마
슈미트는 미국이 오픈소스 AI를 받아들여야 한다고 말했지만, 중국의 DeepSeek이 훨씬 적은 컴퓨팅으로 무엇이 가능한지 보여준 후에도 그런가? 오픈소스 모델이 적들에게 능력을 넘겨주어 그들의 타임라인을 가속화하지 않을까?
이는 가장 어려운 문제 중 하나다. 우리 업계, 과학, 우리가 구축한 세상의 모든 것은 학술 연구와 오픈소스를 기반으로 한다. 구글 기술의 많은 부분이 오픈소스를 기반으로 했다. 구글 기술 중 일부는 오픈소스이고, 일부는 독점적이다. 완전히 정당하다.
정말 위험한 오픈소스 모델이 오사마 빈 라덴 같은 사람들의 손에 들어간다면 어떻게 될까? 불행히도 그런 사람이 한 명 이상 있다는 것을 우리는 안다.
업계의 현재 합의는 오픈소스 모델이 아직 국가적 또는 전 세계적 위험 수준에 이르지 않았다는 것이다. 하지만 그런 지점에 도달할 수 있는 패턴을 볼 수 있다.
많은 것이 미국과 중국, 그리고 양국의 기업들이 내리는 핵심 결정에 달려 있다. 미국과 중국에 집중하는 이유는 이 새로운 비전을 구축하는 데 필요한 수십억 달러를 쓸 만큼 미친 나라가 이 두 나라뿐이기 때문이다.
유럽은 그렇게 하고 싶어하지만 그럴 자본 구조가 없다. 인도를 포함한 대부분의 다른 나라들도 원하지만 그럴 자본 구조가 없다. 아랍인들도 그럴 자본 구조가 없지만 노력하고 있다.
이 싸움, 이 전투가 결정적인 전투가 될 것이다. 키신저 박사는 중국과의 전쟁으로 가는 가능성 있는 길은 사고에 의한 것이라고 말했다. 그는 1차 대전의 학생이었다. 1차 대전은 작은 사건으로 시작되어 1914년 여름 동안 확대되었고, 그 후 끔찍한 대화재가 일어났다.
내가 말하는 것과 같은 일련의 단계들이 끔찍한 전 세계적 결과로 이어질 수 있다고 상상할 수 있다. 그래서 우리가 주의를 기울여야 하는 것이다.
감시와 자유의 균형
AI 시스템을 대규모로 조절하는 것에는 이상한 긴장이 있다. AI 안전에서 1984를 방지하는 해결책이 종종 1984처럼 들린다는 것이다. 디스토피아를 방지하려다가 실수로 궁극의 감시 국가를 구축하게 될 수도 있다.
우리 사회의 가치를 고수하는 것이 정말 중요하다. 슈미트는 개인의 자유에 매우 헌신하고 있다고 말한다. 선의의 엔지니어가 최적화하고 자유를 제한하는 시스템을 구축하는 것은 매우 쉽다. 따라서 인간의 자유가 이 과정에서 보존되는 것이 매우 중요하다.
이런 것들 중 많은 부분이 기술적 문제가 아니라 실제로는 비즈니스 결정이다. 감시 국가를 구축하는 것도 가능하지만, 자유롭게 하는 것을 구축하는 것도 가능하다.
신원 증명이 정말 필요하지만, 신원 증명이 세부사항을 포함할 필요는 없다. 예를 들어, 당신이 인간이라는 암호화 증명을 가질 수 있고, 다른 것 없이도 실제로 참일 수 있으며, 다양한 암호화 기법을 사용해서 다른 것들과 연결할 수 없게 만들 수도 있다. 영지식 증명 같은 기법들이 가장 명백한 예다.
꿈과 희망: AI가 가져올 긍정적 변화
키신저와 함께 쓴 책 『Genesis』에서 슈미트는 조심스럽게 낙관적인 톤을 취했다. 미래를 내다볼 때 우리 모두가 기대해야 할 것은 무엇일까?
슈미트는 자신의 나이에 친구들 중 일부가 정말 무서운 질병에 걸리고 있다고 말한다. 이제 그것을 고칠 수 있지 않을까? 이런 질병들을 그냥 제거할 수 없을까? 지금 당장 이런 것들을 근절할 수 없을까? 그것은 꽤 좋은 목표다.
한 비영리 단체는 앞으로 2년 안에 모든 인간의 약물 표적을 식별해서 과학자들에게 공개하려고 한다고 한다. 약물 표적을 알면 제약 업계가 작업을 시작할 수 있다. 또 다른 회사는 3단계 임상시험 비용을 한 자릿수 줄이는 방법을 알아냈다고 주장한다. 이런 것들이 궁극적으로 약물의 비용 구조를 결정하는 것들이다.
또 다른 예로, 암흑 에너지가 어디 있는지 알고 싶고 찾고 싶다. 암흑 에너지와 암흑 물질에는 엄청난 양의 물리학이 있을 것이라고 확신한다. 재료 과학의 혁명을 생각해보라. 무한히 더 강력한 교통수단, 무한히 더 강력한 과학 등등.
또 다른 예를 들어보자. 왜 지구상의 모든 인간이 유치원부터 시작해서 새로운 것을 배우는 데 도움이 되는 자신만의 언어로 된 자신만의 튜터를 갖지 못하는가? 명백한 일이다. 왜 우리는 그것을 만들지 않았을까? 유일한 가능한 답은 좋은 경제적 논거가 없었기 때문일 것이다. 기술은 작동한다. 그들의 언어로 가르치고, 학습을 게임화하고, 사람들을 최고의 자연어로 이끌어라.
전 세계 의료의 대부분은 부재하거나 간호사 수준의 의료진과 매우 스트레스받는 지역 마을 의사들에 의해 제공된다. 왜 그들은 그들의 언어로 완벽한 의료로 무엇이든 치료하는 데 도움이 되는 의사 보조원을 갖지 못하는가?
계속 말할 수 있다. 디지털 세상에는 많은 문제들이 있다. 우리 모두가 바다의 각자 배에 있으면서 서로 대화하지 않는 것 같다. 연결과 접촉에 대한 갈망 속에서 이런 도구들이 우리를 더 외롭게 만든다. 우리는 그것을 고쳐야 한다.
하지만 이들은 고칠 수 있는 문제들이다. 새로운 물리학이 필요하지 않다. 새로운 발견이 필요하지 않다. 우리가 결정하기만 하면 된다.
인류 역사상 가장 중요한 순간
이 미래를 볼 때 명확히 하고 싶은 것은, AI 수준에서의 지능, 일반 지능인 AGI, 그리고 초지능의 도래가 인간 사회에서 약 500년, 어쩌면 1000년 만에 일어날 가장 중요한 일이라는 것이다. 그리고 그것이 우리 생애에 일어나고 있다.
그러니 망치지 말자.
망치지 않는다고 가정해보자. 급진적 풍요의 세계에 들어간다고 가정해보자. 재귀적 자기개선의 지점에 도달한다고 가정해보자. AI 시스템이 경제적으로 생산적인 작업의 대부분을 맡게 된다면, 인간은 이 미래에서 무엇을 할 것인가?
인간은 이 놀라운 발견 속에서도 변하지 않는다. 정말로 변호사들을 없앨 것이라고 생각하는가? 아니다. 그들은 그냥 더 정교한 소송을 할 것이다. 정말로 정치인들을 없앨 것이라고 생각하는가? 아니다. 그들은 그냥 당신을 오도할 더 많은 플랫폼을 갖게 될 것이다.
이 새로운 경제학에 대해 이해해야 할 핵심은 사회 전체적으로 충분한 인간을 갖지 못하고 있다는 것이다. 아시아의 출산율을 보라. 부모 둘에 대해 본질적으로 1.0이다. 이는 좋지 않다.
우리 남은 생애 동안 핵심 문제는 생산적인 시기에 있는 사람들을 더 생산적으로 만들어서 나 같은 늙은 사람들을 지원하는 것이 될 것이다. 젊은 사람들로부터 더 많은 것을 원한다고 불평할 늙은 사람들 말이다. 그렇게 작동할 것이다.
이런 도구들이 그 생산성을 급격히 증가시킬 것이다. 에이전트 AI와 발견, 그리고 내가 설명하는 규모에 대한 가정들 하에서 연간 약 30%의 생산성 증가를 얻게 될 것이라는 연구가 있다.
여러 경제학자들과 이야기해봤는데, 그들은 그런 종류의 생산성 증가가 어떤 모습일지에 대한 모델을 갖고 있지 않다. 우리는 그런 것을 본 적이 없다. 우리 역사상 어떤 민주주의나 왕국의 부상에서도 일어나지 않았다. 무엇이 일어날지 믿을 수 없을 정도다.
마라톤, 스프린트가 아닌
수십 년간의 기술 변화를 헤쳐온 슈미트가 이 AI 전환을 헤쳐나가는 모든 사람들 - 기술자, 리더, 흥분과 불안이 뒤섞인 시민들 - 에게 주는 조언은 무엇일까?
기억해야 할 한 가지는 이것이 스프린트가 아니라 마라톤이라는 것이다. 한 해에 100마일 자전거 경주를 하기로 결정했는데, 이는 실수였다. 회전율에 대해 배웠다. 매일 일어나서 계속 나아가기만 하면 된다.
구글에서의 공동 작업을 통해 알 수 있듯이, 우리가 성장하는 속도로 성장할 때 1년에 엄청나게 많은 일을 해낸다. 얼마나 멀리 갔는지 잊어버린다. 인간은 그것을 이해할 수 없다.
우리는 지수가 이렇게 움직이는 상황에 있다. 이런 일들이 더 빨리 일어나기 때문에, 2년 전이나 3년 전에 무엇이 사실이었는지 잊어버릴 것이다. 그것이 핵심이다.
모든 사람에게 주는 조언은 파도를 타되 매일 타라는 것이다. 그것을 일화적으로 보지 말고, 이해하고 그 위에 구축할 수 있는 것으로 보라.
여러분 각자에게는 이 기술을 사용할 이유가 있다. 예술가든, 교사든, 의사든, 사업가든, 기술자든, 이 기술을 사용하지 않는다면 동료 그룹과 경쟁자들, 그리고 성공하고 싶어하는 사람들에 비해 관련성이 없어질 것이다.
이를 채택하고 빠르게 채택하라. 엔터프라이즈 소프트웨어가 배경인 슈미트는 이런 시스템들이 얼마나 빠른지에 충격을 받았다고 한다. 요즘에는 Anthropic의 모델 프로토콜이 있다. 실제로 커넥터 없이 모델을 데이터베이스에 직접 연결할 수 있다. 이게 너드 같은 소리로 들릴지 모르지만, 거기에는 전체 산업이 있는데 이런 유연성 때문에 사라진다.
이제 원하는 것을 말하기만 하면 그것을 만들어낸다. 이것이 비즈니스의 실제 변화의 예다. 이런 것들이 매일 너무 많이 나오고 있다.
우리는 정말 놀라운 시대를 살고 있다. AI가 가져올 변화는 인류 역사상 가장 중요한 변화 중 하나가 될 것이다. 이 기술을 올바르게 활용한다면, 질병을 근절하고, 새로운 과학을 발견하고, 모든 사람에게 개인 튜터를 제공하고, 완벽한 의료 서비스를 제공할 수 있을 것이다.
하지만 동시에 전력 문제, 데이터 부족, 지식의 한계, 그리고 무엇보다 국가 간 경쟁과 안전 문제라는 거대한 도전들이 기다리고 있다. 이 모든 것을 현명하게 헤쳐나가는 것이 우리 세대의 가장 중요한 과제가 될 것이다.
결국 이것은 마라톤이다. 매일 조금씩 나아가면서, 이 놀라운 기술의 파도를 타되, 인간의 가치와 자유를 잃지 않으면서 타야 한다. 그리고 무엇보다 이 기술을 적극적으로 받아들이고 활용해야 한다. 그렇지 않으면 뒤처질 수밖에 없기 때문이다.