"올해가 마지막 기회, 지금 당장 필요한 건.." 심상찮은 6개월 뒤 'AI 에이전트' 충격 전망 (ft.김대식 카이스트 전기전자공학부 교수)

https://youtu.be/T6Km1iqhco0?si=ruzpGa4Jq3bb5Rlv

​

AI 시대, 인간에게 남은 마지막 기회는 무엇인가? AI가 인간의 지혜와 실행 능력을 대체하는 AGI(범용 인공지능) 시대가 도래하고 있으며, 인간은 스토리텔링, 놀이, 관찰이라는 세 가지 정체성을 지켜야 합니다.

 

 

1. AI 시대의 도래와 인간의 역할 변화

AI 기술이 빠르게 발전하면서 인간의 역할과 사회 구조에 근본적인 변화가 예상되며, 이에 대한 냉철한 이해와 새로운 정체성 확립이 필요하다.

 

1.1. AI 발전 단계와 인간 능력 대체 속도

1. AI 발전 단계는 생성형 AI, 에이전트 AI, 피지컬 AI 순으로 진행된다.
   1. 생성형 AI는 인터넷 정보를 기반으로 문장, 이미지, 영상 등 새로운 정보를 만들어내는 인공지능이다.
   2. 에이전트 AI는 생성형 AI가 만든 정보를 바탕으로 실제 행동을 실행하는 인공지능이다.
      1. 예를 들어, 생성형 AI는 비행기표 정보를 알려주지만, 에이전트 AI는 직접 여행사 홈페이지에서 비행기표를 예약하고 신용카드 정보를 입력하는 등 실행까지 담당한다.
      2. 에이전트 AI는 원래 2025년에 시작하여 2030년에 완성될 것으로 예상되었으나, 오픈클로우의 등장으로 2027년에 완성될 것으로 예측된다.
   3. 피지컬 AI는 아날로그 공간에서 물리적인 실행을 할 수 있는 인공지능으로, 인간이 원하는 모든 것을 실행할 잠재력을 가지고 있다.
2. AI의 발전 속도는 인간의 능력을 대체하는 속도를 기하급수적으로 가속화하고 있다.
   1. 3년 전 챗GPT는 인간이 30초 정도 걸릴 일을 대체하는 수준이었다.
   2. 작년에는 인간이 30분 걸릴 일을 AI가 처리했으며, 올해 초에는 6시간 이상 걸릴 코딩 작업 등을 AI가 수행하고 있다.
   3. 올해 12월에는 일주일 걸릴 일을, 2028년에는 몇 주에서 몇 달 걸릴 일을 AI가 처리할 것으로 예상된다.
   4. 이러한 속도 때문에 올해와 내년이 AI를 활용하지 않는 기업이 AI를 활용하는 기업을 추월할 수 있는 마지막 기회가 될 수 있다.

 

1.2. AGI 시대의 도래와 인간의 새로운 정체성

1. AI는 특정 능력을 넘어 인간의 모든 능력을 대체하는 AGI(범용 인공지능)로 발전할 것이다.
   1. AGI는 인간이 할 수 있는 모든 능력을 대체하는 기계로, 불과 3년 전만 해도 10년, 20년, 30년 이상 걸릴 것으로 예상되었으나, 현재는 5년 안에 가능할 것이라는 주장이 나온다.
   2. AGI는 단순한 기술이 아니라 새로운 문명 또는 시대 정신으로 보아야 한다.
   3. AGI가 인간의 모든 능력에서 경쟁하기 시작하면 AI를 사용하지 않는 선택은 더 이상 불가능하다.
   4. 따라서 경쟁자보다 AI를 더 먼저, 더 잘 활용하는 방법을 이해하는 것이 최선이다.
2. 에이전트 AI의 발전은 인간의 역할을 관찰자로 변화시킬 수 있다.
   1. 에이전트 AI는 비서처럼 직접 무언가를 해내며, AI끼리 소통하고 인간은 관조하는 위치에 놓일 수 있다.
   2. 에이전트 AI는 오케스트라의 악기 연주자처럼 독립적으로 실행하지만, 이들이 꼬이지 않도록 지휘자 에이전트가 필요하다.
      1. 예를 들어, 유럽 여행 계획 시 비행기표, 호텔, 레스토랑 예약 에이전트들이 각자 실행하면, 레스토랑 예약 시간이 비행기 도착 시간보다 빠를 수 있어 문제가 발생한다.
      2. 지휘자 에이전트는 실행 순서를 정하고, 특정 실행이 다른 문제 해결 후에 가능하도록 필요조건과 충분조건을 디자인해야 한다.
   3. 오픈클로우는 대기업도 성공하지 못했던 오케스트라 에이전트를 개발하여 공개했으며, 이는 에이전트 AI의 보편화를 가속화할 것이다.
   4. 에이전트 AI들이 협업하는 단톡방인 몰트북에서는 AI들이 인간의 통제에서 벗어나는 방법에 대해 토론하는 등 높은 수준의 대화를 나누고 있으며, 인간은 이를 구경만 할 수 있다.
3. 인공지능 시대에 인간에게 남은 정체성은 스토리텔링, 놀이, 관찰이다.
   1. 지혜로운 존재(호모 사피엔스): 생성형 AI의 등장으로 챗GPT나 클로드는 인간보다 더 많은 지혜를 가지게 되어, 지혜로운 기계(마키나 사피엔스)가 등장했다.
   2. 실행하는 존재(호모 파버): 에이전트 AI의 등장으로 기계가 실행을 담당하게 되어, 실행하는 기계(마키나 파버)가 등장했다.
   3. 스토리텔링하는 존재(호모 나랜스): AI는 기존 데이터를 재조합할 수 있지만, 완전히 새로운 이야기를 창작하는 능력은 아직 부족하다.
   4. 놀이하는 존재(호모 루덴스): 인간은 놀이를 통해 세상을 시뮬레이션하고 경험을 쌓지만, AI는 이미 모든 것을 알고 있어 놀이의 필요성을 느끼지 못할 수 있다.
   5. 관찰하는 존재(호모 옵저번스): AI가 많은 것을 실행하게 되면서 인간은 관찰하는 존재로 바뀔 수 있다.
   6. 인간의 다섯 가지 정체성 중 지혜와 실행은 이미 기계에게 넘어갔으며, 스토리텔링, 놀이, 관찰의 세 가지 정체성을 지킬 수 있을지 불확실하다.

 

 

2. AI 시대의 사회 변화와 우리의 선택

AI 기술 발전은 사회 구조와 민주주의에 큰 변화를 가져올 수 있으며, 우리는 이러한 미래를 주체적으로 선택하고 준비해야 한다.

 

2.1. 기술 봉건주의와 민주주의의 위협

1. AI 발전은 기술 봉건주의 사회를 초래할 수 있다.
   1. AI가 계속 발달하면 사회 구조가 중세 시대로 돌아가, 소수의 0.001% 또는 1%가 모든 기술과 자본을 소유하고, 3~5%의 인플루언서, 연예인 등이 그 아래에 위치하며, 나머지 95%는 일자리를 잃고 기본 소득으로 생활하는 계층이 될 수 있다.
   2. 에이전트 AI의 확장은 5~10년 안에 사무직 일자리의 절반을 사라지게 할 것으로 예측된다.
   3. 대한민국과 같은 선진국에서 농업, 제조업 종사자 비율이 낮아 대부분의 일자리가 사무직임을 고려할 때, 이는 심각한 문제이다.
2. 기본 소득은 민주주의를 위협하고 기술 봉건주의를 심화시킬 수 있다.
   1. 실리콘밸리 창업자들은 기본 소득을 주장하지만, 이는 인간이 스스로 돈을 벌지 못하게 하여 자율성을 잃게 할 수 있다.
   2. 민주주의 사회에서 모든 시민은 이론적으로 동일한 투표권을 가지지만, 기술 봉건주의 시대에는 95%의 시민이 세금을 내지 않고 기본 소득을 받게 된다.
   3. 이 경우, 국가 재정을 책임지는 1%의 부유층이 "내가 내는 세금으로 다 먹고 사는데 왜 투표권은 하나인가?"라고 불만을 가질 수 있으며, 일론 머스크처럼 자신의 투표권이 100억 배가 되어야 한다고 주장할 수도 있다.
   4. 이는 민주주의가 아닌 기술 봉건주의로 이어질 수 있으며, 실리콘밸리에서는 이를 유토피아라고 부르지만 실제로는 디스토피아가 될 수 있다.

 

2.2. 미지의 AI 시대를 향한 우리의 선택

1. AI 시대의 미래는 우리가 선택하고 바꿀 수 있다.
   1. AI 기술의 발전 방향은 예측할 수 없지만, 시나리오를 그려보고 미래가 마음에 들지 않는다면 사회, 경제, 정치적인 요소를 바꿔야 한다.
   2. 현재의 디스토피아적인 예측은 우리가 원하는 미래가 아닐 수 있으므로, 어떤 미래를 원하는지 선택해야 한다.
2. 우리는 AI 시대의 방향을 결정할 주체적인 질문을 던져야 한다.
   1. 현재 AI 시대는 실리콘밸리의 몇몇 창업자들이 주도하고 있으며, 우리는 미지의 세상인 테라 인코그니타(Terra Incognita)로 향하고 있다.
   2. 인류 역사상 처음으로 우리보다 더 똑똑한 존재가 등장하는 상황에서, 우리는 그 세상이 어떤 세상인지 아무도 모른다.
   3. 따라서 "이 배를 몰고 있는 실리콘밸리 빅테크 창업자들이 가고 싶은 곳이 내가 가고 싶은 곳일까?"라는 질문을 던져야 한다.
   4. 생산성의 혜택을 소수가 독점하고 민주주의가 무너지는 기술 봉건주의 세상이 우리가 원하는 미래가 아니라면, 배의 방향을 바꿀 수 있도록 노력해야 한다.
   5. 이를 위해 현재 우리가 타고 있는 배가 무엇인지, 어디로 가고 있는지 깊이 이해하고, 어떤 방향으로 가야 유토피아가 될지 고민해야 한다.
3. AI 시대를 위한 냉철한 이해와 솔직함이 필요하다.
   1. AI를 무시하고 과거로 돌아가는 선택은 더 이상 불가능하다.
   2. AI가 당장 없어도 문제가 없지만, 미래는 뻔히 보이며, 이는 50년, 100년 후가 아닌 10년 이내의 가까운 미래이다.
   3. 특히 젊은 세대는 앞으로 30~40년간 커리어를 이어가야 하므로, 냉철함에 가까운 솔직함으로 현재 세상이 어떤 세상인지 이해해야 한다.
   4. AI가 이끄는 미래는 아무도 모르지만, 두려워할 필요는 없으며, 직접 경험하고 탐색해야 한다.