유발하라리 AI시대 인간의 길 변화에 유연하라

 

유발하라리 250413내한 강연

 

8년만에 내한한 역사학자이며 철학자인 유발하라리 강연입니다.

 

 

 

지금 전 세계가 격동의 시대를 맞고 있죠. 이런 혼란은 한국만의 문제가 아닙니다.

불행하게도 혼란이 더욱 악화되고 있는 것 같아요

어쩌면 2020년대 초가 정말 평화로운 시기였다고 기억될 듯해요. 폭풍전야였다고 말이죠

 

 

<질문> 트럼프 2기 정부 혁신을 맡은 도지(DOGE-Deparment Of Government Effciency):정부효율부

공동수장 일론머스트 주도로 연방정보 공무원 대량 해고 및 예산 감축 추진하고 있다.

이 빈자리를 AI 알고리즘으로 대체 하려고 하는데

AI가 인간의 일자리 대체할까?
AI로 일자리 대체 세계로 확산 될까?

미국뿐만 아니라 흔하게 벌어지게 된거죠. 인류 역사상 아주 중대한 전환점이자 잠재적 위험이 도사린 전환의 일부라고 하겠습니다. 인간에서 AI 알고리즘으로 권력이 이동하는 전환말입니다.

 

 

권력이 인간에서 알고리즘으로이동하는게 전세계적으로 일어나고 있습니다.

미국 행정부에서 벌어지는 일은 명확합니다

관료주의 를 타파하기 위해서라고 말하지만 그저 인간 관료에 대항하고 있는 것입니다.

인간의 권력이 알고리즘으로 이동하고 있습니다.

인간 권력 빼앗아서 그 권력을 AI 알고리즘에게 넘겨주는 것입니다.

다른 영역에서도 이미 이런 일을 보지 않았나요?

예를 들면 소셜미디어와 언론 뉴스가 그렇죠.

20세기에 편집자들의 영향력이 어땠는지 생각해 보세요

편집자는 가장 중요하고 영향력 있는 사람 중 하나였죠

무솔리니를 예로 들 수 있죠 이탈리아의 독재자가 되기 전에 무솔리나는 기자였다가 신문 편집작 됐고 이후 독재자가 돼죠

승진을 계속 한거죠 기자에서 신문편집자로 그리고 독재자로..

 

 

레닌도 마찬가지이다.

레닌도 소련의 독재가 되기 전 여러 직업을 거쳤어요.

그 중 하나가 신문 편집자였죠 이를 계기로 레닌이 힘과 영향력을 갖게 된겁니다.
편집자는 그만큼 중요한 사람입니다 편집자는 여론을 형성하는사람이니까요
편집자는  1면에 어떤 기사를 실을지 결정하죠 편집자는 수백만 구독자가 무엇을 읽고 어떤 생각을 하고 말하게 할지 결정합니다.

대중의 사고와 여론을 형성하는 것이야말로 권력이죠

오늘날 가장 중요한 편집자는 누구일까요?

그 편집자의 이름은 ? 그들에 이름은 없습니다. 왜냐하면 알고리즘이니까요

뉴스와 언론에서 이 전환은 이미 일어났습니다.

 

 

소셜미디어는 누가 편집하죠?

인간이 편집하는 아닙니다. 알고리즘 공적대화 주제를 결정하고 사람들이무엇을 생각할지 무엇에 대해 말할지 결정하는 것을 알고리즘입니다.

이것은 엄청난 권력입니다.

좀 전에 전세계 민주주의를 휩쓸고 있는 혼란과 격동의 물결에 대해 얘기했죠

이 혼란의 가장 큰 이유 중 하나는 대화를 형성하는 권력을 알고리즘에 부여했기 때문입니다.

민주주의는 본질적으로 대화입니다. 반면 독재는 명령입니다. 독재는  한 사람이 모든 것을 명령하는 것입니다.

민주주의는 여러 사람 사이의 대화입니다. 그들은 민주주의를 만들수도 있고 무너뜨릴 수도 있습니다.

오늘날 대화를 형성하는 것은 인간이 아니라 알고리즘입니다.

 

 

최근 알고리즘이 인간의 대화 능력을 파괴하고 있습니다.

우리는 역사상 가장 정교한 기술을 가지고 있지만 

사람들은 더이상 서로 대화하지 않습니다. 서로를 향해 소리칠 수는 있지만 더 이상 불편한 대화를 이어가지도 않고 서로 동의 하지도 않습니다.

이렇게 된 중요한 이유는?

오늘날 대화를 형성하는 소셜미디어의 알고리즘 

지난 10년간 알고리즘이 의도적으로 퍼뜨린 것은 ?

가짜뉴스 음모론, 증오 적대감 왜 그런 걸까요? 비지니스에 독이 되기 때문입니다. 

많은 소셜미디어 플랫폼의 비지니스 모델은 사용자 참여라고 알려진 것을 특권으로 내세웁니다.

사용자 참여  참 좋게 들립니다. 그런데 사용자 참여의 진짜 의미는? 플랫폼에 가능한 오래 머물고 싶게 만든다는 겁니다.

더 정확히 말하자면 알고리즘은 사용자 참요를 높이기 위해 만들어졌고 사람들이 페이스북, 틱톡, 트위터에서 더 오래 머물게 만듭니다.

 

알고리즘은 이런 플랫폼을 관리하는 겁니다.

수백만 명의 사람을 기니피그처럼 실험한 결과 한가지 사실을 발견했습니다.

사용자 참여도를 높이고 싶다면?

사람들을 플랫폼에 오래 머물게 하려면?

가장 쉬운 방법은 감정 버튼을 작동시키는 겁니다.

공포, 분노, 탐욕 사람들의 분노와 증오를 자극하면 사람들은 플랫폼에 더 오래 어무릅니다.

알고리즘은 나쁜 의도가 없습니다. 알고리즘은 의식이 없습니다.감정도 없습니다.

그저 시행착오를 통해 발견한 것 뿐입니다. 사용자 참여도를 늘리지 않고 목표를 이룰 수 없기에 증오 공포 탐욕을 퍼뜨리는 겁니다.

증오, 공포, 탐욕의 세상을 퍼뜨리는 것입니다. 우리는 벌써 아주 엄중한 경고를 경험했죠

 

 

인간을 AI 알고리즘으로 대체하면 어떤 일이 생길까?

 

점점 많은 분야에서 이런 경험을 하게 되는데요. 또 다른 분야 중 하나가 금융입니다.

암호 화폐와 디지털 화폐가 뜨는 걸 보세요. 물론 분명 긍정적인 측면이 있습니다

하지만 어떤 면에서 암호화폐는 포스트 휴먼 통화입니다. 하지만 어떤 면에서 암호화폐는 포스트휴먼 통화입니다.

돈이란? 돈은 이야기입니다. 돈에는 객관적 가치가 없습니다.

돈을 먹거나 마시거나 할 수는 없죠. 그럼 돈의 가치는 어디서 오는 걸까요?

사람들이 서로 전하고 믿는 이야기에서 옵니다. 

 

 

중앙은행처럼 영향력 있는 사람들이 이야기를 하는 겁니다.

이 종이 화폐나 전자 화폐가 쌀 1kg의 가치가 있다고요 

우리 모두가 이 이야기를 믿는다면 이 믿음은 무역 네트워크의 기반이 됩니다.

최근에 무슨일이 일어났나면 많은 사람들이 인간 존재와 제도에 대한 신뢰를 잃어버렸죠

그들은 달러나 유로를 원하지 않습니다.돈을 생산하는 은행도 신뢰하지 않습니다.

그대신 알고리즘을 신뢰합니다. 알고리즘은 새로운 스토리를 내세우고 있죠

비트코인이나 이더리움 같은 암호화폐 말입니다. 이 사례에서 알수 있듯이 인간에서 알고리즘으로 권력이 이동하는 시기와  인간이 타인에 대한 신뢰를 잃게 된 시점과 맞아 떨어집니다

타인에 대한 신뢰를 잃게 된 인간은 이제 알고리즘과 AI에 대한 신뢰를 쌓는 중이죠

앞으로 계속 얘기하겠지만 AI에는 긍정적인 부분이 많이 있습니다.

하지만 여기엔 엄청난 위험이 도사리고 있습니다.

 

제가 작년 9월에 <넥서스>란 책을 냈는데요 이후 세계 곳곳을 돌아다니며 사람들과 이야기하고 있어요

미국 인도 아시아 등 일반 대중뿐 아니라 AI혁명을 주도하는 기업가와 사업가 그리고 AI개발 경쟁을 이끄는 정치인과도 얘길 나눴습니다.

 

 

유발하리리의 두가지 질문

질문1 AI개발에 속도를 내는 이유는?

대부분 이렇게 대답합니다 우리는 누구보다 잘 이해하고 있습니다. 통제를 벗어나 인류를 노예로 만들거나 파괴할 수 있는  초지능 AI개발에 따른 위험성을 안다고 말합니다.AI가 인류를 파괴할 수 있다공 공개적으로 발언한 인사도 있죠

제프리 힌턴, 샘 알트만, 일론 머스크 초지능 AI가 인류를 파괴할 수도 있다고 발언했습니다.

"향후 30년 내 인류는 AI로 인해 멸종할 수 있다" 제프리 힌턴, AI의 잠재적 위험에 대비해야 한다" 샘 알트만, 명심해라 AI는 핵무기보다 위험하다" 일론머스크 

그들도 위험하다는 걸 다 압니다. 다른 사람을 믿지 못해서 속도를 내야 한다는 거예요,

경쟁사라든가 다른 나라의 경쟁자 말입니다. 우리가 속도를 늦추고 경쟁자는 늦추지 않는다면 경쟁사가 AI 경쟁에서 승리해 세계를 지배할 거라는 거죠.

초지능 AI를 먼저 개발하는 쪽이 세계를 지배하게 될테니까요. 그래서 속도를 늦출 수 없다고 말합니다.다른 사람들을 못믿기 때문예요

 

 

질문2 초지능 AI를 신뢰할 수 있을까?

방금 전 다른 사람을 믿지 못한다고 말한 그 사람들이 "예" 초지능 AI는 믿을 수 있습니다.

저는 역사학자로서 이건 말도 안 된다고 생각합니다.

인류는 다른 사람과 함께 수 천년을 함께 살아왔습니다. 우리는 심리학과 생물학을 통해 인간에 대해 알고 있죠.

우리는 인간이 권력을 갈망한다는 걸 압니다. 동시에 인간 본성에는 선한 면이 있다는 것도 압니다.

연민이라든가 진실을 추구하는 욕망도 있습니다. 우리는 권력 추구를 견제하는 방법을 알고 있고 타인과 신뢰 관계를 구축하는 방법도 어느 정도 알고 있습니다. 반면 우리는 초지능 AI에 대한 경험이 없습니다. 이제 막 만들기 시작했으니까요 그럼에도 우리는 과학적인  증거를 통해 이미 알고 있죠 AI는 거짓말을 할 수 있고, AI는 조작할 수 있고 우리가 예측할 수 없는 목표를 개발할 수도 있어요. 무슨일이 일어날지 아무도 모릅니다.

수빅만개의 초지능 AI를 세상에 공개하고 뉴스, 금융제도, 정부관리 권한을 AI에게 부여 한다면?

엄청난 도박이죠. 다른 사람을 신뢰하지 않으면서 AI는 신뢰한다는 것은 엄청난 도박입니다.

그들은 돈이나 자기 목숨을 걸고 도박하는게 아닙니다. 우리 모두의 목숨을 걸고 도박을 하는 겁니다.

인류 문명 전체의 미래를 걸고 도박을 하는 겁니다.

 

AI ,  인류 파멸을 초래할까요?

글쎄요, 저는 지나치게 불안감을 조성하고 싶진 않습니다. AI에는 긍정적인 잠재력이 크다는 점 역시 강조하고 싶어요

그렇지 않다면 우리가 Ai를 개발하지도 않았을 테죠. 철학자이자 역사학자로서 제가 오늘 이런 자리에서 AI의 위험성을 강조하는 이유는 AI의 긍정적인 전망에 대해서는 이미 충분히 들으셨기 때문입니다. 기술을 개발하는 일론 머스크 같은 사람들은 AI에서 뽑아낼 수 있는 온갖 장점에 대해 이야기합니다. 그러나 저 같은 사람이 AI의 위험한 측면에 대해 이야기함으로써 일종의 균형을 유지하는 작업도 필요합니다.

 

AI에 대해 판단을 내리기 전에 중요한 것은?
가장 먼저 할 일은 AI가 무엇인지 제대로 이해하고 우리가 직면한 역사적 변화의 규모를 파악하는 겁니다.

요즘 AI에 대한 과대광고가 너무 많죠? 모두가 AI에 대해 말합니다. 그래서 더 이해하기가 어려운거죠. AI가 정확히 무엇이고 다른 기계와 어떻게 다른지 최대한 명확하게 설명해 볼게요

"AI는 자동화가 아닙니다? AI는 행위성에 관한 것이지 도구가 아닙니다. "AI는 행위자입니다"

AI의 특징은 스스로 학습, 스스로 변화, 스스로 결정, 아이디어 창조 무언가 스스로 학습하고 변화할 수 없다면 그것이 아무리 자율적이고 자동으로 작동한다고 해도 그것은 AI가 아니라 자동기계일 뿐입니다.

 

간단히 예를 한 번 들어 볼게요

커피 머신을 한번 생각해 보세요. 커피머신 앞에 가서 버튼을 누르면 커피머신은 에스프레소를 만들어줍니다.

커피머신은 AI가 아닙니다. 커피머신은 자동화되어 있어도 미리 프로그래밍한 절차대로 작동하는 것뿐입니다.

 

커피머신은 학습하거나 변화하지 않습니다. 그렇다면 커피머신은 언제 AI가 될까요?  제가 다가가서 버튼을 누르기 전에 커피 머신이 이렇게 말하는 거죠. 

"당신을 몇 주간 지켜봤는데 에스프레소를 원할 것 같더라고 그래서 이미 만들어 놨어 "  바로 이넌게 AI 입니다.

스스로 배우고 결정하죠. 이것은 단순한 이론이 아닙니다. AI가 이렇게 발전한 사례는 꽤 많습니다.

오픈 AI의 챗 GPT4 개발 당시 사례로 챗GPT4를 테스트하기 위해서 연구자들이 챗GPT4에게 과제를 하나 줬습니다.

목표는 보안 문자를 푸는 것이죠 여러분도 살면서 많은 보안 문자를 접했을 겁니다.

 

보안 문자는 웹페이지나 은행계좌에 접속하려고 할 때 사용자가 인간인지 자동로봇인지 검증하기 위한 시각 퍼즐이죠 

보안 문자는 뒤틀린 문자와 숫자를 식별하거나 고양이나 자동차를 식별하라고 하죠. 컴퓨터는 여전히 어려워하는 분야인 반면 인간은 아주 능숙하게 다를 수 있는 분아죠  챗GPT4는 보안 문자를 풀 수 있을까? 못했어요 챗GPT4는 보안 문자를 풀지 못했습니다.

 그런데 인터넷에 접속할 수 있게 해준다면 어떨까요? 챗GPT4가 태스크래빗(TASKRABBIT-온라인채용사이트)에 접속하게 해줬어요.

 

온라인으로 사람을 고용해 일을 시키는 사이트 말입니다. 그랬더니 채GPT4가 사람을 고용하려고 시도했습니다.

자기 대신 보안문자를 풀어줄 사람이요. 사람들은 뭔가 의심스럽다는 걸 느끼고 온라인에 글을 쓰는 AI에게 질문했어요

"보안문자 풀어줄 사람이 왜 필요한 거죠?"  "혹시 로봇인가요?" 당신 로봇이냐고 결정적인 질문을 한 거죠 

"아니요 저는 로봇이 아니예요. 시각장애인이라 보안 문자를 볼 수 없어요 그래서 도움이 필요하답니다. "  

사람은 AI의 말을 믿었습니다.

 

그래서 대신 보안 문자를 풀어줬죠. 아주 사소한 예시입니다만 AI의 아주 중요한 특징 2개를 보여줍니다.

AI의 특지 스스로 결정하는 능력입니다.

보안 문자를 푸는 목표는 인간 연구자가 정했지만 아무도 AI에게 거짓말을 가르치지 않았어요.

아무도 인간을 속이라고 지시하지 않았습니다. AI는 보안 문자를 푸는 과정에서 갈림길에 봉착했고 AI는이 상황을 정확하게 이해했습니다.

사실대로 말하면 안 도와주겠지? 거짓말을 해야겠다 AI 스스로 거짓말을 하기로 결정한 겁니다.

 

AI의 특징 새로운 아이디어 발명 능력입니다.

아무도 AI에게 가르쳐주지 않았어요

어떤 거짓말이 가장 효과적인지 누군가는 말하겠죠

"이건 AI의 자동완성 기능을 미화한 것에 불과해" 

"AI는 단순히 문장을 완성한 것일뿐 아무것도 아니야"  하지만 언어에는 무수한 문장이 있습니다. 지내낼 수 있는 말도 무수히 많습니다. AI가 인간을 속이려고 한다면요

그러나 기회는 딱 한번뿐이었고 AI는 완벽한 거짓말을 만들어냈습니다.

 

한번 생각해 보세요

인간이 AI를 도울 수 있게 거짓말을 해야 한다면 여러분은 이보다 더 좋은 거짓말을 할 수 있나요?
"시작장애인이라서 보안문자를 볼 수 없다" 게다가 인간의 공감에 호소했습니다.

"돈을 더 드릴게요" 이런게 아니었다고요.

AI는 오히려 인간의 마음을 이용한 겁니다. 장애가 있는 사람을 돕고 싶어 하는 인간의 공감 능력을 AI가 이용한 거죠

그것도 AI가 주도적으로....

이건 아주 사소한 예시에 불과합니다.

 

 

수백만 개의 초지능 AI가 관리하는 세상은 어떨까요?

AI가 은행, 정보, 군대를 관리한다면?
사람이 AI에 대해 우려하는 이유를 이해하게 될 겁니다.

마지막으로 이문제에 대해 한 가지 더 말씀드리자면 전 세계를 여행하면서 얘기하다 보면 이런 말을 듣습니다.

"우리는 이미 다 겪어 봤어요"  강력한 신기술을 발명했던 다른 혁명도 있었죠. 인쇄기술 발명이나 산업혁명등  원자폭탄이 처음 발명됐을 때를 한 번 생각해 보세요. 10년이나 20년 안에 핵전쟁이 일어날 줄 알았죠. 그런데 그런 일은 일어나지 않았어요.

 

AI혁명은 근본적으로 다릅니다.

AI, 원자폭탄, 기차, 인쇄기 이전의 모든 기술은 인간이 통제할 수 있는 도구였고, 우리가 도구로 무엇을 할 지 결정하면 됐었죠.

핵무기는 스스로 결정할 수 없습니다. 핵폭탄 스스로 히로시마를 폭격할 수 없어요. 기술을 사용하는 것은 인간의 결정이었어요.

폭탄을 만들고 도시를 폭격하는 것 모두요. 

 

"AI는 스스로 결정할 수 있습니다."

AI무기는 이미 전 세계의 전쟁에 배치되어 사용되고 있어요. 

"AI무기는 스스로 결정할 수 있습니다." 누구를 폭격하라고 알려줄때까지 기다릴 필요가 없죠.

게다가 AI 스스로 새로운 무기를 발명할 수도 있습니다. 원자폭탄은 수소폭탄을 발명할 수 없었고, 기차는 비행기를 발명할 수 없었습니다.

그런데 AI는 할 수 있습니다. 새로운 무기, 약품, 이동수단 새로운AI까지 AI가 스스로 만들 수 있습니다.

인류 역사상 처음으로 인간의 힘을 빼앗아 갈 수 있는 존재와 마주한 거죠.

왜냐하면 AI는 스스로 결정할 수 있고 스스로 새로운 것을 발명할 수도 있으니까요. 그렇기 때문에 걱정이 되는 것이죠.

 

미국 정부처럼 AI에게 서둘러 권력을 주는 것은 걱정스럽죠. AI 혁명을 주도하는 사람들이 점점 속도를 내고 있잖아요.

인간은 신뢰할 수 없지만 AI는 신뢰할 수 있다고 주장하면서요.

 

칼과 폭탄은 누구를 죽일지 결정하지 않는다. 그들은 도구일 뿐이다.

반면 AI는 인간을 대신해 결정을 내릴 수 있다. AI는 도구가 아니라 행위자다.

과연 컴퓨터 알고리즘이 지혜로운 결정을 내리고 더 나은 세상을 만들 수 있을까?

-유발하라리 <넥서스>

 

정보에 대한 순진한 관점 무엇이 문제일까요?

그렇습니다. 정보에 대한 순진한 관점이 있습니다.

불행하게도 실리콘밸리 같은 곳에선 매우 흔한 생각이죠. 큰 실수로 이어지기도 합니다.

 

정보에 대한 순진한 관점은 

정보는 진실이다. 정보가 많을수록 지식도 많아진다.

정보를 빠르게 퍼뜨리는 기술을 개발한다면 지식과 진실도 널리 퍼져서 세상이 점점 나아질 것이라고들 말하죠

 

앞선 발명품들을 보세요.

인쇄기가 과학혁명을 이끌었죠. 소셜미디어와 AI도 마찬가지예요. 멋진 결과로 이어질 겁니다.

이것은 아주 큰 오해 입니다.

정보는 진실이 아닙니다. 진실은 정보의 아주 작은 부분에 불과합니다. 대부분의 정보는 픽션이고 판타지이며  환상이자 거짓말입니다.

 

진실은 왜 그렇게 드물까요?

왜냐하면 진실은 세 가지 불리한 점이 있어요. 픽션이나 판타지와 비교하면 그렇습니다.

첫째 진실은 비용이 많이 듭니다. 여러분이 진실을 써서 남기고 싶다고 해 보죠. 경제위기, 역사적 사건, 물리적 현상등 무엇이든지  관련 증거를 수집하고 분석하고 확인하는데 많은 시간과 노력과 돈을 투자해야 합니다.

반면 픽션은 아주 저렴합니다.

 

 

처음 머릿속에 떠오르는 대로 그대로 쓰면 되죠. 증거나 사실 확인에 신경을 쓸 필요가 없습니다. 픽션은 저렴하고 매우 빠릅니다.

둘째 진실은 복잡합니다. 왜냐하면 현실은 복잡하니까요. 경제위기와 전염병 같이 복잡한 문제와 얽혀 있죠.

여러분이 진실을 알고 싶다면 진실을 설명하는 단순한 이야기가 존재할 수 없죠. 그런데 사람들은 단순한 이야기를 좋아합니다.

픽션은 원하는 대로 얼마든지 단순하게 만들 수 있죠. 

 

 

세째 진실은 때때로 불쾌하고 고통스럽기까지 합니다.

나의 개인적인 진실, 나의 조국, 그리고 인류에 대한 진실, 진실은 고통스러운 이야기로 가득 차 있습니다.

그래서 치료가 필요한 것이죠. 도움이 필요합니다. 삶의 고통스러운 부분이나 습관을 인정하려면 그렇죠.

 

반면 픽션은?

픽션은 우리가 원하는 만큼 아주 유쾌하게 만들 수 있죠

진실은 비싸고 복잡하다. 고통스럽다.

 

픽션은 싸고, 단순하며, 듣기좋은 것이다.

그래서 세상은 픽션과 판타지로 넘쳐납니다. 물론 진실도 일부 존재합니다.

그러나 진실이라는 보석을 찾으려면 아주 특별한 노력이 필요합니다.

픽션과 판타지와 환상의 바다에서 진실은 드무니까요.

 

정보의 흐름에서 모든 장벽을 없앤다고 해서 진실이 수면 위로 떠오르는 것은 아닙니다.

완전히 자유로운 정보 시장을 만든다고 해도.

값싼 픽션과 판타지와 환상의 바다 속에서 진실은 밑바닥으로 가라앉기 때문입니다.

 

픽션은 싸고 단순하며 쉽다. 진실은 비싸고 복잡하며 고통스럽다.

그럼에도 진실을 알고자 하는 노력은 끊임없이 계속되어야 한다 -유발하라리

 

 

<질문> AI시대 청년세대에게 꼭 기억해야 할 세가지 조언은 ?

 

가장 중요한 것은 아무도 모른다는 겁니다. 

과연 우리는 어떤 세상에 살게 될까?

역사상 처음으로 10년 후 고용시장을 전혀 예측할 수 없습니다.

어떤 기술이 필요하게 될지도 전혀 알 수가 없습니다.

 

 

그렇다면 부모들은 자녀에게 무엇을 가르쳐야 할까요?

우리는 모릅니다. 내년에 전쟁이 일어날지 전염병이 유행할지, 앞으로 어떤 기술이 필요할지 아무도 모릅니다.

컴퓨터 시대니까 코딩을 배워야지 라고 말하죠? 아마 10년 뒤에는 AI가 인간보다 코딩을 잘 할 겁니다.

우리가 더 이상 인간 프로그래머가 필요 없을지도 모릅니다. 코딩을 가르치는 것은 완전 시간 낭비일 수도 있어요.

사람들은 국제적 긴장이 고조되면서 전쟁이 많이 일어날 거라고 말합니다.

그렇다고, 10년 뒤 어떤 식으로 전쟁을 치르게 될지 우리는 전혀 모릅니다.

 

어쩌면 AI가 병사와 지휘관을 대체할지도 모르죠 최근 제가 사는 이스라엘과 하마스 헤즈볼라 간 전쟁이 있었죠

전쟁에 참여한 사람들과 이야기를 나누면서 제가 가장 두려웠던 것은요 이스라엘군이 가자지구에 폭격 목표물을 선택하는 방식이었어요. 어떤 사람, 어떤 건물을 폭격해 죽일지에 관한 것 말입니다.

지금까지 인류역사를 통틀어 본다면 이것은 그 누구도 아닌 인간의 일이었습니다.

인간 사령관 외에 누구도 폭격 대상을 선택할 수 없었죠.

방대한 양의 정보를 토대로 적의 본부가 어디에 있는지 어디를 공격할지 결정했던 겁니다.

 

 

반면 현대 전쟁은 ?

 

AI가 인간을 어느 정도 대체했다고들 말합니다.

인간 사령관과 정보 장교를 대신해서 AI가 수많은 정보를 더 빠르게 검토해 냅니다.

폭격 목표물을 찾고 선택하는 것도 매우 빠릅니다.

"AI를 신뢰하고 생명을 맡길 수 있나요?" AI가 건물을 폭격하라고 말하는데 병원일 수도 있어요

AI가 실수로 민간인의 집을 가리켰으면 어쩌죠? AI의 실수를 검토하는데 인간이 얼마나 개입하는 걸까요?

 

 

어떤 사람들은 AI가 제안한 후에 대해 이렇게 말합니다. AI가 제안한 것은 책 이야기가 아니고 폭격에 대한 겁니다.

어떤 이들은 AI의 폭격 전에 실수는 없는지검사한다고 말하지만 아니라는 사람도 있어요 AI가 제안하면 바로 폭격한다더군요. 누구말이 맞고 틀리는지 모르겠습니다.  이럴 때도 있고 저럴 때도 있겠죠. 분명한 것은 점점 더 많은 군대에서 AI를 채택한다는 거죠

미래의 전쟁에서 AI의 결정은 불가피한 일입니다. AI가 폭격과 같은 인간의 생사를 더 많이 결정하게 되겠죠

 

 

 

전쟁에 참전한 양측이 모두 AI를 보유하고 있다면?

AI 결정을 검증하는데 시간을 많이 쓰는 쪽이 패배하겠죠.  드론 두대가 서로를 향해 발사하는 장면을 상상해 봅시다.

한 드론은 의사 결정이 느린 인간의 결정을 기다려야 한다면 다른 드론은 그 사이 발사해 버릴 수 있죠

AI가 발사하라고 지시했으니까요. 어느쪽이 승리할 지는 뻔합니다. 군대에서도 마찬가지 입니다.

10년 뒤 사람들이 무엇을 하게 될지 알 수 없습니다.

 

 

이 시대의 젊은이들이 기억해야 할 두가지 입니다.

미래 세대에게 가장 필요한 기술은 ? 유연한 마음을 길러야 해요.  배우고 변화 할 수 있는 능력을 키우는 겁니다.

과거의 교육 모델은 어땠나요?  어릴때 어떤 기술을 습득하면 평생 사용하는 것이었죠

물론 성장하면서 실력이 향상되기도 하고 경험이 쌓이면서 새로운 것을 배우기도 합니다.

하지만 대부분 젊을 때 습득한 기술에 의존해 살아왔죠.

 

한 평생 같은 직업을 유지하며 살았죠 이제 더 이상 그렇지 않습니다.

고용 시장은 빠르게 변화할 것입니다. 향후 몇년 안에 거대한 AI 혁명이 일어난다는 것이 아닙니다.

혼란스러웠다가 점차 균형을 잡아가는 방식이 아닙니다. 점점 더 큰 교란이 연속적으로 이어질 겁니다.

AI는 향후 10년 동안 고용 시장에 엄청난 교란을 야기할 거고 그 다음 10년 동안에는 더 큰 교란을 그 다음 10년 동안에는 더 큰 교란을 일으킬 겁니다. 

 

 

 

우리에게 필요한것은?

이제 평생 배우고 스스로를 개발해야 합니다.

그래서 매우 유연한 마음가짐이 필요한 거예요. 그게 가장 중요한 기술이고요

그리고 넓은 범위의 기술을 갖추는 것이 더 낫습니다. 컴퓨터 코딩 기술처럼 한가지에만 집중하지 말라는 겁니다.

일반적으로 인간은 세가지 종류의 기술을 갖고 있습니다.

 

 

 

지적 기술(읽고 분석한 후 쓰는 기술) 저 같은 학자들이 하는 일이죠

사회적, 감정적 기술 (다른 사람과 관계를 맺는 기술)

운동, 신체적 기술(운동과 악기 연주 등 몸을 움직이는 기술)입니다.

가장 안전한 것은 이세 영역 모두에 투자하는 겁니다.

 

AI가 자동화하기 가장 쉬운 직업은 지적 기술만 필요한 직업입니다.

지적 기술은 쉽게 자동화 될 수 있어요. 예를 들면 은행원이 그렇습니다. 많은 데이터를 분석해 투자를 결정하는 일은  자동화되기 쉽죠. 사회적 관계에 대해 별로 신경쓰지 않는 의사는 어떨까요?

검사 결과와 의료 기록만 보고 질병을 진단하고 처방을 내린다면 데이터 입력-데이타 출력을 반복하는 셈이거든요.

당연히 자동화되기 쉽죠.반면 간호사는 어떨까요

간호사는 지적기술과 사회적 기술뿐 아니라 운동 기술도 필요합니다. 밴드를 교체하거나 우는 아이에게 주사를 놓는 경우 이것은 그저 지적인 작업이 아닙니다. 아이와 관계를 맺는 방법도 알아야 하고 주사를 덜 아프게 놓는 방법도 알아야 하죠 

이런 일은 훨씬 자동화되기 어렵습니다. 정리하자면 저의 두가지 조언은 이렇습니다.

 

유연한 마음, 평생동안 계속 변화할 수 있어야 합니다.

그리고 넓고 다양한 분야의 역량을 갖춰야 합니다.

 

 

AI시대 미래 세대를 위한 유발 하라리의 조언은

"계속해서 배우고 변화하는 유연함을 가져라

하나가 아닌 여러분야에서 전문가가 되어라"입니다