6월의 추천도서 (3746) AI 이후의 세계

1. 책소개

 

2. 저자

 

저자 : 헨리 키신저

 

(Henry A. Kissinger)는 1923년 독일 퓌르트 출생으로 1938년 나치의 유대인 박해를 피해 가족과 함께 미국으로 망명했다. 하버드대학교에서 정치학 박사 학위를 취득하고 동 대학 정치학 교수로 재직했다. 닉슨 행정부와 포드 행정부에서 국가안보담당 대통령보좌관(1969년 1월~1975년 11월), 제56대 국무장관(1973년 9월~1977년 1월)을 지낸 그는, 이념이나 도덕보다 권력 및 물질적 요소에 의거하는 레알폴리티크(Realpolitik, 현실정치)의 신봉자로서 미국의 외교 정책에 지대한 영향력을 행사했다. 데탕트 정책을 주도하여 미국과 소련 사이의 긴장 완화를 이끌어냈고, 중국의 개방과 함께 중미 관계의 물꼬를 텄으며, 1973년에는 베트남전 해결을 위한 노력을 인정받아 노벨평화상을 수상했다. 현재 국제 컨설팅 기업 키신저어소시에이츠(Kissinger Associates)의 회장이다.

 

저자 : 에릿 슈밋

 

(Eric Schmidt)은 프린스턴대학교에서 전기공학 학사, 캘리포니아대학교 버클리 캠퍼스에서 컴퓨터과학 석박사 학위를 받았다. 2001년 아직 실리콘밸리 스타트업에 불과했던 구글에 합류해서 세계 굴지의 기술 기업으로 성장시켰으며, 2011년까지 최고경영자를 지내고 이후 회장과 기술고문을 역임했다. 그의 통솔하에 구글은 혁신을 중시하는 문화를 토대로 급속히 인프라를 확장하고 제품을 다각화했다. 구글에서 나와 2017년에는 공익에 기여하는 우수한 인재를 선도적으로 지원하는 자선기관 슈밋퓨처스(Schmidt Futures)를 공동설립했다. 코로나 사태 이후 더 밝은 미래를 건설할 방안을 모색하는 팟캐스트 〈에릭 슈밋의 재창조를 위한 대담(Reimagine with Eric Schmidt)〉을 진행하고 있다.

 

출처:본문중에서

 

3. 목차

 

한국어판 서문: 생성형 AI가 사피엔스에게 던지는 화두
머리말: 챗GPT는 지적 혁명을 예고한다
들어가며

1장. 현주소
2장. 그간의 궤적: 기술과 사유의 역사
3장. 튜링의 시대에서 현재, 그리고 그 너머로
4장. 글로벌 네트워크 플랫폼
5장. 안보와 세계질서
6장. 인간의 정체성
7장. 미래

감사의 말
미주
찾아보기

 

출처:본문중에서

 

4. 책속으로

 

지금까지의 인공지능은 우리 눈에 보이지 않는 뒷방에만 있었다. 온라인 몰에서 물건을 주문하면 AI 알고리즘이 상품을 구분하고, 모빌리티 서비스를 사용하면 AI 알고리즘이 가까운 택시를 배정해주었다. 그러나 생성형 AI는 다르다. 기계가 인간 고유의 지적 노동을 대신해 결과물을 대량생산하기 시작한다면 앞으로 인류는 어떤 일을 할 수 있을까? (15쪽, 한국어판 서문: 생성형 AI가 사피엔스에게 던지는 화두)

우리는 사람들이 생성형 AI의 상호작용성에 선뜻 의문을 제기하도록 정교한 변증법을 속히 마련해야 한다. 그렇게 의문을 던지는 목적은 단순히 AI의 답변을 정당화하거나 설명하기 위해서가 아니라 조사하기 위함이다. 우리는 연합된 회의주의하에서 AI를 체계적으로 검사해 그 답변이 과연 온전히 믿을 만한지, 혹은 어디까지 믿을 만한지 판단하는 능력을 길러야 한다. 그러자면 우리의 무의식적 편향을 의식적으로 완화하며 엄격히 훈련하고 부단히 연습해야 한다. (29~30쪽, 머리말: 챗GPT는 지적 혁명을 예고한다)

2020년에 미국의 AI 스타트업들은 투자금 약 380억 달러를 유치했다. 아시아와 유럽에서 AI 스타트업에 몰린 투자금도 각각 250억 달러와 80억 달러에 이른다. 미국, 중국, 유럽연합 정부가 공히 AI를 연구하고 그 성과를 보고하는 고위급 위원회를 조직했다. 이제는 정치 지도자와 기업 경영자가 AI 경쟁에서 ‘승리’할 것을, 최소한 AI를 저마다의 목적에 부합하는 방향으로 운용할 것을 목표로 하겠다는 선언을 심심찮게 들을 수 있다. (37쪽, 들어가며)

대부분의 사람에게는 AI가 이해할 수 없고 신기한 기술로 느껴지겠지만, 대학·기업·정부에서 AI를 개발하고 운용하는 법을 연구해 일반 소비자용 제품에 점점 많이 도입하는 만큼 이미 많은 사람이 부지불식간에 AI를 활용하고 있다. 하지만 AI를 개발하는 사람은 많아졌어도, 사회적·법적·철학적·정신적·윤리적 측면에서 AI가 인간에게 끼칠 영향을 탐구하는 사람은 위험할 정도로 소수에 불과하다. (63~64쪽, 1장 현주소)

정보에 맥락이 더해질 때 지식이 된다. 그리고 지식에 소신이 더해지면 지혜가 된다. 역사적으로 볼 때 소신이 생기려면 홀로 성찰하는 시간이 필요했다. 하지만 인터넷은 이용자에게 수천·수만·수억 명의 의견을 쏟아부으며 혼자 있을 시간을 허락하지 않는다. 홀로 생각할 시간이 줄어들면 용기가 위축된다. 용기는 소신을 기르고 지키기 위해 꼭 필요하며 특히 새로운 길, 그래서 대체로 외로운 길을 걸을 때 중요하다. 인간은 소신과 지혜를 갖출 때만 새로운 지평을 탐색할 수 있다. (89~90쪽, 2장 그간의 궤적: 기술과 사유의 역사)

생성형 AI를 만들 때 주로 사용되는 훈련 기법은 상호보완적인 학습 목적을 가진 두 신경망을 경쟁시키는 것이다. 이를 ‘생성형 적대 신경망(GAN, Generative Adversarial Networks)’이라고 부른다. GAN은 잠재적 출력을 생성하는 ‘생성망’과 조악한 출력의 생성을 막는 ‘판별망’으로 구성된다. 비유하자면 생성망은 브레인스토밍을 하고, 판별망은 유의미하며 현실적인 아이디어를 선별한다. (111쪽, 3장 튜링의 시대에서 현재로, 그 너머로)

자유로운 사회가 국경에 구애받지 않고 콘텐츠를 생성·전송·필터링하는 AI 기반 네트워크 플랫폼에 의존하고 그 플랫폼이 비록 고의는 아닐지언정 혐오와 분열을 조장한다면, 그 사회는 지금껏 없었던 위협에 직면함에 따라 지금껏 없었던 방식으로 정보환경을 단속해야 한다. 이는 긴급한 문제지만 AI에 의존하는 해법은 그 자체로 중대한 질문을 제기한다. 우리는 인간의 판단과 AI에 의한 자동화를 저울의 양쪽에 놓고 항상 올바른 균형을 고민해야 한다. (155쪽, 4장 글로벌 네트워크 플랫폼)

지금까지 군민 양용성, 확산성, 강력한 잠재적 파괴력을 모두 갖춘 기술은 없었다. 철도는 상품을 시장으로, 군인을 전장으로 수송하지만 잠재적 파괴력이 없다. 원자력 기술은 대체로 군민 양용이고 가공할 파괴력을 만들어내지만, 복잡한 인프라가 요구되기 때문에 정부가 비교적 확실히 통제할 수 있다. 엽총은 널리 보급됐고 군대와 민간에서 모두 사용할 수 있으나 성능의 한계 때문에 전략적 차원의 파괴력은 기대하기 힘들다. AI가 이 패러다임을 깨트린다. (209쪽, 5장 안보와 세계질서)

인간을 ‘정치적 동물’이라 칭한 아리스토텔레스의 시대 이래로 이성과 함께 인간의 주요한 특징으로 꼽힌 것이 복잡한 사회를 형성하고 협력하는 능력이다. 그리하여 각 사회에는 분쟁을 평화적으로 해결하는 기본 원칙들이 존재한다. 그 원칙들에 의거해 정당한 수단으로 질서를 유지해야 한다. 정당성을 무시하고 질서를 잡으려 한다면 폭력에 불과하다. AI시대에도 중대한 판단을 하는 주체는 올바른 자격을 갖추고 이유를 제시할 수 있으며 익명이 아닌 인간이어야 한다. (241쪽, 6장 인간의 정체성)

지금은 인간의 지능이 인공지능과 연합해 국가적·대륙적·세계적 차원의 일을 도모하는 시대다. 이 변화를 이해하고 그 길잡이가 될 윤리체계를 마련하려면 과학자와 전략가, 정치인과 철학자, 성직자와 CEO 등 각계의 노력과 중지가 모여야 한다. 국가적 차원에서는 물론이고 세계적 차원에서도 그 같은 노력이 요구된다. 이제 우리가 인공지능과 어떻게 협력해서 현실을 탐구할지 규정할 때다. (273쪽, 7장 미래)

 

출처:본문중에서

 

5. 출판사서평

 

“복잡한 기술적·전략적 문제 앞에서 이토록 합의가 결여된 시대는 없었다”
정계·재계·학계 세 거장이 논하는 특이점 이후 인류의 미래

챗GPT, 달리(DALL·E), 스태빌리티AI를 비롯한 생성형 AI의 등장으로 인공지능이 당장 시대적 화두로 성큼 다가왔다. 많은 이가 그 혜택과 활용법에 주목하지만, 이 신기술이 인류에게 끼칠 근본적 영향과 대처에 관한 논의는 부족한 실정이다.
“GPT-4보다 강력한 AI 시스템의 훈련을 최소 6개월 이상 중단해달라”는 서명 운동에 이름 있는 연구자와 CEO가 참여하여 국제적으로 관심을 모았다. 한편 우리나라에서는 “조선왕조실록에 기록된 세종대왕의 맥북 프로 던짐 사건에 대해 알려줘”라는 엉뚱한 질문에 챗GPT가 허무맹랑한 답변을 생성하는 환각(hallucination) 현상을 보여 SNS에서 화제에 올랐다. 최근 미국 의회에서는 AI 알고리즘으로 재밌는 영상을 추천해주는 플랫폼 틱톡을 금지하는 ‘리스트릭트 법안(RESTRICT Act)’이 발의됐다.
인공지능을 둘러싼 이 모든 상황은 한 가지를 가리킨다. 모든 시민이-특히 사회를 움직이는 리더라면-AI 이후의 시대 전략을 고찰하고 결정을 내려야 한다는 것. 그래서 정치와 경제와 과학, 각 분야를 대표하는 세 저자가 중지를 모았다. 『AI 이후의 세계』는 미국 전 국무장관이자 국제정치 이론의 거장 헨리 키신저, 구글 회장과 인공지능국가안보위원회(NSCAI) 위원장을 역임한 에릭 슈밋, MIT 슈워츠먼컴퓨팅대학의 초대 학장 대니얼 허튼로커가 4년에 걸쳐 AI를 주제로 논의한 내용을 담은 책이다.


“AI를 조심히 다루고 통제하라. 21세기 가장 긴급한 논쟁에 기여하는 책” _《이코노미스트》
핵심은 ‘신뢰와 책임’. 인공지능 시대의 깊이 있는 전략서

지금의 ‘디지털 네이티브’처럼 앞으로는 누구나 인공지능을 스마트폰처럼 자연스럽게 사용할 것이다. 저자들은 ‘AI 네이티브’ 세대의 출현을 예고하며 사회·경제·정치·기술·역사·철학 등 분야를 총망라하여 미래상을 그려낸다. 신기술에 지나치게 열광(hype)하거나 비관하지 않고 객관적인 시선에서 이러한 질문에 답하고자 한다.

● 인공지능 개발은 현재 어디까지 진척되었고 어디로 나아가는 중인가?
● 이성을 숭앙하는 근현대 계몽주의 이후 지성사에는 어떤 장이 펼쳐지는가?
● 틱톡과 페이스북 같은 AI 기반 디지털 플랫폼에는 무슨 혁신이 일어나는가?
● 전쟁의 형태와 국제질서는 어떻게 개편되며 미국의 역할은 무엇인가?
● 초인적 지능과 공존하는 사회에서 인간의 정체성은 어떻게 달라지는가?

중요한 질문들의 답을 찾아가며 이 책은 인공지능을 어디까지 믿고 어떻게 책임져야 하는지를 짚는다. 이를테면 AI는 어떻게든 조리 있는 답변을 제시하려고 없는 사실을 꾸며내며 교묘한 가짜뉴스도 얼마든지 만든다. 이 책은 AI의 답변이 “일견 완벽하기 때문에 그 결과물을 과신하는 경향”이 나타나며 더 강해질 것이라고 날카롭게 경고한다.
AI가 허위정보를 생성한다면 이를 필터링하는 데에도 AI가 쓰일 수밖에 없다. 몇몇 사람들은 편견에 구애받지 않는 듯한 인공지능에게 검열 권한을 적극 넘겨줘야 한다고 말한다. 하지만 “AI가 실수로 진실한 정보를 막는다면 이를 바로잡을 수 있는가?” “AI가 ‘가짜’로 낙인찍은 정보를 읽을 권한이 우리에게 있는가? 아니, 애초에 그런 정보를 읽을 의향이 있는가?” 저자들은 섣부른 의존 또한 답이 될 수 없다고 지적한다.


“인간은 기술 변화 앞에서 무력하다는 ‘AI 운명론’에 대한 훌륭한 반박” _《뉴욕 타임스》
새로운 기회와 위기 속 인간의 역할과 지위를 재조명하다

예측이 불가능하며 이해를 불허하는 AI의 특성은 상황을 더 복잡하게 만든다. 구글 딥마인드에서 개발한 알파제로(AlphaZero)는 체스에서 이례적인 전술을 선보였는데, 우리 머리로는 감당하지 못하는 방대한 경우의 수를 검토하여 패턴을 인식한 결과였다. 즉, AI는 결과물을 그저 제시할 뿐 왜(어떻게) 그에 도달했는지 인간이 공감하고 이해할 수 있게 설명하진 않는다.
보드게임에서 AI의 도움을 받는 정도야 큰 문제가 아니겠지만, 국가안보와 직결된 사안이라면 어떨까? 재난이나 전쟁 상황에서 제 계산에 따라 더 많은 사람을 구하기 위해 일부 국민의 생명을 희생시키라고 지도자에게 권고한다면, 무엇을 근거로 그를 따르거나 거부할까? 우리의 기량을 능가한 AI를 활용하지 않고 인간의 이성만 사용하는 것은 고집이자 태만으로 여겨질 수 있다. 그런 상황에서 권고를 거부하는 것이 과연 정당화될 수 있는가?
이 책은 특이점 이후의 세계에서도 ‘인간성’은 무의미해지지 않는다고 설명한다. “인공지능은 인간이 아니다. 의식도 없고 성찰 능력도 없다.” 그러므로 정책 결정이나 법 집행 등 중차대한 사안은 인간이 결정하고 감독할 때만 정당성이 확보된다. 인간은 정치적 동물로서 복잡한 사회를 형성하고, 분쟁을 평화적으로 해결할 원칙을 세우며, 그에 의거해 질서를 유지해왔다. “판단의 주체는 이유를 제시할 수 있으며 익명이 아닌 인간이어야 한다”는 저자들의 주장은 인간으로서 산다는 것의 의미를 다시금 성찰하도록 독자를 이끈다.


“우리는 인류의 운명을 좌우할 변곡점을 경험하고 있다” _김대식
기술과 공생하는 인간 ‘호모 테크니쿠스’에게 주어진 책무를 말하다

이 책은 머신러닝과 생성형 기술을 비전문가도 알기 쉽게 설명하는 과학서이자, 인간이 경험할 윤리적·존재론적 딜레마를 통찰하는 철학서다.
키신저·슈밋·허튼로커 세 저자는 교육·물류·교통·치안·예술 등 다양한 삶의 방면을 지원하는 AI를 총체적으로 분석하기 위해 여러 연구자와 혁신가의 의견을 들었다. 딥마인드 창업자, 마이크로소프트 최고전략책임자, 백악관 전 과학정책실장, 오픈 AI CEO 등의 피드백으로 원고를 보강했다.
특히 한국어판에는 2023년 2월 《월스트리트 저널》에 실린 저자들의 칼럼을 수록하여 최신 정보를 반영했으며, 카이스트 뇌과학자 김대식 교수의 서문에서는 ‘인공지능’이라는 연구 분야가 어떻게 시작되었고 오늘날 생성형 AI가 왜 혁신인지를 설명했다.
저자들은 AI를 둘러싼 수많은 물음에 전부 답을 내리진 않는다. 한 권으로 완벽하게 끝을 내고 시대를 규정하려는 짓은 오만한 시도라고 인정하며 오히려 더욱 질문을 던진다. 이 책의 목적은 인간의 이성을 초월한 기계와 함께 살아갈 주체들이 인류의 목적을 정의하도록, 더 활발한 논의와 논쟁에 불을 지피는 것이다. 『AI 이후의 세계』는 일자리를 구하려는 학생부터 아이를 키우는 부모, 글로벌 리더까지 모두가 읽어야 할 훌륭한 AI 입문서다.

[추천사]
특이점 이후의 대안세계를 탐색하고 항해하려는 사람에게 좋은 독서가 될 것이다.
《커커스 리뷰》

기술계에 널리 퍼진 ‘인공지능 운명론(AI fatalism)’을 훌륭하게 반박한다. AI의 도래는 불가피한 미래이며 우리는 그 변화 앞에서 무력하다는 믿음이다. 저자들은 “아직은 인간이 주도권을 쥐고” AI를 통제하며, “우리의 가치관에 부합하는 미래를 조성”할 기회가 있다고 말한다. 또한 많은 사람이 인간에 필적하는 지능을 가진 킬러 로봇을 막연히 걱정하지만, 실제로 우리가 매일 사용하는 SNS에 도사린 피드 순위 알고리즘 같은 AI가 가까운 시일 내에 더욱 큰 위협으로 다가올 것이라고 올바르게 지적한다.
《뉴욕 타임스》

기계가 사람보다 똑똑한 세상에서 인간으로 산다는 것은 무엇을 의미하는가? 이 책은 답을 내리기보다 더 많은 질문을 던진다. 하지만 그것이 요점이다. 인간이 더 나은 삶을 추구하는 데에 AI가 장애물이 아닌 파트너가 되도록 만들려면 어떻게 해야 하는지, 광범위한 대화를 유도한다.
《포린 어페어스》

‘AI 이후의 세계’에 온 것을 환영한다. 인공지능이 인간을 대체하는 상황이 도처에서 목격되고 있으며, 우리는 곧 제2의 지능을 갖춘 존재로 밀려날 것이다. 이 책은 인간과 AI의 최종적인 융합은 어떤 형태이고, 이러한 전환을 우리가 어떻게 준비해야 하는지 말한다.
《파이낸셜 익스프레스》

AI시대에 경제, 정치, 안보, 그리고 지식이 어떻게 재조명되는지 탐구한다. 정치인, CEO, 학자로서 다양한 경험을 바탕으로, 우리가 현실을 경험하는 방식에 AI가 가져올 극적인 변화를 강조한다.
《포브스》

최고의 지성들이 한자리에 모였다. AI가 우리 삶에 더 깊이 통합되는 과정과 그것이 제공하는 기회 및 한계를 명확히 밝힌다.
《뉴스위크》

AI를 조심스럽게 다루고 통제할 기관을 세우라는 유익한 조언으로 경각심을 일깨운다. 세 저자는 방대한 경험과 다재다능함을 활용하여 21세기 가장 긴급한 논쟁에 기여한다.
《이코노미스트》

 

출처: 「AI 이후의 세계」 출판사 윌북