21세기를위한 21가지 제언 - 유발 하라리

p39. 대부분의 사람들은 21세기 초 자유주의 질서의 보호 아래 경험했던 것보다 더 큰 평화나 번영을 누려본 적이 없다. 인류 역사상 처음으로 전염병에 의한 사망자가 고령으로 인한 사망자보다 적었고, 기아로 숨진 사람이 비만으로 인한 사망자보다 적었으며, 폭력에 의한 사망자가 사고로 인한 사망자보다 적었다.

p45. 인간에게는 두 가지 유형의 능력이 있다. 육체적 능력과 인지적 능력이다. 과거 기계가 인간과 경쟁한 것은 주로 순수 육체적 능력에서였다. 반명에 인간은 인지력에서 기계보다 월등하게 유리했다. 그 결과, 농업과 산업 분야의 수작업은 모두 자동화되었지만, 인간에게만 있는 인지적 기술이 필요한 새로운 서비스직들이 생겨났다. 인간만의 인지적 기술이란 학습과 분석, 의사소통, 무엇보다 인간감정을 이해하는 능력을 말한다. 그렇지만 AI는 이제 이런 기술에서도 점점 인간을 추월하고 있다. 여기에는 인간 감정의 이해까지 포함된다. 우리는 육체적 능력과 인지적 능력을 넘어, 인간이 언제까지나 확고한 우위를 유지할 제3의 활동 영역을 알지 못한다. AI혁명은 컴퓨터의 처리 속도가 빨라지고 똑똑해지는 것에 국한되지 않는다는 사실을 아는게 대단히 중요하다. 여기에는 생명과학과 사회과학 분야의 획기적인 발전들도 가세한다.

p104. 우리가 자율주행 차량을 프로그래밍 할 때 곤경에 처한 낯선 사람을 발견하면 먼춰서 돕도록 입력해두면, 어떤 어려움이 닥치더라도 그렇게 실행할 것이다. 마찬가지로 당신의 자율주행 차량이 길 위의 두 아이를 구하기 위해 반대 차선으로 방향을 틀도록 프로그래밍 돼 있다면, 말 그대로 당신의 목숨을 걸고라도 반드시 그러게 실행에 옮길 것이다. 이 말은 도요타나 테슬라가 자율주행 차량을 설계할 때 도덕철학의 이론적인 문제를 현실적인 공학의 문제로 바꿔놓을 것이라는 이야기다.

p107. 그럴 경우 테슬라가 생산하는 자율주행 차량은 두 가지 모델이 될 것이다. 바로, 테슬라 박애주의자와 테슬라 에고이스트다. 긴급상황에서 박애주의자는 더 큰 선을 위해 주인을 희생기키는 반면, 에고이스트는 주인을 구하기 위해 할 수 있는 모든 것을 다 한다. 심지어 두 아의 사망을 초래할 위험을 무릅쓰고라도. 그러면 고객은 그중에서 자신이 선호하는 철학적 견해에 맞는 차량을 구입할 것이다. 

p129. 데이터를 손에 넣기 위한 경주는 이미 시작됐다. 선두 주자는 구글과 페이스북, 바이두, 텐센트 같은 데이터 거인들이다. 지금까지 거인들의 다수가 채택해온 사업 모델은 '주의 사냥꾼'처럼 보인다. 무료 정보와 서비스, 오락물을 제공해 우리의 주의를 끈 다음 그것을 광고주들에게 되판다. 하지만 데이터 거인들이 추구하는 목표는 이전의 그 어떤 주의 장사꾼들보다 훨씬 높다. 이들의 진짜 사업은 결코 광골ㄹ 파는 것이 아니다. 오히려 우리의 주의를 사로잡아 우리에 관한 막대한 양의 데이터를 모으는 것이다. 이것이야말로 그 어떤 광고 수익보다 훨씬 가치가 크다. 그러니까 우리는 고객이 아니라 그들의 생산품인 것이다. 중기적으로 볼 때 이런 식으로 데이터가 비축되면 근본적으로 다른 사업 모델이 열리는데, 그 첫 희생자는 광고 산업 전체가 될 것이다. 새로운 모델의 기반은 인간의 권위가 알고리즘으로 옮겨가는 것이다. 여기에는 어떤 것을 골라서 구매하는 권위까지 포함된다. 알고리즘이 우리를 위해서 뭔가를 고르고 구매하기 시작하면 전통적인 광고 산업은 파산할 것이다. 

p131. 지금 당장은 데이터를 기반으로 어떻게 돈을 벌어야 할지 모른다 해도 가지고 있는 것만으로도 가치는 충분하다. 데이터야말로 미래에 생활을 통제하고 형성하는 데 열쇠가 될 수 있기 때문이다. 나는 데이터 거인들이 얼마나 명확하게 그런 측면에서 이 문제를 생각하고 있는지는 확신할 수 없다. 하지만 그들의 행동을 보면 그들이 단순히 돈보다는 데이터를 모으는 데 가치를 두고 있음을 알 수 있다.

p391. 이런 세상에서 교사가 학생들에게 전수해야 할 교육 내용과 가장 거리가 먼 것이 바로 '더 많은 정보'다. 정보는 이미 학생들에게 차고 넘친다. 그보다 더 필요한 것은 정보를 이해하는 능력이고, 중요한 것과 중요하지 않은 것의 차이를 식별하는 능력이며, 무엇보다 수많은 정보 조각들을 조합해서 세상에 관한 큰 그림을 그릴 수 있는 능력이다.

p393. 그렇다면 우리는 학생들에게 뭘 가르쳐야 할까? 많은 교육 전문가들은 학교의 교육 내용을 '4C' 즉 비판적 사고 Critical thinking, 의사소통 Communication, 협력 Collaboration, 창의성 Creativity, 으로 전환해야 한다고 주장한다. 보다 포괄적으로 말하면, 학교는 기술적 기량의 교육 비중을 낮추고 종합적인 목적의 삶의 기술을 강조해야 한다. 무엇보다 중용한 것은 변화에 대처하고, 새로운 것을 학습하며, 낯선 상황에서 정신적 균형을 유지하는 능력일 것이다. 2050년의 세계에 발맞춰 살아가려면 새로운 생각과 상품을 발명하는 데 그쳐서는 안된다. 무엇보다 자기 자신을 반복해서 재발명해야만 할 것이다. 왜냐하면 변화의 속도가 점점 빨라지면서 경제뿐 아니라 '인간이라는 것'의 의미 자체가 변할 가능성이 높기 때문이다.

p412. 영원은 최소한 138억 살이다. 현재 우주의 나이다. 지구라는 행성은 약 45억 년 전에 생겼고, 인간이 출현한 것은 최소 200만 년 전이다. 반면에 예루살렘 시는 불과 5,000년 전에 세워졌고, 유대인의 역사는 기껏해야 3,000년이다. 도무지 영원이라고는 할 수 없다. 미래로 말할것 같으면, 물리학은 지구가 지금부터 약75억 년 후에는 팽창하고 있는 태양에 흡수될 것이도, 우리 우주는 최소한 130억 년은 더 존재할 것이라고 말한다. 

p486. 우리는 결코 인간의 어리석음을 과소평가해서는 안 됩니다. 그것은 역사상 가장 강력한 힘 가운데 하나였습니다.

p492. 괴로움의 본질은 실체의 거부입니다. 당신은 어떤 것 -고통이든 쾌락이든- 을 경험하면서 그 밖의 것을 바랍니다. 고통을 경험할 때에는 그 고통이 사라지기를 바랍니다. 쾌락을 경험할 때는 쾌락이 강해지고 영원히 지속되기를 바랍니다. 이런 실체의 부정이 모든 괴로움의 뿌리입니다. 우리는 실체를 있는 그대로 받아들이도록 스스로 훈련해야 합니다. 계속해서 고통에서 달아나고 더 많은 쾌락을 쫓아 달려가는 대신, 보다 균형 잡힌 정신을 유지하는 법을 배워야 합니다. 고통과 쾌락에 대해 불필요한 괴로움을 일으키지 않고 둘 다 있는 그대로 경험하는 법을 배워야 합니다.

끝.