AI 이후의 세계 전망

2. 목차
한국어판 서문: 생성형 AI가 사피엔스에게 던지는 화두
머리말: 챗GPT는 지적 혁명을 예고한다
들어가며
1장. 현주소
2장. 그간의 궤적: 기술과 사유의 역사
3장. 튜링의 시대에서 현재, 그리고 그 너머로
4장. 글로벌 네트워크 플랫폼
5장. 안보와 세계질서
6장. 인간의 정체성
7장. 미래
The Age of AI and
Our Human Future

3. 한국어판 서문
김대식: KAIST 뇌과학자
• 노동에는 끝이 없고 미래는 불안하다.
• 대장장이 신: 헤파이스토스 (기계 노예)
• 컴퓨터의 등장과 자연어처리(NLP)
• 기호(규칙) 기반 AI에서 신경망으로
• Deep Learning 성공 요인: Big Data, 고성능 컴퓨터, 학습 알고리즘
• 트랜스포머(transformer)와 GPT 출현
인류는 새로운 변곡점에 서 있다.

4. inflection point (변곡점)

5. 머리말
ChatGPT는 지적 혁명을 예고한다.
• 구텐베르그의 인쇄술 발명  생성형 인공지능
• ‘인간의 사고‘, ‘인간과 기계의 협력‘ 등에 개념 정립
• 계몽주의 이래로 인류가 경험하지 못한 철학적 현실적 과제 제기
• 계몽주의 시대의 인간/과학: 가설, 관찰, 귀납, 발견
• 수백억 텍스트와 도서 정보 순식간에 학습
• 설명 불가능
• 개발자조차도 생성형 AI의 역량을 이해하지 못함.
• ChatGPT: 초거대 언어모델(LLM)로 인간의 능력을 초월, 인지력

7. • 생성형 AI의 상업적 가치/ 비상업적 가치 확대
• 생성형 AI 확산: 교육, 과학, 정비, 외교안보, 군사, 문화예술, 사회,…
• 인간은 방대해지는 정보속에 인지력 한계  의존 심화
• 모델 답변 과신: 자동화 편향, 기계 종속
• 진실과 거짓 구분 모호: 환각 현상, 확률적 앵무새
• 설명 불가
• 인간의 부정적 활용
• 비판력, 사고력, 작문력, …등 저하
• 생성형 AI와 인간 경쟁: 북종할 것인가 반항할 것인가
• 데이터 / 기술 독점과 지배
• 강력한 도덕적 / 전략적 지도 체계 필수
우리는 임박한 미래를 우리 손안에 두어야 한다. 책임감 있게 사용되도록
한계를 설정하고 통제하여야 한다. 기술과 공생하는 인간, 호모 테크니쿠스가
된 우리는 인류의 목적을 정의할 책임이 있다.

9. • 생성형 AI의 상업적 가치/ 비상업적 가치 확대
• 생성형 AI 확산: 교육, 과학, 정비, 외교안보, 군사, 문화예술, 사회,…
• 인간은 방대해지는 정보속에 인지력 한계  의존 심화
• 모델 답변 과신: 자동화 편향, 기계 종속
• 진실과 거짓 구분 모호: 환각 현상, 확률적 앵무새
• 설명 불가
• 인간의 부정적 활용
• 비판력, 사고력, 작문력, …등 저하
• 생성형 AI와 인간 경쟁: 북종할 것인가 반항할 것인가
• 데이터 / 기술 독점과 지배
• 강력한 도덕적 / 전략적 지도 체계 필수
우리는 임박한 미래를 우리 손안에 두어야 한다. 책임감 있게 사용되도록
한계를 설정하고 통제하여야 한다. 기술과 공생하는 인간, 호모 테크니쿠스가
된 우리는 인류의 목적을 정의할 책임이 있다.

10. 1장
현주소
• 알파고 / 알파 제로
• MIT 항생제 개발: 할리신
• GPT-3
• AI는 인간보다 학습 속도가 훨씬 빠르다.
• AI의 종착지를 단언할 수 없다.
• AI의 유용성: 원가절감, 의사결정, 관리 효율성, 문제해결, 재해예방…
• 인간의 모든 삶의 영역에서 활동한다.
AI가 생각할 수 있다면, 혹은 생각을 흉내낼 수 있다면,
우리는 누구인가?

12. 1장
현주소
• 알파고 / 알파 제로
• MIT 항생제 개발: 할리신
• GPT-3
• AI는 인간보다 학습 속도가 훨씬 빠르다.
• AI의 종착지를 단언할 수 없다.
• AI의 유용성: 원가절감, 의사결정, 관리 효율성, 문제해결, 재해예방…
• 인간의 모든 삶의 영역에서 활동한다.
AI가 생각할 수 있다면, 혹은 생각을 흉내낼 수 있다면,
우리는 누구인가?

14. 1장
현주소
• 알파고 / 알파 제로
• MIT 항생제 개발: 할리신
• GPT-3
• AI는 인간보다 학습 속도가 훨씬 빠르다.
• AI의 종착지를 단언할 수 없다.
• AI의 유용성: 원가절감, 의사결정, 관리 효율성, 문제해결, 재해예방…
• 인간의 모든 삶의 영역에서 활동한다.
AI가 생각할 수 있다면, 혹은 생각을 흉내낼 수 있다면,
우리는 누구인가?

15. 2장
그 간의 궤적: 기술과 사유의 역사
• 고대: 이성과 신안으로 탐구
• 중세: 유일신교의 등장  신앙 중심의 세계관
인쇄술의 발명  종교 개혁
• 인문주의: 개개인의 주체성 존중 (레오나드도 다빈치, 미켈란젤로,…)
르네상스
• 계몽주의: 수학, 천문학, 자연과학의 성장
사유하고 판단하는 능력  이성의 시대
이성, 신안, 현실의 관계 불분명
칸트: 이성의 한계 지적
인간은 사유하는 존재: 이성적 존재

16. • 근대: 절대성, 불변성 붕괴
상대성 이론과 양자 역학
비트겐슈타인: 단일한 본질의 개념을 배제. 가족 유사성, 주장
유형과 패턴으로 인식
이제 우리는 AI로 인해 허락되는 새로운 인식 혹은 이해의 차원에 관한
탐구를 시작할 시점에 이르렀다.
(계몽주의, 칸트, 비트겐슈타인, 현대과학) 사유하는 인간이 정신으로
세상의 각종 현상을 발견, 인지, 체계화하는 유일한 존재로서 앉아
있었던 왕좌를 포기해야 하는 새로운 시대가 열리고 있다.

17. 3장
튜링의 시대에서, 현재로, 그 너머로
• 디지털 컴퓨터의 등장과 모방 게임 (튜링 테스트)
튜링 머신
• 기호 (규칙) 기반  인간이 학습 시킴
• 신경망 기반  스스로 학습 (경험을 통한 학습)
AI의 진화

18. • 예측, 발견, 번역, 생성, 분류, 분석, ….
머신 러닝 (Deep Learning)의 힘
• 인간의 이해력을 넘어서는 진실을 도출하기도…
인간처럼 맥락을 이해하거나 행동을 반추하지 못하므로 주시 필요
• 신경망 기반  스스로 학습 (경험을 통한 학습)
• 항공기 제조 : AI 프로그램 개발
AI의 한계와 관리
• 발전 속도 예측 불가
• 변화가 사회에 미칠 파급력 예측 불가
(양극화 / 기짜뉴스 / 혐오 발언 / 일자리 /…)
AI의 발전 방향: 범용 인공지능이라는 꿈

21. • 예측, 발견, 번역, 생성, 분류, 분석, ….
머신 러닝 (Deep Learning)의 힘
• 인간의 이해력을 넘어서는 진실을 도출하기도…
인간처럼 맥락을 이해하거나 행동을 반추하지 못하므로 주시 필요
• 신경망 기반  스스로 학습 (경험을 통한 학습)
• 항공기 제조 : AI 프로그램 개발
AI의 한계와 관리
• 발전 속도 예측 불가
• 변화가 사회에 미칠 파급력 예측 불가
(양극화 / 기짜뉴스 / 혐오 발언 / 일자리 /…)
AI의 발전 방향: 범용 인공지능이라는 꿈

22. 4장
글로벌 네트워크 플랫폼
SNS, 웹검색, 영상 스트리밍, 인터넷 쇼핑,…: 네트워크 플랫폼
• 소수 플랫폼만 살아 남는다.
• 플랫폼 운영자는 정부나 국가를 고려하지 않는다.
• 국가를 능가하는 규모의 경제적, 사회적 상호작용을 촉진하거나
유발한다. (대부분 미국/중국)
• SNS 등이 정치적, 지정학적 측면에서 국가 제도 변화 촉진
네트워크 플랫폼 이해하기
• AI 기반 네트워크 플랫폼이 삶에 더욱 깊이 침투  의존성 심화
• 그런 AI를 누가 우용하고 한계를 전하는가?
• 그런 AI가 사회 규범과 제도에 어떤 영향을 미치는가?
커뮤니티, 일상, 네트워크 플랫폼

23. • 네트워크 플랫폼과 AI가 사회 정치적으로 막강한 영향력 행사
• 기업이 국가, 국제적 차원에서 사회와 경제에 막강한 영향력 행사
• 네트워크 플랫폼과 정보 활동의 교차 지점에서 예상치 못한 결과 발생
기업과 국가
• 정보 유출
• 토종 플랫폼이 없는 경우
• 타국 정부 플랫폼에 소극적 의존
• 자국민의 데이터 유출 등 잠재적 위협에 무방비
• 잠재적 위험 요소를 염두에 두고 플랫폼 잘 사용
네트워크 플랫폼과 지정학

24. 5장
안보와 세계 질서
• 전쟁은 무기 발전 촉진
• 강대국은 안보에서 AI의 중요성 인식
• 화학 무기/ 핵무기는 통제와 억제
사이버 전과 AI 시대
• 스턱스넷: 이란 핵 시설 파괴
• 사이버 무기특성상, 사이버 군비 통제를 정의 / 실행 관란
• SNS로 타국 선거개입 / 흑색선전/ 허위정보 유포/내정간섭/…
• AI 기반 무기와 AI 무기
• 자율 살상 무기
• AI는 국가 안보에 필수. 각국의 이해 관계로 제한 어려움.
디지털 시대의 분쟁

26. 5장
안보와 세계 질서
• 전쟁은 무기 발전 촉진
• 강대국은 안보에서 AI의 중요성 인식
• 화학 무기/ 핵무기는 통제와 억제
사이버 전과 AI 시대
• 스턱스넷: 이란 핵 시설 파괴
• 사이버 무기특성상, 사이버 군비 통제를 정의 / 실행 관란
• SNS로 타국 선거개입 / 흑색선전/ 허위정보 유포/내정간섭/…
• AI 기반 무기와 AI 무기
• 자율 살상 무기
• AI는 국가 안보에 필수. 각국의 이해 관계로 제한 어려움.
디지털 시대의 분쟁

27. • 주기적 대화
• 전략적 / 기술적 / 도덕적 차원에서 문제 중요성 인식
• 자국의 정책과 한계확립
• 조기 경보 체제와 같은 안전장치 구축
• 극단적 상황에 대비하는 체제 구축
• AI 무기 확산 제한과 방지 체제 구축
새로운 시대의 오래된 경쟁

28. 6장
인간의 정체성
인간의 자율성 / 존엄성 같은 개념과 AI는 어떻게 얄립할 수 있을까?
• AI 기반 대출 심사
• AI 기반 취업 면접 / 업무 평가 및 승진
• 일자리
• 의사 결정
• 과학 연구
• 교육과 평생 학습 (AI 기반 맞춤 교육,…)
인간에 대한 개념 변화

29. • AI 시대에도 중대한 판단의 주체는 올바를 자격을 갖추고 이유를
제시할 수 있으며, 익명이 아닌 인간이어야 한다.
• AI가 계속 발전하는 세산에서는 이에 걸맞는 제도가 반드시
확립되어야 한다.
인간의 미래
• AI 혁명은 예상보다 빠르게 진행
• 도덕적, 철학적, 심리적, 실용적…모든 차원에서 새시대의 벼랑
• 이성, 신앙, 전통, 기술 등 인간성을 유지 하되, 현실과 우리의 관계 재정립.
현실과 인간에 관한 인식

30. 7장
미래
인간의 지능을 흉내 내는 기계가 더 좋은 결과를 더 빨리 도출하는 것이
필수 요소로 간주되면, 인간의 이성만을 사용하는 것은 구시대적 행태
• 맹종하거나, 거부하거나, 어정쩡하거나
• 제한하거나, 협력하거나, 떠르거나
문명의 차원에서 AI를포기할 수는 없다.
AI 등장으로 인류는 새로운 세계로 전진
컴퓨터과학자, 기업가, 군사전략가, 정치가, 철학자, 신학자  단편적
AI와 인간이 연합해서 국가적, 국제적 윤리 체계 확립

31. 챗GPT의 등장, 인류의 미래는?
https://www.youtube.com/watch?v=SEXbdNKtjqY
이제 AI가 정말로 무서울 지경...
https://www.youtube.com/watch?v=zeaVXwKkiAA
관련 사이트