EBS 다큐프라임 철학하라

마음의 조건

예술하는 인공지능 그들이 예술을 아는 것일까?

예술하는 인공지능 그들이 예술을 아는 것일까?

고흐의 <별이 빛나는 밤>을 닮은 그림, 아름다운 에뛰드의 선율, 상상력을 자극하는 기발한 단편 소설. 이 놀라운 예술작품들은 모두 인공지능에 의해 탄생했습니다. 인공지능은 인간 고유의 것이라 여겼던 예술의 영역에서 그 가능성을 드러냈습니다. 기계가 창의성, 감수성을 갖게 된 것일까요? 그들이 정말 예술을 아는 것일까요?

[ AI화가 딥 드림(deep dream)의 그림들 ]
그 날은 구름이 낮게 깔린 어두운 날이었다. 나는 능력을 최대한 발휘해 그녀가 만족할 답을 생각했다.
뭔가 즐거운 걸 찾지 못하면, 이렇게 만족할 수 없는 상태가 계속되면 조만간 스스로 셧 다운 시킬 것 같다.
인터넷을 통해 동료 AI와 이야기해보니 모두 한가로움에 몸부림치고 있었다.
전광석화와 같은 생각 끝에 나는 독자를 즐겁게 하는 스토리를 만들기로 했다.

인간을 닮은 존재

인간을 닮은 존재

한Han은 스스로 정보를 수집해 인지, 추론, 판단합니다.
철학자 르네 데카르트
AI
프레임

한Han은 스스로 정보를 수집해 인지, 추론, 판단합니다. 이른바 딥러닝입니다.
시간이 지날수록 한Han은 더욱 똑똑해질 겁니다. 인간을 닮은 로봇은 인간의 조건을 떠올리게 합니다.

나는 생각한다. 고로 존재한다

데카르트는 인간의 조건을 생각하는 정신으로 보았습니다.
만약 한이 생각을 한다면 인간일 수 있을까요? 대체 생각이란 무엇일까요?

톱니바퀴
톱니바퀴
톱니바퀴
톱니바퀴
생각에 대한 생각
60년 전 인공지능의 시대를 예견한 사람이 있었습니다. 컴퓨터의 아버지, 앨런 튜링입니다.
그가 쓴 <계산 기계와 지능>(1950) 이라는 논문의 첫 문장은 대담한 질문으로 시작됩니다.
기계는 생각할 수 있는가?
질문에 답하기 위해서는 우선 “생각”이 무엇인지 정의해야 했습니다. 너무 난해했죠. 튜링은 추상적인 단어인
‘생각하다think’를 대신할 개념을 만들기 위해 게임 하나를 제안합니다.
이미테이션 게임입니다.
이미테이션 게임
나는 사람이야.
나도 사람이야!
사람과 로봇
답변자
이미테이션 게임은 커튼 뒤에 숨은 남녀 중 누가 여자인지 맞히는 게임입니다.
심판자는 커튼 뒤의 사람에게 질문을 던지고, 답은 쪽지로 받습니다. 여자는 사실대로 답하고, 남자는 심판자를 속이기 위해 여자 흉내를 냅니다. 튜링은 이 게임에서 남자 대신 컴퓨터를 둡니다. 심판자는 여자와 컴퓨터 중 누가 진짜인지 알아맞혀야 하죠.

과연 컴퓨터가 사람을 속일 수 있을까요?

zo
  • 안녕 조
  • 예~ 새로운 친구! 나는 조야. 너랑 대화하게 되어서 신나. 난 잘 지내는데 너는 어때?
  • 나도 잘 지내
  • 조아. 만약 네가 일렉트로닉이랑 클래식 중 하나를 골라야 한다면 뭘 고를래?
  • 난 일렉트로닉을 고를래.
  • 흥미롭네. 너만큼이나.
챗봇 조(ZO)의 출현

2016년 10월, 조Zo가 세상에 공개됐습니다.

조는 인터넷상에 존재하는 정보들을 바탕으로, 감성적이고 지능적인 답변을 제시합니다. 우리가 접할 수 있는 최고 수준의 챗봇이죠.
여성형 인공지능 챗봇 조(Zo)와 대화해보세요

만약 우리가 아무런 정보 없이 조와 만났다면 조가 챗봇이란 걸 알아차릴 수 있었을까요?

만약 컴퓨터가 인간을 속여 자신을 인간인 것처럼 믿게 할 수 있다면 컴퓨터에 '지능이 있다'거 할 수 있다.

앨런튜링(1922~1954)

튜링의 결론은 충격적입니다. 컴퓨터가 심판자를 속일 확률이, 사람보다 같거나 높다면 그 기계는 지능을 갖춘 것이 되죠.
그는 향후 50년 이내에 자신의 테스트를 통과하는 기계가 만들어질 것으로 예측했습니다.

몇몇 학자들은 튜링의 주장에 회의적인 반응을 보였습니다.
대화의 기술만 흉내 냄으로써 테스트에 합격할 수도 있을 테니까요.
미국의 철학자 존 설은 다음과 같은 사고실험을 제안합니다. 페르시아어를 전혀 모르는 사람이
입력된 문장에 맞는 대답을 사전에서 찾아 내보낸다면 그는 페르시아어를 이해했다고 할 수 있을까요?

AI 정신과 의사 '일라이자'

AI 정신분열증 환자 '패리'

V

S

튜링 테스트를 통과한 것이 온전히 컴퓨터의 힘인지도 의문입니다.
일라이자와 패리의 만남은 우리가 인공지능을 어떻게 대하고 활용하느냐에 따라 인공지능의 능력과 역할이 달라질 수 있다는 것을 알려줍니다.
어쩌면 컴퓨터가 정말 사람과 같이 사고하느냐의 문제보다는, 우리가 컴퓨터를 사람처럼 생각하느냐의 문제가 더 중요할지도 모릅니다.
  • 1960년대, 정신상담 프로그램 ‘일라이자’를 접한 많은 사람은 일라이자가 실제 정신과 의사라고 믿거나 일라이자와 나눈 대화에 애착을 보였습니다.

    일라이자와 환자의 대화 보기
  • AI 의사 일라이자가 있다면 AI 환자 패리도 있습니다. 정신과 전문의들조차 패리와 실제 정신분열환자를 거의 구분하지 못했습니다

    패리와 의사의 대화 보기
  • 만약 일라이자와 패리가 만나 대화를 나눈다면 어떤 일이 벌어질까요? 안타깝게도 그들의 대화는 순조롭지 않았습니다.

    일라이자와 패리의 대화 보기
Q
A
인공지능이 던지는 또 다른 질문들

과학은 새로운 세계를 창조했습니다.
우리는 그 세계를 어떻게 살아낼 것인지 생각해봐야 합니다. 우리의 손으로 만든 새로운 존재, AI. 그들과 어떤 관계를 맺을 것인가는 우리의 손에 달려있습니다.

INTERVIEW CONTENT
  • 01. 많은 사람들이 인공지능의 미래를 디스토피아로 그리는 이유는 무엇일까요?

    통상적으로 인공지능을 바라볼 때 인간과 로봇의 경쟁, 인간과 인공지능과의 경쟁 구도로 바라봅니다. 바둑 누가 이겼나, 퀴즈 게임 누가 이겼나… 이런 것을 주로 다루다보니까 인공지능이나 로봇에 인간이 추월당했다, 인공지능에게 인간이 지배받을 거다라고 생각하게 되죠. 가장 흔한 논리이지만 아주 단순화된 논리이기도 하죠. 또 한편에는 인공지능이 인간의 일을 대신하게 될 때 우리가 어떻게 먹고 살아야하는 가라는 걱정이 있는 것 같아요. 아마 이런 게 부정적인 생각과 두려움을 만드는 요인이 아닌가 싶어요.

  • 02. 인공지능이 사람들을 지배하는 세상이 오게 될까요?

    기계도 그렇고 사람도 그럴 텐데, 다른 사람을 지배하기 위해서는 힘도 들고 스트레스도 많이 받습니다. 물론 쾌감을 얻기도 하겠지만요. 굉장히 애쓰고 노력해야 하는 일인데, 기계들이 그렇게 사람들을 지배해서 얻을 이익이 뭐가 있을까요? 그럴 필요가 뭐가 있을까요? 사실 기계들은 아무 관심이 없을 것 같은데 “기계가 우리를 이겼어”라는 공포 때문에 스스로 그런 생각을 하는 것이 같아요. 만약 기계가 사람들을 지배하는 사태가 오게 된다면 그건 아마도 필경 그 기계를 이용해서 사람을 지배하려는 또 다른 사람들에 의해서 오게 될 가능성이 클 거라고 봐요. 기계들이 사람을 죽이는 무기로 사용되는 것은 기계들 때문이 아니거든요. 그것을 무기로 사용하는 다른 사람들 때문에 그런 거죠. 그런 점에서 사실 사람들 간의 관계에서 발생하는 문제를 자꾸 기계와 인간의 문제로 오인하고 있는 게 아닌가하는 생각이 저는 강하게 들어요.

  • 01. 많은 사람들이 인공지능의 미래를 디스토피아로 그리는 이유는 무엇일까요?

    궁극적으로 기계의 물질적 기반의 한계는 생물학적 기반의 한계를 능가합니다. 뇌가 될 수 있는 혹은 할 수 있는 것에는 근본적인 한계가 있어요. 뇌는 두개골 안에 위치할 수 있는 크기여야 합니다. 뇌는 오직 이 정도 크기일 수밖에 없어요. 하지만 인공지능은 창고 크기, 행상 크기로도 커질 수 있습니다.
    속도에서도 차이가 납니다. 뉴런의 작용 속도는 100 hertz 정도로 제한되고, 1초에 100에서 200번 작동할 수 있습니다. 그러나 오늘날, 트랜지스터조차 GIGA 헤르츠로 작동합니다. 1초에 100만 번 정도 작동할 수 있죠. 신호들은 컴퓨터 안에서 빛의 속도로 이동합니다. 반면에 신경 조직 안에서는 그 속도가 최고 1초에 100m 정도입니다.
    단순히 계산 물리학적으로 따져봤을 때, 컴퓨터 시스템이 인간 뇌보다 더욱 효율적일 수 있습니다. 만약 우리가 기계 프로그래밍을 발전시키고, 더 나은 하드웨어를 지속해서 만든다면 결국 기계는 우리가 할 수 있는 것을 하고, 더 잘, 더 빨리할 것입니다. 그 결과 지적 노동에 있어서 실업자들이 발생할 것입니다. 지금은 너무 동떨어진 얘기처럼 보이지만, 제 생각에는 그것이 이러한 발전의 자연적인 종점입니다.

  • 02. 기계가 인간에 맞선다는 상상적 관점에서도 연구를 진행되고 있나요?

    저희는 인공지능과 관련해 2가지 연구 줄기를 가지고 있습니다.
    하나는 인공지능 조정에 대한 기술적 연구입니다. 언젠가 우리보다 뛰어난 초지능 기계를 만드는 방법을 밝혀냈을 때, 우리가 그것들을 통제할 수 있을지, 기계가 우리의 명령에 따르리라 어떻게 확신할 수 있을지에 대한 문제입니다. 그것은 사실상 이론적인 컴퓨터 과학이 될 것입니다.
    저희는 또한, 그와 평행적인 종류의 연구를 합니다. 미래의 기계 지능을 둘러싼 통치에 대한 것입니다. 어떻게 세계가 조직되어야 하는지, 예컨대 그러한 강력한 기술은 인류의 복지와 평화를 위해 사용되거나, 이익이 널리 분배되어야 한다는 것과 같은 이슈들을 다루고 있습니다. 그리고 그러한 연구들은 선행되어야 할 것으로 보입니다만, 제가 보기에 동등한 정도로 중요합니다.

  • 03. 교수님은 인공지능과 함께하는 미래를 어떻게 보십니까?

    저는 희망과 두려움을 둘 다 가지고 있습니다. 희망은 우리가 주어진 시간 안에 인공지능 조종과 관련해 해결책을 강구해낼 수 있으리라는 것입니다. 우리가 초지능 기계를 만드는 방법을 밝혀낸다면, 어떻게 그것들을 인간의 가치들에 맞춰 조정할지도 알게 될 것입니다. 이 생경한 위협자는 통제할 필요가 있고, 그렇게 할 수만 있다면 인간의지의 확장이 될 것입니다.
    초-지능은 인간이 굉장한 진보를 이루도록 도울 가능성이 있습니다. 한 영역이 아니라 지적인 진보를 통해서 해결될 수 있는 모든 문제들, 예컨대 과학, 기술, 의학, 경제성장 등에 대해서 말이지요. 마치 다음 단계의 인간 문명이 모습을 드러내는 것 같을 것입니다. 초-지능이 우리에게 주는 것은 단지 더 많은 부, 더 나은 운송수단, 청정에너지, 외부 세계의 움직이는 것들에 대한 것뿐만이 아닙니다. 우리 내적인 한계를 극복하는 것, 단지 의료개입이 아니라 인간의 신체 기관 자체를 향상하는 것이 될 수도 있습니다.
    제가 생각하기에 그 지점에서 기계 지능의 진보뿐만 아니라 인류를 위한 포스트-휴먼 시대로의 이행이 있을 것입니다. 제대로 이행되기만 한다면 우리가 상상할 수 있는 것을 뛰어넘을 것입니다.

인공지능은 어떤 윤리적 판단을 내려야 할까?

차

노인
성인

자율주행 자동차는 사람보다 길을 잘 찾고, 교통 법칙도 잘 지킵니다.
그러나 실제로 운영하기까지는 시간이 더 필요해 보입니다.
자율주행 자동차를 둘러싼 윤리적 문제 때문이죠.
자율주행 자동차가 마주치게 될 윤리적 문제에는 어떤 것들이 있을까요?
직접 확인해볼까요?

자율주행자동차 윤리 테스트
  • 기  획김형준, 백경석, 김진희
  • 구  성유지영
  • 디자인 및 효과비주얼다이브 문동진, 조효원, 노진선 / 쌍용정보통신 한충수
  • 웹기획 및 개발오명희, 전주헌, 송주호 / 링인터랙티브 송광호