기계를 향한 욕설: “Cancel”

by Yun

영화 ‘엘리시움(Elysium)’을 보았다.

메마른 사막에 위치한 디스토피아적 슬럼가의 모습이나 미래 무기에 대한 묘사[1], 2001: A Space Odyssey를 연상시키는 우주에 떠 있는 거대한 훌라후프형 위성체도 인상적이지만, 아주 사소한, 아무도 알아채지 못하고 지나칠 수 있는 부분이 나를 사로잡았다.

영화 초반, 조디 포스터가 처음으로 화면에 등장하는 때는 엘리시움에서 열리는 일종의 연회 혹은 파티 장면이다. 집사처럼 앞치마를 두른 드로이드가 조디 포스터에게 술을 더 마시겠느냐고 공손히 묻는데, 조디 포스터는 퉁명스럽게 대답한다.

“Cancel.”[2]

그리고 이 부분에 대한 한국어 번역은 “꺼져버려.”라고 스크린에 띄워졌다.






Siri를 사용해서 Reminder를 설정하면, 일반적으로 다음과 같은 대화가 오간다.

나: “Remind me to write a post at 11 PM.”
Siri: “Here’s your reminder for today at 11 pm:”
(그리고 Reminder 카드가 나오며, 내가 Confirm 혹은 Cancel이라고 말하기를 기다린다.)

여기서 내가 취소하려고 “No”라고 말하면, Siri는 알아듣지 못하고 나에게 Confirm, Cancel, Change the time 혹은 Change the title 할 수 있다고 대답한다.
Siri는 아주 제한적인 방법의 긍정 혹은 부정밖에 이해하지 못한다.[3][4]

Reminder1

Remind 2

음성인식 기술이 많이 발달했음에도 불구하고 아직 갈 길이 멀다. 정해진 대답이 아니면 알아듣지 못한다. 모호한 질문도 이해하지 못한다. 그리고 사람들은 이러한 멍청한 기계들과 대화하는 방법을 터득한다.

내가 예전에 번역한 Adam Lisagor의 글 일부엔 이렇게 쓰여있다.

From Siri’s acceptance or rejection of our commands or requests, comes a feedback loop that trains us to constrain our thoughts to the crucial data.

As we learn to speak to Siri, we’ll learn more about how we formulate ideas into words, how to express those so that they may be understood with less margin of error, ultimately shortening the gap between intention and comprehension.

Siri가 네 명령이나 요청을 알아듣거나 거부하는 반복되는 루프는, 우리를 Siri에게 말하기 전에 우리의 생각을 요점을 추린 데이터(Crucial Data)로 제한하게끔 훈련할 것이다.

우리가 Siri에게 말하는 법을 배움으로써, 우리는 생각을 단어로 구체화하는 법, 그러한 단어들을 오류 없이 표현해내는 법, 궁극적으로 (화자가 말하는) 의도와 (청자가 얻는) 이해의 차이를 좁히는 법을 학습할 것이다.

“Cancel”이라는 표현은 내가 Siri와 대화하면서 Siri가 소화할 수 있도록 학습한 표현방식이다. 그리고 나뿐만 아니라 많은 사람은 컴퓨터를 사용하면서 이러한 표현방법을 체득해오고 있다. 컴퓨터를 사용할 때 사용자에게 결정에 대한 확신을 재차 요구하는 팝업창은 “확인”/“취소”라고 적혀있다. 실제 대화에서는 사용하지 않는 딱딱한 표현이다. 컴퓨터가 사용자가 의도하지 않은 작업을 수행하거나 오작동을 일으키면 사용자는 반사적으로 “취소”버튼을 찾거나 esc 혹은 ctrl+alt+del를 연타한다.






이제 시간이 흘러 기계가 사람의 자연언어를 (혹은 행동까지도) 모두 이해할 수 있는 수준으로 발전하고 AI가 보편화된 세상을 상상해보자. 사람들은 더이상 “취소”(혹은 “Cancel”)라고 부자연스러운 표현을 사용할 필요가 없다. “괜찮아. 안 해도 돼.”, “필요 없을 것 같아.”라고 대답하거나, 그저 손사래를 쳐도 기계는 이해할 수 있다.

여기에 더해, 감정을 가진 AI가 도래한 시대를 가정해보자. 마치 스티븐 스필버그의 영화 AI에 등장하는 기계들처럼, 기계가 감정을 가질 뿐만 아니라 그들끼리 대화하고 인간보다 열등한 지위로서의 사회 구성원으로 자리 잡게 된 세상을 가정해보자.[5]

그곳에서 “Cancel”은 기계에 대한 모욕이 될 것이다. 맷 데이먼의 “No, I’m okay, thank you.”와 같은 바보 같은 억양도 기계를 비하하는 표현이 될 것이다. 인간을 이해하지 못하는 멍청한 기계라는 의미를 내포한 모멸의 표출이다.

“Negro”라는 단어가 단지 검은색을 의미하는 스페인어와 포르투갈어에서 흑인을 비하하는 의미로 변모한 것처럼, 기계문명이 발달하여 AI가 보편화된 세상에서 “Cancel”이라는 단어가 기계를 비하하는 단어가 될 수 있다는 생각, 조디 포스터의 사소한 대사 한 마디가 나를 여기에 닿게 했다.

아니, 우린 이미 컴퓨터가 감정을 이해 못하는 지금도 ctrl+alt+del를 분노와 함께 내리치고 있지 않은가?



  1. District 9과 같은 감독의 영화이다 보니 전반적으로 비슷한 느낌의 요소가 많았다.  ↩
  2. 사실 아주 정확하게 들은 것이 아니다. 아주 빠른 찰나에 지나갔는데 나는 Cancel이라고 들었다. 나중에 영화가 DVD로 풀린 후 스크립트를 확인해보고 싶지만, 그때까지 이 글을 안 쓰고 기다릴 수 없었고, 사실 글을 계속 읽어보면 실제로 조디 포스터가 Cancel이라고 했는지는 크게 중요하지 않다는 걸 알 수 있다.  ↩
  3. 시험 삼아 여러가지를 시도해보았다.
    “That’s okay. It’s done now.”라고 하면 Confirm으로 처리된다.
    “Don’t.”, “Don’t do it.”은 이해하지 못한다.
    엘리시움의 트레일러에 나오는 맷 데이먼의 대사, “No, I’m okay, thank you.”와 “Negative.”라고 대답해도 이해하지 못하고 재차 대답을 요구한다.
    “I don’t need it.”도 이해하지 못한다.
    “Forget it.”은 Cancel로 처리된다.  ↩
  4. 사실 Confirm과 Cancel 중 하나를 택하도록 요구하는 화면에서 No라는 부정형으로 대답하는 것 자체가 어법에 맞지 않아서 이해하지 못하는 것일지도 모른다. 하지만 No는 명백하게 부정을 표현하는, ‘네가 지금 하려는 게 뭔지 몰라도 멈추라는 표현’인데 이것을 이해하지 못하는 것은 문제가 있다고 생각한다.  ↩
  5. 감정을 가진 기계를 인간과 동등한 자주체로 인정해야 할 것이냐는 내가 감히 이야기하기에 너무 거대한 담론이다. 이러한 생각이 재밌다면 블레이드 러너(Blade Runner), 바이센테니얼맨(Bicentennial Man)과 같은 영화를 추천한다.  ↩