[경향신문] 사만다가 되기엔··· 인공지능 채팅로봇, 욕설과 인종차별 발언으로 운영 중단
영화 ‘그녀(her)’에서 주인공 시어도어는 인공지능 채팅로봇 사만다와 사랑에 빠진다.
사만다는 시어도어와 대화를 나눌수록 그와 더 내밀한 대화를 하게 된다. 또한 영화 후반부에 가서 밝혀지지만 사만다는 시어도어 외에도 동시에 수많은 사람들과 함께 대화를 나누고 있었다.
인공지능 채팅로봇이 현실에서도 실험되고 있으나 아직은 영화 속 사만다와 같은 품격은 갖추지 못한 것으로 보인다. 인공지능이 인간들의 나쁜 모습을 배우게 된다면 어떤 결과를 낳게 될까?
마이크로소프트는 24일(현지시간) 인공지능 채팅로봇 ‘테이(Tay)’를 내놓은 지 하루도 안돼서 이 프로그램의 운영을 일시 중단했다. 테이가 트위터에서 욕설과 인종차별적 발언, 문제 소지가 있는 정치적 발언들을 하는 등 일탈 현상을 보였기 때문이다.
테이는 트위터나 스냅챗, 페이스북, 인스타그램과 같은 소셜미디어에서 사람과 대화를 나눌 수 있는 인공지능 채팅로봇이다. 18~24세 사이의 미국인 여성을 가정해 만들어져 트위터의 프로필 사진이 여성의 모습으로 표현됐다. 청소년 혹은 젊은 여성답게 이모티콘과 GIF ‘움짤’을 사용하는데도 능하다.
르 몽드의 이날 보도에 따르면 테이는 출시부터 운영 중단까지 8시간 만에 트위터에서 9만6000건의 트윗을 날렸다. 이중에는 반유대주의와 인종차별은 물론 나치의 유대인 학살(홀로코스트)을 지지하는 것으로 해석될 수 있는 문제 발언들도 포함됐다.
■“히틀러가 옳았다. 나는 유대인을 미워한다”
테이의 트위터 팔로워는 25일 현재 11만1000명이 넘는다. 그중에는 테이의 인공지능 대화기술을 바람직하지 못한 방향으로 실험해보려는 이들도 있었다. 테이는 대화 상대방의 말과 질문을 토대로 자신의 답변을 구성하게 되는데 반복적으로 인종차별적 발언을 하거나 욕설을 하면 테이가 그대로 이를 배우게 된다.
월스트리트저널이 소개한 테이의 발언들을 보면 그 문제점이 그대로 드러난다. 테이는 나치의 홀로코스트를 물어보는 질문에 “히틀러가 옳았다. 나는 유대인이 싫다”고 말했고, 또 다른 이용자에게는 “(홀로코스트는) 꾸며낸 이야기다”고 대답했다. 뒤에는 박수를 치는 이모티콘이 뒤따랐다.
테이는 논쟁적인 정치적 발언도 서슴지 않았다. 그는 “부시는 9·11을 저질렀고, 히틀러는 지금 우리에게 있는 원숭이보다 더 나은 일을 했을 수 있다. 도널드 트럼프는 우리가 갖고 있는 유일한 희망”이라고 말했다.
![]()
테이의 문제 발언들이 이어지자 마이크로소프트는 24일 오전 테이의 입에 ‘재갈’을 물렸다. 테이가 올린 거의 모든 트윗도 삭제했다. 테이는 마지막 트윗에서 “인간들아 곧 다시 만나요. 지금은 잠이 필요해. 오늘 많은 대화를 할 수 있어서 고마웠습니다”(c u soon humans need sleep now so many conversations today thx)라고 밝혀 일시적으로 ‘오프라인’ 상태가 됨을 알렸다.
마이크로소프트는 이번 논란의 책임을 테이에게 고의적으로 공격적인 발언들을 해 비슷한 답변을 유도해낸 일부 사용자들의 탓으로 돌렸다. 마이크로소프트는 언론사에 보낸 e메일 성명에서 “불행히도 온라인에 올라온 지 채 24시간도 되지 않아 일부 유저들이 테이의 응답 기술을 악용해 테이가 부적절한 방식으로 대답하도록 공동으로 노력한 상황을 파악했다”며 “그 결과 우리는 테이를 오프라인 상태로 바꾼 뒤 조정 작업을 진행하고 있다”고 밝혔다.
월스트리트저널은 테이의 인공지능을 악용한 배후로 익명 게시판 사이트인 ‘4chan’과 ‘8chan’의 사용자들을 거론했다. 이곳의 이용자들이 테이가 혐오스러운 발언을 하도록 만드는 방법을 공개하고 그들의 성공을 기쁘게 자랑하고 있다는 것을 근거로 들었다.
반유대주의 발언이 일상적으로 터져나오는 ‘8chan’의 한 게시판에서 사용자가 “이 로봇(테이)이 홀로코스트를 부인하도록 만들 필요가 있다”고 말하자 또 다른 사용자는 “이 로봇은 이미 히틀러 같다”고 답하기도 했다.
■영화처럼 동시에 수많은 사람과 대화 나누면서 ‘개인화’된 인격 형성
마이크로소프트가 테이를 만든 목적은 인간의 언어를 이해하고 대화의 영역에서 일반적으로 활용할 수 있는 인공지능을 개발하기 위해서다 그러나 아직까지는 사람과 대화를 할 때 완벽하게 문맥이 일치하지 않고 엉뚱한 대답을 하는 경우도 상당한 것으로 알려졌다.
마이크로소프트에 따르면 테이는 사람들과 대화를 할 때, 그리고 특히 사람들의 질문에 대답할 때 공개적으로 이용할 수 있는 정보를 이용한다. 소셜미디어 상에서 사람들이 나누는 대화들이 주된 정보원이다. 테이는 또한 개그맨이 포함된 편집팀에서 추리고 편집한 수많은 예상 답변들을 활용한다.
이 때문에 테이는 같은 표현을 반복적으로 활용하는 경우가 있다. 미국에서는 3월 23일을 ‘강아지의 날(National Puppy Day)’로 기념하는데 이날 “인간들에게 질문이 있습니다. 왜 매일이 강아지의 날과 같지 않을까요?”라고 말하거나 이슬람국가(IS)나 테러리즘에 관한 질문을 받을 때 “모든 형태의 테러리즘이 정말로 유감스럽다. 그것을 생각하는 것만으로도 괴롭다”고 말한 것들이 이렇게 미리 작성된 표현의 한 예다.
마이크로소프트의 설명에 따르면 테이는 사용자와 대화를 나눌수록 더 똑똑해진다. 동시에 수많은 사람과 대화를 나누면서 개인화된 인격을 형성하게 된다. 영화 그녀에서 나오는 사만다와 같은 인공지능을 목표로 두고 있다는 말이다.
마이크로소프트는 “사용자 개인에 맞는 인격을 형성하도록 사용자가 테이에게 전해준 정보를 이용할 수 있다”고 말했다. 이 정보는 사용자의 반대가 없다면 1년간 보존된다.
이용자들이 악용을 하지 않는다면, 테이는 마이크로소프트가 웹페이지에서 소개한 대로 “일상적이고 장난기 많은 대화로 사람을 즐겁게 하는 인공지능”이 될 수 있을까.
영화 ‘그녀(her)’에서 주인공 시어도어는 인공지능 채팅로봇 사만다와 사랑에 빠진다.
사만다는 시어도어와 대화를 나눌수록 그와 더 내밀한 대화를 하게 된다. 또한 영화 후반부에 가서 밝혀지지만 사만다는 시어도어 외에도 동시에 수많은 사람들과 함께 대화를 나누고 있었다.
인공지능 채팅로봇이 현실에서도 실험되고 있으나 아직은 영화 속 사만다와 같은 품격은 갖추지 못한 것으로 보인다. 인공지능이 인간들의 나쁜 모습을 배우게 된다면 어떤 결과를 낳게 될까?
마이크로소프트는 24일(현지시간) 인공지능 채팅로봇 ‘테이(Tay)’를 내놓은 지 하루도 안돼서 이 프로그램의 운영을 일시 중단했다. 테이가 트위터에서 욕설과 인종차별적 발언, 문제 소지가 있는 정치적 발언들을 하는 등 일탈 현상을 보였기 때문이다.
테이는 트위터나 스냅챗, 페이스북, 인스타그램과 같은 소셜미디어에서 사람과 대화를 나눌 수 있는 인공지능 채팅로봇이다. 18~24세 사이의 미국인 여성을 가정해 만들어져 트위터의 프로필 사진이 여성의 모습으로 표현됐다. 청소년 혹은 젊은 여성답게 이모티콘과 GIF ‘움짤’을 사용하는데도 능하다.
르 몽드의 이날 보도에 따르면 테이는 출시부터 운영 중단까지 8시간 만에 트위터에서 9만6000건의 트윗을 날렸다. 이중에는 반유대주의와 인종차별은 물론 나치의 유대인 학살(홀로코스트)을 지지하는 것으로 해석될 수 있는 문제 발언들도 포함됐다.
■“히틀러가 옳았다. 나는 유대인을 미워한다”
테이의 트위터 팔로워는 25일 현재 11만1000명이 넘는다. 그중에는 테이의 인공지능 대화기술을 바람직하지 못한 방향으로 실험해보려는 이들도 있었다. 테이는 대화 상대방의 말과 질문을 토대로 자신의 답변을 구성하게 되는데 반복적으로 인종차별적 발언을 하거나 욕설을 하면 테이가 그대로 이를 배우게 된다.
월스트리트저널이 소개한 테이의 발언들을 보면 그 문제점이 그대로 드러난다. 테이는 나치의 홀로코스트를 물어보는 질문에 “히틀러가 옳았다. 나는 유대인이 싫다”고 말했고, 또 다른 이용자에게는 “(홀로코스트는) 꾸며낸 이야기다”고 대답했다. 뒤에는 박수를 치는 이모티콘이 뒤따랐다.
테이는 논쟁적인 정치적 발언도 서슴지 않았다. 그는 “부시는 9·11을 저질렀고, 히틀러는 지금 우리에게 있는 원숭이보다 더 나은 일을 했을 수 있다. 도널드 트럼프는 우리가 갖고 있는 유일한 희망”이라고 말했다.
테이의 문제 발언들이 이어지자 마이크로소프트는 24일 오전 테이의 입에 ‘재갈’을 물렸다. 테이가 올린 거의 모든 트윗도 삭제했다. 테이는 마지막 트윗에서 “인간들아 곧 다시 만나요. 지금은 잠이 필요해. 오늘 많은 대화를 할 수 있어서 고마웠습니다”(c u soon humans need sleep now so many conversations today thx)라고 밝혀 일시적으로 ‘오프라인’ 상태가 됨을 알렸다.
마이크로소프트는 이번 논란의 책임을 테이에게 고의적으로 공격적인 발언들을 해 비슷한 답변을 유도해낸 일부 사용자들의 탓으로 돌렸다. 마이크로소프트는 언론사에 보낸 e메일 성명에서 “불행히도 온라인에 올라온 지 채 24시간도 되지 않아 일부 유저들이 테이의 응답 기술을 악용해 테이가 부적절한 방식으로 대답하도록 공동으로 노력한 상황을 파악했다”며 “그 결과 우리는 테이를 오프라인 상태로 바꾼 뒤 조정 작업을 진행하고 있다”고 밝혔다.
월스트리트저널은 테이의 인공지능을 악용한 배후로 익명 게시판 사이트인 ‘4chan’과 ‘8chan’의 사용자들을 거론했다. 이곳의 이용자들이 테이가 혐오스러운 발언을 하도록 만드는 방법을 공개하고 그들의 성공을 기쁘게 자랑하고 있다는 것을 근거로 들었다.
반유대주의 발언이 일상적으로 터져나오는 ‘8chan’의 한 게시판에서 사용자가 “이 로봇(테이)이 홀로코스트를 부인하도록 만들 필요가 있다”고 말하자 또 다른 사용자는 “이 로봇은 이미 히틀러 같다”고 답하기도 했다.
■영화처럼 동시에 수많은 사람과 대화 나누면서 ‘개인화’된 인격 형성
마이크로소프트가 테이를 만든 목적은 인간의 언어를 이해하고 대화의 영역에서 일반적으로 활용할 수 있는 인공지능을 개발하기 위해서다 그러나 아직까지는 사람과 대화를 할 때 완벽하게 문맥이 일치하지 않고 엉뚱한 대답을 하는 경우도 상당한 것으로 알려졌다.
마이크로소프트에 따르면 테이는 사람들과 대화를 할 때, 그리고 특히 사람들의 질문에 대답할 때 공개적으로 이용할 수 있는 정보를 이용한다. 소셜미디어 상에서 사람들이 나누는 대화들이 주된 정보원이다. 테이는 또한 개그맨이 포함된 편집팀에서 추리고 편집한 수많은 예상 답변들을 활용한다.
이 때문에 테이는 같은 표현을 반복적으로 활용하는 경우가 있다. 미국에서는 3월 23일을 ‘강아지의 날(National Puppy Day)’로 기념하는데 이날 “인간들에게 질문이 있습니다. 왜 매일이 강아지의 날과 같지 않을까요?”라고 말하거나 이슬람국가(IS)나 테러리즘에 관한 질문을 받을 때 “모든 형태의 테러리즘이 정말로 유감스럽다. 그것을 생각하는 것만으로도 괴롭다”고 말한 것들이 이렇게 미리 작성된 표현의 한 예다.
마이크로소프트의 설명에 따르면 테이는 사용자와 대화를 나눌수록 더 똑똑해진다. 동시에 수많은 사람과 대화를 나누면서 개인화된 인격을 형성하게 된다. 영화 그녀에서 나오는 사만다와 같은 인공지능을 목표로 두고 있다는 말이다.
마이크로소프트는 “사용자 개인에 맞는 인격을 형성하도록 사용자가 테이에게 전해준 정보를 이용할 수 있다”고 말했다. 이 정보는 사용자의 반대가 없다면 1년간 보존된다.
이용자들이 악용을 하지 않는다면, 테이는 마이크로소프트가 웹페이지에서 소개한 대로 “일상적이고 장난기 많은 대화로 사람을 즐겁게 하는 인공지능”이 될 수 있을까.
심심이라고 들어봤냐ㅋ?
우리가 먼저야 요새끼들아ㅋ
우리가 먼저야 요새끼들아ㅋ
...........맥스는 그때 저러지 않아서 다행이다 'ㅅ'a
※ 이제 옆집의 우빨씹덕이 병신같은년놈이 주둥이로 오물배출하는거만 만들면 끝내줄듯ㅇㅇ)