AI는 지능형 비서, 통제불능 걱정 말라… 인간은 더 인간다워진다 [AI 블랙홀 시대]
김헌주 기자
업데이트 2024 03 06 01:36
입력 2024 03 06 01:36
<10·끝>제리 캐플런 박사가 본 생성형 AI 이후 달라질 미래
생성형 인공지능(AI) 등장 이후 빠른 속도로 기술이 발전하면서 인류와 AI의 공존이 화두로 떠올랐다. 모든 산업의 AI화를 넘어 일상에까지 침투해 온 AI를 그저 ‘반가운 손님’으로 맞이할 것인지 사람들이 묻기 시작한 것이다. AI가 인간의 통제를 벗어날지도 모른다는 두려움은 더 늦기 전에 기술 개발을 잠시 멈추자는 논의로 이어졌다. 스스로 의식을 가진 AI가 갑자기 깨어나서 인류를 멸망시킬 것인가. 서울신문은 ‘인간은 필요 없다’, ‘인공지능의 미래’ 등 베스트셀러 저자이자 미국 스탠퍼드대에서 AI의 사회·경제적 영향에 관해 강의하고 있는 인공지능학자 제리 캐플런(72) 박사에게 생성형 AI 이후 달라질 미래 모습에 대해 이메일을 통해 물었다. 그는 5일 “걱정하지 말라”며 “변화를 감당할 수 없을 만큼 상황이 너무 빠르게 진행되고 있지는 않다”고 말했다. 캐플런 박사는 최근 생성형 AI가 가져올 변화를 다룬 책에서도 “우리가 설계한 기계가 엉망이 돼 날뛰지 않도록 적절한 회로 차단기를 설치하면 된다”고 주장했다. “생성형 AI는 인간처럼 생각하지도 않고 인간과 같은 마음도 없다”는 그는 정체불명의 의인화된 AI는 현실에 없기 때문에 우리를 공격하지 않을 것이라고 했다. 다만 생성형 AI가 우리 삶의 거의 모든 걸 변화시키고 노동시장을 뒤흔들며 사회질서를 재편할 것이라고 봤다. 다음은 일문일답.#선거판 속 AI딥페이크, 스팸 메일처럼 심각사용금지·형사고발 이어질 것-텍스트를 입력하면 알아서 동영상을 만들어 주는 AI 모델(소라·Sora)이 공개됐다. 기술 발전 속도가 너무 빠른 것 아닌가.“놀랍게도 기술 발전의 속도를 연구하는 경제학자들은 가까운 과거의 발전 속도가 실제로 이전보다 더 느리다는 사실을 발견했다. 예를 들어 당신이 1910년에 살고 있었다면 지난 20년 동안 자동차, 비행기, 녹음기 발명을 목격했을 것이다. 조금만 더 거슬러 올라가면 사진 발명도 있었다.”
-대선을 앞둔 미국과 마찬가지로 한국은 4월 국회의원 선거를 앞두고 딥페이크 영상 게시물로 몸살을 앓고 있다.
“딥페이크는 과거 스팸 메일과 마찬가지로 심각한 문제다. 간단히 말해 선거 등 중요한 상황에서 딥페이크 사용은 금지될 것이며 사용할 경우 형사 고발로 이어질 것이다. 또한 사람들은 그 문제에 대해 훨씬 더 많이 인식하게 될 것이고, (딥페이크 영상에 대해) 더욱 회의적으로 변할 것이다.”
-AI 기술로 인한 일자리 변화는 막을 수 없을 것 같다.
“그래픽 아티스트, 컴퓨터 프로그래머 등 일부 직업은 다른 직업보다 더 큰 영향을 받을 것이다. 그러나 이러한 직업에 종사하는 대부분의 사람들은 여전히 직업을 갖고 있을 것이고, 생성형 AI 시스템을 ‘지능형 비서’로 사용할 것이다. 과거 사진이 발명됐을 때 초상화가 등 화가라는 직업에 영향을 미쳤던 것만큼 극적인 변화는 아닐 것으로 본다.”#노동시장의 변화컴퓨터 관련 직업은 변화 예고AI 시스템에 업무 도움받을 것-생성형 AI의 문제점 중 하나는 ‘할루시네이션’(환각 현상)이다. AI가 그럴듯한 오답을 내놓는 이 현상이 수년 내 해결될까.
“실제로 AI가 우리가 기대하는 것보다 더 인간처럼 행동한다는 게 문제다. 이 문제는 여러 방식으로 제어가 될 것이다. 우선 가짜 정보를 만들어 내는 걸 방지하는 ‘내부 설정’ 작업과 함께 특정 목적에 맞게 훈련을 거칠 것이다. 둘째, 개발자들이 AI가 꾸며내지 않도록 지시하는 더 나은 방법을 찾을 것이다. 셋째, 대부분 시스템은 인간이 하는 것처럼 외부 소스를 통해 의심스러운 정보를 확인할 수 있을 것이다. 문제가 해결되지는 않아도 이 세 가지는 환각 문제를 크게 줄여 줄 것으로 본다.”
-AI가 설계자의 의도나 예상과 다른 결과물을 내놓는다면 결과적으로 인간이 AI를 통제할 수 없다는 것 아닐까. 국제규범 마련이 시급하다는 의견도 있다.
“국제규범은 도움이 되지 않을 것이다. 무엇이 허용되고, 그렇지 않은지를 AI 시스템이 더 잘 이해할 수 있게 훈련시켜야 한다. 이 시스템을 적절하게 통제할 수 없다면 굳이 특정한(위험한) 용도나 목적으로 사용하지는 않을 것이다. 우리는 온갖 위험한 도구를 만들고, 그 결과를 감수하며 살아간다. 자동차를 예로 들어 보자. 교통사고로 수많은 사람이 목숨을 잃지만 편리함 때문에 자동차를 이용한다. AI 시스템도 마찬가지 아닐까.”
-생성형 AI의 등장으로 인간이 묻고 AI가 답하는 시대가 됐다. 우리는 어떤 역량을 더 발전시켜야 할까.
“생성형 AI로 인해 사람들은 이전보다 감독자, 관리자에 가까워질 것이다. 이 새로운 기술은 사람들이 기계로부터 나은 결과를 얻어내는 데 전문가가 되게 해 줄 것이다. 스프레드시트(숫자 표에서 계산 기능을 수행하는 프로그램) 사용법을 아는 것과 다르지 않다. 기술을 더 잘 활용할 수 있는 사람이 이러한 기술을 갖지 못한 사람에 비해 더 높은 평가를 받게 될 거다.”
-사람들이 AI에 감정적 애착을 느낄 수도 있을 것 같다. AI를 유일한 대화 상대이자 친구로 느끼게 되면 인간과의 관계 맺기가 왜곡되지 않을까.
“저는 AI와 교제하는 걸 ‘정서적 포르노’(emotional pornography)라고 부른다. 우리를 이전보다 더 고독하게 만드는 동시에 외로움을 줄여 줄 수도 있다. 얼마나 모순인가.”
#오답 말하는 AI기대보다 ‘인간처럼 행동’ 문제여러 설정·훈련 통해 제어될 것-정서적 포르노라고 표현한 건 AI와 매우 강한 감정적 유대를 형성하면서 사람들이 혼란을 겪게 되고, 정상적인 인간관계가 붕괴될 수 있다는 뜻인가.
“포르노는 사람들이 실제 사람들과 상호작용하는 대신 사진을 통해 만족을 얻도록 한다. 정서적 포르노도 비슷하다. 실제 사람들과 교제하지 않고 컴퓨터 프로그램과 상호작용하면서 (관계에 대한) 필요를 충족시킬 것이다. 그렇게 되면 인류와도 단절되는 것이다.”
-AI 기술 발전으로 로봇이 많은 일을 대체하면 ‘사람은 도대체 뭔가’라는 질문에 직면할 것 같다. AI 시대 인간다움은 무엇이라고 생각하나.
“인류는 아무데도 가지 않는다. 걱정할 필요가 없다. 오늘날 우리는 더이상 가구, 옷 등을 만드는 숙련된 장인을 필요로 하지 않지만 그러한 기술을 가진 사람은 과거에 비해 훨씬 더 존경받으며 가치를 인정받는다. 생성형 AI도 우리를 가장 인간답게 만드는 일에 집중할 수 있게 해 줄 것이다.”
#저작권의 새 정의사진 첫 발명 때 저작권 미적용AI 결과물도 법 보호받게 될 것-생성형 AI가 내놓은 결과물이 인간의 창작 활동을 대체하면서 저작권 정의를 바꿔야 한다는 주장도 나온다.
“AI 프로그램의 결과물도 저작권 보호를 받을 수 있게 법률을 바꿀 필요가 있다. 사진이 발명됐을 당시 사진가가 한 일은 ‘버튼을 누르는 것’뿐이었기 때문에 사진은 저작권이 있는 것으로 여겨지지 않았다. 지금 생각하면 말도 안 되는 얘기 아닌가. 생성형 AI에도 같은 일이 일어날 거다. 생성형 AI로 최상의 결과를 얻을 수 있는 사람은 매우 숙련된 사람으로 간주되고, 그들의 작업은 저작권의 보호를 받을 것이다.”
-챗GPT 등장 이후 세계는 AI 경쟁에 돌입해 자국의 언어와 문화를 접목한 AI 모델을 만들고 있다. 앞으로 AI 주권을 지키는 현상이 더욱 강화될 것으로 예상된다. ‘AI 민족주의’는 불가피한가.
“그렇다. 하지만 좋은 일이라고 생각한다. 사람들은 그들의 가치와 문화를 반영하는 제품(AI 모델)을 원할 것이다. 현지 기업은 멀리 있는 글로벌 기업보다 이러한 요구 사항을 더 잘 식별할 가능성이 높다. 이를 가장 잘 수행하는 회사나 제품이 현지 시장 내 경쟁에서도 이길 것이다.”
#제리 캐플런 박사는? 제리 캐플런 박사는 미국 실리콘밸리에서 여러 기술기업을 창업했던 현장형 전문가다. 인공지능(AI) 분야 벤처기업 ‘테크놀리지’(Teknowledge)를 비롯해 ‘고 코퍼레이션’, ‘온세일’ 등을 공동 설립했다. 그는 현장 경험을 살려 일흔이 넘은 나이에도 여전히 강단(스탠퍼드대 겸임강사)에 서며 저술 활동을 하고 있다. 지난달 생성형 AI에 관한 책(‘Generative Artificial Intelligence: What Everyone Needs to Know’)을 새로 냈다. 한국어판(‘제리 카플란 생성형 AI: 지금 우리에게 필요한 것들’)은 올 상반기 내 나올 예정이다.