[조이人]② AI시대, 역사사료 오염·딥페이크·문화파괴 등 커지는 우려

[조이뉴스24 김양수 기자] 볼거리가 넘쳐나는 시대다. 생성형 AI 기술의 발전으로 누구나 영상 콘텐츠를 제작할 수 있고, 심지어 고화질 영상에 타인의 목소리와 얼굴까지 자유자재로 추출할 수 있다. 하지만 이면에는 저작권과 초상권 침해, 사료 왜곡, 그리고 다양한 윤리적 문제가 존재한다.

지난 10개월간 현장에서 AI 콘텐츠를 직접 기획·제작한 오정호 EBS AI지식콘텐츠부장에게 현장의 목소리를 들어본다.

이하 일문일답.

-실존 인물이나 역사적 위인을 AI로 복원하는 시도가 늘고 있다. 초상권과 저작권 등 윤리적 문제를 어떻게 바라보는가.

"2024년 이후 생성형 AI 기업들의 경쟁은 누가 더 실제와 똑같이 만들어내는가, 즉 '핍진성' 경쟁이었다. 초기 AI 콘텐츠가 채택할 수 있는 가장 안전한 재료는 후대 사람들의 존경을 받는 역사적 위인들이었다. 남아있는 사진 몇 장이 재료가 되어 뭉클한 영상을 만들 수 제작할 수 있었다. 하지만 AI가 완벽한 딥페이크 도구가 되고 있지 않나 하는 우려도 깊어진다.

하지만 세 가지 중대한 위험을 직시해야 한다. 우선, 퍼블리시티권 문제다. 고인에게 초상권은 인정되지 않더라도, 상업적 활용에 따라 유족이나 후손들이 소송을 제기하면 법원이 이전과는 전혀 다른 판결을 내릴 수도 있다.

둘째는 반사회적 인물의 재현 문제다. 만약 살인자의 얼굴을 AI로 정교하게 살려낸 드라마가 나온다면 어떨까. 'AI 재현물'이라는 워터마크를 붙이고 비판적 시각을 견지한다 해도, 범죄 현장의 사실성이 극대화될수록 피해자 유족의 고통은 걷잡을 수 없이 커진다. 높은 핍진성이 제도와 법이 미처 따라가지 못하는 새로운 사회적 혼란을 낳는 셈이다.

셋째는 가장 심각한 '역사적 사료의 오염'이다. 윤봉길 의사의 사진으로 AI 영상을 제작했을 때, 그 영상의 특정 프레임이 캡처되어 인터넷 '짤'로 유통되면 무엇이 진짜 역사적 원천 사료인지 분간할 수 없게 된다. AI 이미지가 진짜 사료를 덮어쓰고 지워버리는 왜곡이 일어나는 것이다."

-제작 현장 차원의 윤리적 가이드라인이 존재하는지

"현재 부서 차원에서 실존 인물과 유명인, 그리고 역사적 사료의 관점을 아우르는 AI 제작 가이드라인을 직접 작성하고 있다. 연말까지 사내 공론화 과정을 거칠 계획이다. 사람마다 AI 활용에 대한 허용치가 다르고, AI 인물에 대한 가치관과 미학적 판단도 다르기에 치열한 논쟁이 예상된다. 하지만 분명한 것은, AI 콘텐츠가 사회적 문제를 일으켰을 때 그 책임은 엄연히 제작자에게 있다는 점이다. 그것마저 AI 탓으로 돌릴 수는 없다."

-현재 콘텐츠 제작 현장에서 체감하는 AI 기술의 한계점은

"지시 이행 능력은 비약적으로 발전했다. 지난 해 1월과 올해 9월의 능력치를 비교하면 지시 이행 능력은 3배 이상 늘었고, 이제는 꽤 탁월한 수준이다. 하지만 그 대가는 혹독하다.

우선, 기존 협업의 공동체가 해체되고 있다. 자료조사, 번역, 자막 등 약한 고리부터 일자리가 사라지고 있다. 예전에는 공장이 상품을 만들었다면, 이제는 AI 상품이 공장의 구조를 바꾸고 있다.

또한 AI 역량에는 격차가 존재한다. 현재는 개인의 비용과 노력으로 AI를 배우고 체험한다. 이에 따라 AI 역량의 차이를 어떻게 줄일지 고민해야 한다. 또한 개인의 높은 AI 역량을 어떻게 조직의 혁신으로 바꿀지를 고민해야 한다.

AI는 결코 보편적이지 않다. 인터넷이 모두에게 열린 공간이었다면 AI는 고가의 유료 장비에 가깝다. 무료 도구는 1~2년 전 과거 기술에 불과하다. 비싼 툴을 구독하는 사람이 콘텐츠를 잘 만드는 사람이 되는 기이한 세상이다.

AI의 허위정보와 시대착오는 개선되고 있지만, 딥페이크의 완성도 역시 높아지고 있다. 이는 두려운 현실이다. 비디오와 오디오 기술이 공짖ㄴ화하며 서로 어울려 완벽한 동영상을 만들어 낸다. 앞으로 법정에서 녹음파일이나 CCTV 화면을 증거로 채택할 가능성은 얼마나 될까. 현재 X에 유통되는 자극적인 영상은 또 얼마나 실제 화면일까.

데이터셋의 편향과 문화적 파괴력도 문제다. 플랫폼은 검열 기준이 각기 다르다. 또한 각 국가의 문화적 터부를 무시한 채 결과물을 생성한다. 다민족 국가에서 금기시되는 외국인 혐오나 특정 폭력 묘사가 여과 없이 소비될 때, 우리 청소년들의 가치관에 미칠 악영향은 예측하기 어렵다. 네이버에서 대답을 얻는 아이들과, AI에서 대답을 얻는 아이들은 분명 다른 어른이 될 것이다.

마지막으로, 'AI 쓰레기' 영상의 범람이다. 이제는 누가 더 가치 있는 콘텐츠를 만드느냐가 아니라, 누가 더 빨리 자동화로 상업적 영상을 뽑아내느냐의 경쟁으로 변질됐다. 이제 사람들은 소셜 미디어에서 사람을 만나고 의견을 교류하지 않는다. 대신 셀럽을 팔로우하고 숏츠나 AI 동영상을 시청한다. 자극적인 숏폼과 쓰레기동영상 더미에서 진짜 좋은 콘텐츠를 골라야 한다."

-이러한 기술의 진화 속에서, 방송은 과연 살아남을 수 있을까

"지금까지 새롭게 등장했던 뉴미디어는 기존 방송이 충분히 품을 수 있는 기술이었다. 케이블, 위성, 인터넷은 방송의 외연을 확장하는 매체였고, HDTV, 3D TV, 모바일TV, 4K는 새로운 방송 스크린에 대한 혁신적 기술이었다. 넷플릭스와 유튜브의 시대가 왔어도 방송은 꿈쩍하지 않았다.

하지만 AI는 근본부터 다르다. 방송 산업의 핵심이던 장비, 소프트웨어, 전문 인력의 기반을 송두리째 뒤흔들고 있다. 소셜미디어도 본래 기능을 상실하고, AI 앞에서는 동영상 공금자로 전락한다. 이제는 누구나 동영상을 생성하고 송출하는, 즉 '모두가 방송을 하는 시대'다.

AI는 방송과 포털, SNS를 막론하고 모든 미디어 플랫폼의 동영상 제작 인프라로 자리 잡을 것이다. 스크립트, 이미지, 오디오, 번역, 자막 등 콘텐츠를 구성하는 기본 요소는 AI의 텍스트 데이터에서 구성되고, 변환되고, 생성될 것이다.

더욱 무서운 상상을 해 볼 수 있다. 우리가 챗GPT, 제미나이, 클로드 앱에서 동영상을, 방송을 보고 있을 때가 곧 오리라는 상상이다."