영국 배우들과 Equity는 AI 기반 딥페이크 모드의 증가와 싸우고 있습니다.
영국 배우들과 Equity는 AI 기반 딥페이크 모드와 싸우고 있습니다.
“내 목소리는 현재 모딩과 음성 변경 커뮤니티에서 나가고 있나요? 그렇습니다. 그러나 내 목소리가 어떤 용도로 사용되는지에 대한 제어권은 현재는 없습니다.”
다윗 멘킨은 최근 Final Fantasy 16의 Barnabas Tharmr로 출연하였으며, Lego Star Wars, Valorant, Assassin’s Creed 등에서도 활약한 바 있습니다. 그리고 많은 게임 업계의 음성 배우들과 마찬가지로, 그는 AI의 증가하는 사용에 대해 우려하고 있습니다.
“AI는 도구에 불과하며, 다른 도구와 마찬가지로 규제가 필요합니다,” 멘킨은 말합니다. “우리는 우리의 목소리가 어떤 용도로 사용될지 알고, 원래 계약의 범위를 벗어나는 경우에는 동의를 부여하거나 철회할 수 있기를 원합니다. 그리고 만약 우리의 작업이 당신의 AI 도구에 수익을 가져다 주고 있다면, 우리는 공정하게 보수받길 원합니다.”
그 정도 요청은 공정한 것으로 보입니다. 그러나 많은 사람들은 AI에 대한 규제가 기술의 진보 속도에 많이 뒤쳐져 있다고 믿습니다. 이에 영국 배우 조합인 Equity가 이러한 상황을 바꾸기 위해 움직이고 있습니다.
게임 개발에서 AI의 사용은 이미 큰 주제입니다. Eurogamer의 Chris Tapsell이 GDC에서 보도한 것처럼, 특히 예술과 스크립트 작성 공간에서 AI의 사용은 큰 문제를 제기합니다. 음성 배우들에게는 배우들의 동의 없이 딥페이크에 배우들의 목소리를 사용하는 걱정거리가 있습니다.
- 발더스 게이트 3 이야기는 큰 거미줄이며, 작가가 주장하는 17,000가지...
- 반다이 남코, 발매 1년 만에 ‘건담 에볼루션’ 폐지, 플레이...
- 넷플릭스 비밀번호 공유 단속으로 인한 신규 구독 급증
이달 초에 Skyrim 모더 Robbie92_의 트윗은 배우들이 모딩 커뮤니티에서 그들의 목소리가 포르노 콘텐츠에 사용되는 문제를 강조했습니다. 그는 “Skyrim 모딩 커뮤니티의 일원으로서, AI 음성 복제를 사용하여 동의 없는 딥페이크 포르노 콘텐츠를 만들고 유포하는 것에 대해 심각한 우려를 표명합니다,”라고 썼으며, 영향을 받은 배우들의 목록을 포함했습니다.
“그들의 연기는 사악하게 재활용되어 AI 복제 도구에 공급되고, 해당 배우들이 음란한 대사를 말하는 딥페이크 음성 클립을 만드는 데 사용되었습니다. 저는 딥페이크 포르노의 제작과 유포가 터무니없이 사악하다고 믿으며, 우리는 커뮤니티로서 책임을 질 필요가 있다고 생각합니다.”
일부 음성 배우들은 이 트윗에 놀란 듯이 반응했는데, 그들은 자신들의 목소리가 사용되었다는 사실을 알지 못한 것 같았습니다. “뭐지?!”라고 모탈 컴뱃의 음성 배우인 리처드 엡카르가 답변했습니다.
이 트윗은 특히 ElevenLabs라는 AI 복제 도구를 지목하고 있으며, 이 도구의 이용 약관에 따르면 사용자는 사용된 파일의 창조자이자 소유자이거나 파일에 식별 가능한 개인의 서면 동의를 가지고 있는 것으로 명시되어 있습니다. ElevenLabs는 Eurogamer의 요청에 대해 응답하지 않았습니다.
분명히 동의는 항상 이루어지지 않습니다.
AI 복제된 목소리가 포함된 모드는 이미 인기있는 모드 사이트인 Nexus Mods에 호스팅되고 있습니다. Eurogamer가 Nexus Mods에 연락한 결과, AI 생성 콘텐츠에 대한 사이트의 입장을 설명한 4월의 기사로 이동하라는 안내를 받았습니다.
“콘텐츠 창조자로서 AI 생성 콘텐츠를 모드 프로젝트에 포함하기로 결정하면, 이는 커뮤니티 규칙을 어기지 않습니다,”라고 적혀 있습니다. “그러나 우리가 당신의 작업이 그들에게 해를 입힐 수 있다고 느끼는 당사자로부터 신뢰할 수 있는 불만을 접수하면 – 이는 음성 배우나 캐릭터/자산의 권리를 소유하는 당사자가 될 수 있습니다 – 우리는 적절한 경우 해당 콘텐츠를 제거할 것입니다.
“당신의 모드에 어떤 문제가 발생하지 않도록 하기 위해, 당신이 모든 자산을 사용할 명시적 허가를 가지고 있지 않은 한 이러한 도구를 사용하지 않도록 권장합니다. 이는 특히 AI 생성 음성 연기뿐만 아니라 이미지, 모델, 코드 및 이 기술을 사용하여 생성할 수 있는 다른 모든 것도 포함됩니다.”
하지만 현재는 배우 스스로가 라이센스되지 않은 게임 모드에서 자신의 목소리 사용에 이의를 제기해야 하는 상황입니다. 규제가 아닌 배우 개인에게 이러한 쟁점 해결의 책임을 떠넘기고 있는 것입니다.
여기에 영국 배우 조합인 Equity UK가 개입했습니다. 지난달, Equity는 “규제되지 않은 기술에 대한 배우들의 법적 권리를 보호하기 위한 획기적인 AI 도구킷”을 발표했습니다.
이 도구킷은 지적재산 전문가인 Mathilde Pavis 박사와 함께 개발되었으며, “AI의 윤리적 사용”을 제시하고 예술가들이 법적 권리를 시행할 수 있는 템플릿을 제공합니다.
또한 Equity는 “공연 복제”라고 정의한 “기계 학습 시스템 및 동등한 기술을 통해, 아티스트의 연기, 목소리 또는 유사한 성능을 기록, 사용 또는 재생산하는 과정”에 대한 즉각적인 정부 조치를 요구하고 있습니다.
“Equity는 조치를 취하고 회원들이 법적 권리를 보호할 수 있는 도구를 제공합니다.”
“엔터테인먼트 산업 전반에서 AI의 사용이 증가함에 따라, Equity는 조치를 취하고 회원들이 자신들의 법적 권리를 보호할 수 있는 도구를 제공하고 있습니다,” 새로운 미디어 산업 담당 공무원인 리암 버드는 말했습니다.
“우리는 뛰어난 AI 계약을 작성하고 새로운 산업 기준을 제시함으로써 선도하고 있다는 것을 자랑스럽게 생각합니다. Equity는 계속해서 엔터테인먼트 산업 전반의 생산자들과 협력할 것이지만, 정부는 AI의 증가하는 사용을 적절하게 규제하기 위해 강력한 조치를 취해야 합니다.”
2023년 3월, 지적 재산 국가기관은 이 여름까지 생성적 AI에 대한 행동 지침을 제공하기로 약속했습니다. 정부는 또한 최근 화이트 페이퍼에서 제시된 AI 규제에 대한 혁신 중심의 접근 방식에 대한 의견을 모으고 있습니다.
Equity에게 툴킷에 포함된 비전 성명서는 새로운 산업 기준을 제시하여 예술가들이 다음과 같은 권리를 가지고 있다고 밝혔습니다:
- 과거, 현재 및 미래의 공연에 대한 동의(동의하지 않음)
- 개인적이고 배타적이며 시간 제한이 있는 기반으로 자신의 공연이나 외모를 라이선스 할 수 있는 권리
- 자신의 공연과 작업에 대한 비하적인 대우에 대해 인식하고 이의를 제기할 수 있는 권리
- 투명한 정보
- 의미 있는 협의
- 공정하고 적절한 보상
- 동등한 접근과 대우
- 단체 협상에 따른 참여
Menkin은 이 분야에서 의식을 높이기 위해 Equity와 함께 일하는 배우 팀의 일원입니다.
“작년에 우리는 UKIE에게 업계 전반에 걸친 규제, 업데이트된 저작권 법, 명확한 지적 재산 프레임워크 및 행동 지침이 필요한 이유에 대한 명확한 예시를 제시했지만, 불행히도 그에 대한 응답이 부족했습니다,” 그는 말합니다.
그 이후로, 올해의 Equity 컨퍼런스에서 게임과 AI에 더 많은 초점을 두는 동안, 이러한 동향에 대한 동의가 다수 표를 얻어 통과되었습니다.
“일은 이루어지고 있지만, 법률은 시간이 걸립니다,” Menkin은 말합니다. “그 동안 우리는 교육을 받아야 하며, 그래서 Equity는 AI 툴킷을 출시했습니다. AI 분야와 우리의 권리에 대한 이해를 돕는 가이드뿐만 아니라, 클라이언트와 고용주로부터 온 언어가 충분히 명확하지 않을 때 사용할 계약 템플릿도 포함되어 있습니다.”
SAG-AFTRA와 The National Association of Voice Actors (NAVA)를 비롯하여 전 세계적으로도 유사한 이니셔티브들이 시작되고 있습니다.
Menkin은 게임에서 AI 사용에 대한 규제 강화에 대해 단호한 입장을 취하고 있습니다.
“우리는 자주 우리의 작품이 어떻게 사용될지 명확한 아이디어 없이 모든 권리를 포기해야 한다는 선택지만 주어진다는 것을 말합니다.”
“게임과 AI는 자체 규제를 믿고 있습니다,” 그는 말합니다. “회사들은 종종 다양성을 강조하고 행동 지침에 대해 얘기하지만, 자체 규제는 주로 배우, 작가, 작곡가 등 하급 계약자들에게 이익이 되지 않습니다. 우리는 자주 우리의 작품이 어떻게 사용될지 명확한 아이디어 없이 모든 권리를 포기해야 한다는 선택지만 주어진다는 것을 말합니다.
“AI 시대에는 이러한 조건을 더 이상 받아들일 수 없습니다.”
BAFTA 수상 작가인 제인 페리는 AI 사용에 대한 감독 기구가 필요하다고 확신하고 있습니다.
“Equity를 통해 제공되는 지원에 대해 알고 있습니다. 영국에서 존재하는 입법 프레임워크 내에서 최선을 다하고 있다고 생각합니다. 우리는 우리의 미국 동료들처럼 산업 행동을 요구할 수 없습니다,” 그녀는 말합니다.
“계약에 주의해야 할 사항과 저작권 법 등에 대해 지시를 받을 수 있지만, 결여되어 있는 것은, 이는 중요한 부분입니다, AI 사용을 효과적으로 감독할 수 있는 어떠한 감독 기구도 존재하지 않는다는 것입니다.”
그녀는 덧붙입니다: “AI의 사용은 우리가 그 주변에 경계를 만들어내기에 우리의 능력보다 더 빠르게 진행되었습니다. 영국 Equity에서는 자원이 부족하여 이러한 감독 기구로 작동할 수 없습니다. 우리 정부가 신속하게 대응하여 이를 지원하는 것이 좋을 것입니다.”
페리는 AI의 미래와 그것이 목소리 배우들에게 미칠 영향에 대해 계속해서 우려하고 있습니다. 그녀의 게임 업계에서의 경험은 열정적인 커뮤니티와 상호작용하는 것을 포함하고 있지만, AI 목소리 연기가 대세가 되면 이는 사라질 것입니다.
“배우로서, 이러한 질문에 대답하고 그 뒷면에서 무슨 일이 벌어지는지에 대한 매우 흥미로운 관심을 다루는 것은 기쁨입니다,” 그녀는 말합니다.
“목소리는 그 안에 생물학을 담고 있는데, 청자가 그것을 알아차리든지 아니든지 상관없다. 그렇지만, 그건 나일 수 없을 거야.”
“내 캐릭터들이 내 목소리의 AI 생성 버전으로 대본을 말할 때, 나는 자연스럽게 이런 질문에 궁금해지곤 해. 캐릭터들의 선택과 희망, 두려움, 욕망의 표현은 내가 겪은 경험에 기반한 것이 아니라는 걸 알 수 있지. 내 마음과 영혼을 뒤져가며 어떻게 장면을 연기해야 할지, 게임 내 서사에 정립된 관계들에 어떻게 대응해야 할지 찾아내는 기회조차 주어지지 않을 거야.
내가 캐릭터 창조에 아무런 개입이 없었을 것이야. 그런데도 그건 나의 목소리일 터인데, 그 소리는 내 평생 동안 겪은 모든 일들과 관련하여 공명하고 울리는 소리일 거야. 목소리는 그 안에 생물학을 담고 있는데, 청자가 그것을 알아차리든지 아니든지 상관없다. 그렇지만, 그건 나일 수 없을 거야.”
그녀는 AI가 “전부 나쁜 것은 아니지만” 특정 직업과 산업에 적합하다고 덧붙입니다. “하지만 우리는 우리 자신의 꼬리를 먹는 이 욕망에 의문을 가져야 합니다,” 그녀가 말합니다.
“AI와 함께 놀고 사람들의 목소리와 얼굴을 얼마나 조작할 수 있는지 보는 건 재미있고 흥미로운 일이라는 건 알겠어요. 하지만 인간으로부터 일을 빼앗는 것이 다양한 문제를 일으킬 것이라는 어려운 사실을 인지해야 합니다. 그 중에는 재정적 문제도 있고, 목표 의식을 갖는 것도 있죠. 이미 우리는 이러한 문제를 보고하고 있습니다. 그 동안에도 이미 부자기업들의 이익률은 증가하고 있어요.”
그러면 더 많은 일이 해결되어야 합니다. 그러나 균등성 – 그리고 다른 조합들 – 또한 AI가 배우들에게 가지는 실제 위험을 인식하기 시작하고 있습니다. 하지만 적절한 규제가 시행될 때까지, 안타깝게도 배우들은 스스로를 보호해야 합니다.
