예수님과의 대화 트위치에서 인공지능 스트리밍의 부상

인공지능 스트리밍이 트위치에서 예수님과의 대화를 부상시킴

나는 트위치에서 예수님 방송을 보고 있다. 그는 수다장에서 철학적인(그리고 그렇지 않은) 질문에 대답하는 수염 난 흰 남자이다. 질문을 타이핑하면 예수님이 대답해준다.

물론, 예수님은 인공지능이다. 한 때, 그는 심지어 “육체적인 예수님이 아니라고” 시인했기 때문에 적어도 자기 인식이 있다고 들린다. 이 채널은 기여자인 The Singularity Group의 기부로 가능해졌고, 유명인의 목소리를 복제하는 AI 기반 음성 생성 플랫폼인 PlayHT의 기술 덕분에 가능해진 것이다.

AI 예수님에 사용된 얼굴과 목소리는 불분명하다. 재미있는가? 그럭저럭이다. 이것이 Twitch가 사용되어야 할 콘텐츠인가? 논란이다.

다른 채널로 전환한다. 이번에는 트럼프와 바이든 사이의 대통령 토론이다. 이 역시 The Singularity Group의 기여로 가능해진 것이다. 시청자들은 채팅을 통해 질문을 할 수 있지만, 대부분은 양 대통령이 어떤 바보 같은 발언을 할 수 있도록 하는 핑계에 불과하다.

Twitch는 이러한 유형의 콘텐츠를 적극적으로 홍보하고 있다. 홈페이지를 아래로 스크롤하면 ‘Probably Artificial, Hopefully Intelligent: AI powered streams and related discussions’라는 섹션을 찾을 수 있다. 이 섹션에는 AI 기술을 이용한 추천 스트림들이 가득하다.

• 발더스 게이트 3 얼음 크리스탈, 얼음 금속, 그리고 얼음 손잡이를 어떻...
• 라리안 이외의 회사가 일본에서 발더스 게이트 3을 출판하고 있다.
• 오버워치 2의 예정된 젠야타 미션은 PvE 문제 중 하나를 해결할 수 있을...

다른 스트림에서 나에게 추천된 사용자들은 인기 스트리머와 유명인의 AI 버전을 조종할 수 있는 채널에서 거짓으로 드라마를 만들고 있다. Amouranth, Asmongold, Kai Cenat뿐만 아니라 Elon Musk, 오바마 대통령, 고든 램지, 심지어 스티브 잡스까지 모두 선택 가능하다.

게임 산업에서 AI의 사용은 점점 더 주목받는 논쟁이 되고 있다: 대본 작성과 예술에서부터 유명인의 외모가 딥페이크 모드에 사용되는 등.

그러나 Twitch 스트림에서 AI를 사용하는 것의 위험은 무엇인가? 그리고 왜 Twitch가 이를 홍보하는가?

먼저, The Singularity Group은 누구인가? 그들의 웹사이트에 따르면 이 조직은 “세상에 진정한 변화를 일으키기 위해 혁신적인 프로젝트에 참여하는 열정적인 자원봉사자 그룹”이라고 설명한다. 그들의 비전은 특히 유니버설 베이직 인컴에 초점을 맞추고 있으며, “적절한 기술을 활용하여 이를 완전히 실현할 수 있다”고 언급한다.

어떻게? 암호화폐를 통해. 모바일 미니게임은 The Singularity Group의 가장 큰 프로젝트 중 하나로, 사용자들은 자선을 위해 초점을 맞춘 모바일 게임을 플레이하여 게임 내 화폐인 Crypton을 통해 소득을 얻을 수 있으며, 이는 게임 외부에서 거래할 수도 있다. 이 게임은 또한 사용자들이 자신의 NFT를 생성하고 플레이할 수 있도록 한다.

Twitch 라이브스트림은 활동주의 그룹의 또 다른 프로젝트에 불과하다. The Singularity Group는 봉사자들에 의해 만들어진 라이브스트림이 “최첨단 AI 기술을 통해 엔터테인먼트, 기부 및 의식 상승을 혁신하는 실험적인 쇼”라고 설명한다. 실제로 위에서 언급한 스트림들은 자선이 아닌 스트림 소유자에게 기부할 수 있는 옵션을 포함하고 있지만, 그 돈이 정확히 어디로 가는 것인지는 어디에?

“현재로서는 AGI [인공 일반 지능] 연구에 초점을 맞추고 있습니다. OpenAI, Google, Facebook 등이 ‘인공지능’의 상업적 가능성을 극대화하기 위해 서두르는 동안, 그들은 단순히 핵심적인 추론 과정을 갖지 않는 인공지능 시스템을 구축하는 것에 그치는 원시적인 추가 계층만을 추가하고 있습니다. 이러한 시스템은 거의 ‘인공지능적’이기 어려워서 사회와 인류에 잠재적으로 전례 없는 위험을 초래할 수 있습니다.”라고 The Singularity Group의 공동 창립자인 리스 레이센은 나에게 전했다.

따라서 Twitch의 이러한 AI 스트림은 기술의 작고 제한된 쇼케이스로서 기술의 수집과 인재 영입을 돕는다고 리센은 말했다. 단순히 말해서, 데이터 수집과 인재 영입입니다.

리센은 Twitch를 이를 위한 플랫폼으로 선택한 이유로 Twitch가 “가장 쉽게 추진력을 얻을 수 있는 곳이기 때문”이라고 말했지만, Twitch의 가이드라인 시행은 때로는 엄격하고 예측할 수 없어 자율적이고 상호작용적인 24/7 AI 라이브스트림이 도전적이다.

“결과적으로 지난 여덟 달 동안 우리는 실수로 트위치의 규칙에 어긋날 수 있는 어떠한 것도 출력하는 인공지능(AI)을 피하기 위해 우리 자신의 고급 모더레이션 시스템을 개발하는 데 대부분의 노력과 자원을 투자했습니다,” 그는 덧붙였다.

이러한 스트림을 통해 모금된 모든 돈은 AI 스트림을 더 발전시키기 위해 직접 연구 및 개발에 투자됩니다. 이 그룹의 기술은 예를 들어 YouTube 동영상에 실시간으로 반응할 수 있게하며, 거의 지연 시간이 없는 실시간 음성 상호 작용을 통해 대화가 자연스럽게 흘러갈 수 있도록 합니다. Leysen씨는 “이러한 개념들은 곧 새로운 스트림에서 다양한 캐릭터와 형식으로 선보일 것입니다”라고 말했습니다.

Leysen씨는 Mobile Minigames을 위해 암호화폐 사용을 옹호했습니다. 그는 “활동가로서, 우리는 가능한 한 가장 큰 긍정적 영향을 미칠 수 있는 곳에 노력을 집중하려고 항상 노력해왔습니다,”라고 말했습니다. “한때 우리는 라이브스트림만에 의존하는 대신, 지속적으로 모금을 할 수 있는 모바일 게임과 같은 것이 필요하다는 것을 깨달았습니다.”

하지만 AI 기술의 발전으로 그룹의 초점이 변화했습니다. 그는 “DALL-E와 ChatGPT가 점점 더 주목받기 시작한 이후로, 우리는 사회에 큰 파괴력을 빠르게 가져올 수 있는 AI 연구에 우선순위를 두기 시작했습니다. AGI가 다가오는 10년 내에 나타날 수 있기 때문에, 우리는 안전하고 책임감 있는 기본적인 AI 아키텍처에 기여하기 위해 할 수 있는 일을 기여하는 것이 우선순위입니다,”라고 덧붙였습니다.

현재 AI와 암호화폐에 대한 많은 회의론이 있으며, Leysen씨는 이를 종종 “매우 간단하고 종종 함부로한 토론”으로 비난합니다. 그는 그룹이 “사람들의 마음을 바꾸려는 대신 AI 풍경에 기술적인 기여에 노력을 집중하고 있다”고 말했으며, AI는 이제 대기업뿐만 아니라 대중의 손에 있습니다. 실제로 Leysen씨는 작은 그룹들도 AI 발전에 기여하는 것이 중요하다고 여깁니다.

Leysen씨는 “우리는 거대 기업이 통제하는 상상할 수 없는 초강력 무기가 되는 대신 책임감 있고 건설적으로 사고할 수 있는 AGI 형태로 우리를 이끌 수 있는 기술을 개발하기 위해 최선을 다하고 있습니다,”라고 말했습니다. 그러나 신뢰할 수 없는 회사들이 규제되지 않은 AI 콘텐츠를 만드는 데 여전히 많은 문제가 남아 있습니다.

트위치에서의 딥페이크 콘텐츠 문제는 여전히 주요 관심사입니다. 올해 초, 플랫폼은 여성 스트리머의 이미지가 생성되어 온라인에서 공유되는 명백한 딥페이크 콘텐츠에 대한 정책을 업데이트해야 했습니다. Kotaku에 따르면, 스트리머인 Brandon “Atrioc” Ewing은 실수로 자신의 컴퓨터에 명백한 딥페이크 스트리머 콘텐츠가 있다는 것을 밝혀냈으며, 해당 여성들은 그 존재를 알지 못했습니다.

그 결과, 트위치는 명백한 딥페이크 콘텐츠 또는 “인조적인 비동의적 착취 이미지”(NCEI)가 플랫폼에서 금지되었습니다. “이 콘텐츠의 생성, 홍보 또는 시청은 트위치에서 환영받지 않습니다,”라고 말했습니다.

그러나 이 정책은 또한 딥페이크 콘텐츠의 “신생 트렌드”에 대해서도 다루며, 트위치는 “우리의 계획, 대응 및 조치에 주의를 기울여야 할 것”이라고 말했습니다. 그리고 계속해서 “모든 합성된 콘텐츠가 성적으로 자극적인 것은 아니며, 모든 합성된 콘텐츠가 비동의적이지도 않습니다. 이 주제는 우리의 레이더에 매우 중요하며, 우리는 항상 우리의 정책이 우리 서비스에서 일어나는 일에 부합하도록 주요 행동을 모니터링하고 있습니다,”라고 이어졌습니다.

게다가, 트위치는 최근 아동의 안전을 보호하기 위해 노력을 강화했으며, 생성적인 AI를 사용한 아동 성적 학대 자료(CSAM)와 같은 착취적인 콘텐츠를 제거하는 것을 보장하고 있습니다.

그러나 딥페이크와 AI 콘텐츠는 허용되며, 바이든과 트럼프와 같은 실제 인물의 사용도 가능하지만, 명백한 콘텐츠와는 구분이 되어야 합니다. “이 부분은 계속 주시할 것이지만, 나는 여기서 스트리머들이 혁신자가 될 것이라고 생각합니다,” 제품 부사장 Jeremy Forrester가 올해 TwitchCon Paris에서 나에게 말했습니다. 그는 AI가 성장 가능성이 있는 분야로서의 주제에 대해 이야기했습니다.

Twitch의 글로벌 파트너십 부사장인 Pontus Eskilsson은 Eurogamer에 대한 새로운 발언에서 “Twitch 스트리머들은 그들의 창의력으로 유명하며, 아직 초기 단계임에도 불구하고 일부 스트리머들이 AI를 실험하여 놀랍도록 독특한 콘텐츠를 만들기 시작했습니다 – 애니메이션 스트림 및 VTubing을 위한 새로운 창조적 기회를 열어주며, 자신들의 기술적 노력을 훈련시키는 데 AI를 사용한 새로운 모델들을 스트리밍하기도 합니다,”라고 말했습니다.

“이 재미있고 시기적절한 Twitch의 하위 장르가 존재하더라도, 우리 서비스의 핵심은 항상 Twitch에서 커뮤니티를 찾고 그들이 안전하게 그렇게 할 수 있도록 돕는 것입니다. 우리 서비스의 모든 스트리머와 채널은 AI를 활용하든 그렇지 않든 Twitch의 전체 커뮤니티 가이드라인과 서비스 약관에 따라야 합니다.”

Leysen은 또한 AI를 통한 딥페이크 콘텐츠의 도덕적 책임에 대해 언급했습니다. 그는 “우리의 입장은 매우 전통적입니다. 기술을 의도적으로 속이기 위해 사용하는 것은 문제가 되며, Twitch와 같은 플랫폼은 이러한 남용을 방지하기 위한 방법을 점점 더 찾아야 하는 도전적인 과제입니다”라고 말했습니다.

“우리는 이를 통해 인식을 높이는 데 도움이 되기를 바랍니다. 우리의 스트리머들이 이미 기술이 가능한 바닥을 보고 충격을 받는 사람들을 종종 볼 수 있습니다. 그들은 그런 다음에는 창조자/유명인/정치인이 가짜로 보일 수 있는 맥락에서 나타나는 것을 다시 한 번 신중하게 생각하게 됩니다.”

Leysen은 실제 인물을 바탕으로 한 The Singularity Group의 스트리머의 경우, 콘텐츠가 패러디로 표시되고 공정한 사용 기준을 충족한다고 말했습니다. 언급된 스트리머 드라마 AI 스트림은 이에 대한 예입니다.

“비록 우리의 AI 패러디 캐릭터가 완전히 상스러울 수 있지만, 우리는 그들의 출력이 그들의 개인적인 배경에 무감각하지 않도록하기 위해 엄청난 노력을 기울였습니다”라고 Leysen은 말했습니다. “이에 대한 예외는 스트리머들이 우리에게 연락해 아무 제약 없이 AI 패러디가 그들에 대한 모든 알려진 정보와 자유롭게 노는 것을 원한다고 말한 경우입니다. 지금까지 우리에게 불평한 스트리머는 없었으며, 많은 스트리머들이 우리의 창작물을 좋아하고 AI 패러디가 등장하는 우리의 스트림에 대한 실시간 반응도 많이 보여주었습니다.”

그러므로, AI 콘텐츠와 스트림은 Twitch에서 계속해서 존재할 것이지만, 그들이 커뮤니티를 찾는 핵심에 얼마나 기여하는지는 논란의 여지가 있습니다. Leysen과 The Singularity Group의 활동가들에게는 AI 스트림이 플랫폼의 공정한 사용 범위 내에 있으며, AI의 기술적이고 혁신적인 능력을 보여주는 한편 그 위험성도 동시에 강조하는 방법입니다. 그리고 성적 콘텐츠에 대해서는 엄격한 기준이 있지만, AI가 Twitch 스트림에 얼마나 통합될 수 있는지는 어디까지일까요? 우리는 곧 완전히 AI에 의해 운영되는 스트림을 시청할 수 있을까요? 게임을 플레이하고 채팅에 응답하며 안전하고 관리되는 커뮤니티를 만드는 AI에 대한 질문일지도 모릅니다.”

아마도 그것은 예수님께 물어볼 질문입니다.