인디 게임 배급사 CEO가 직원의 과로로 인한 피로감을 검출하는 블랙 미러급 AI를 제안한다고 밝혔다. 이는 반란 속에서 가상의 것이라고 말했다.

인디 게임 배급사 CEO는 직원의 과로로 인한 피로감을 검출하는 블랙 미러급 AI를 제안했다고 밝혔다.

알렉스 니치포르치크, 헬로 네이버 게임 배급사인 타이니빌드의 CEO는 최근에 AI 모델을 사용하여 “문제가 있는 팀원”을 찾고 근로 과로 위험에 처한 직원들을 식별하는 것의 잠재력을 제안했습니다. 목표는 직원들을 돕는 것이었으나, 모두가 그것을 싫어했습니다.

WhyNow Gaming은 7월 12일 개최된 Develop: Brighton 컨퍼런스에서 니치포르치크가 발표한 “AI in Gamedev: Is My Job Safe?”라는 주제의 프레젠테이션에 대해 보도했습니다. 이 프레젠테이션은 “게임 개발에서 인공지능이 어떻게 적용되어 효율을 지수적으로 증가시키는지에 대해 깊이 알아볼 것입니다. 키 아트 제작 효율을 10배로 증가시키거나 AI를 사용하여 데이터 수집과 커뮤니티 반응을 확인하는 등, 디지털 시대의 산업 혁명에 참여하고 있는 것입니다. 이미 이를 받아들인 사람들은 이점을 가지고 있습니다.”

미술과 코드와 같은 게임 개발 분야에서 AI가 어떻게 도구로 사용될 수 있는지에 추가로 언급된 세션은 “팀이 작동하는 방식을 변경하고 최적화할 인력 재배치가 있을 것입니다.”라고 언급합니다. 대부분 이 부분 때문에 논란이 되었는데, 직원들을 특정하려는 대신 그들의 상태를 확인하는 것이 어떨까요?

(이미지 제공: 타이니빌드)

니치포르치크의 프레젠테이션에서 제시된 슬라이드는 “I, Me 분석”을 제안합니다. 이 분석은 직원들이 팀의 일원으로서가 아닌 개인으로서 자신을 얼마나 자주 언급하는지를 측정합니다 (예: “우리”와 같은 복수형 언급 등). 이는 예를 들어 슬랙이나 기타 메시징 앱 대화, Google이나 Zoom 통화의 자동 변호문 등을 AI인 ChatGPT에 공급하여 식별 세부 정보를 삭제한 후 분석할 수 있습니다. 니치포르치크는 이 방법을 발명한 사람이 없다고 장난치며 저작권을 취득하려고 한다고도 언급했습니다.

그는 또한 “동료들과 비교하여 회의 시간에 지나치게 많은 말을 하는 직원들을 찾는 검색”에 대해 논의했습니다. 그는 이러한 사람들을 “시간 흡혈귀”라고 부르는데, 우연히도 저는 이 용어를 많은 콘텐츠를 가진 비디오 게임에 사용합니다. 마지막으로, 인사팀의 360도 피드백을 접목시킨 것도 논의되었습니다. 이는 직원들에게 긍정적인 상호작용을 한 동료들의 목록을 작성하도록 요청하고, 이 목록에 많거나 전혀 나타나지 않는 사람들을 조사하는 것입니다.

프레젠테이션은 이러한 데이터를 결합하면 “개인과 그들의 팀 모두에게 과로를 예방할 수도 있습니다.”라고 요약합니다. 니치포르치크는 또한 “팀 구성원들이 감시당하고 있다고 느끼게 해서는 안 된다”고 강조했지만, 이런 경고와 제안된 방법 사이의 간극이 게임 개발자들에게는 좋지 않게 다가왔습니다.

(이미지 제공: 타이니빌드)

만약 이것이 블랙 미러에서 나온 디스토피아적인 악몽 같다고 생각한다면, “toxic한 사람들은 보통 과로에 시달리는 사람들입니다”라는 주장과 프레젠테이션 슬라이드에서 과로를 독성과 동일시하는 내용은 일부 비판을 받았습니다. 공손하게 말하자면, 사람들은 그것을 좋아하지 않습니다. 덜 공손하게 말하자면:

“생각해보세요, 직원들이 불행하다는 것을 알기 위해 디스토피아적인 방법이 덜 있지 않을까요?”라고 Thirsty Suitors의 이야기꾼 Meghna Jayanth는 말했습니다.

“과로에 시달리는 사람들은 ‘일반적으로 독성이 있다’는 것은 아닙니다. 사람들은 과로를 겪을 수 있고 독성을 지닐 수도 있지만, 과로가 대체로 성격적인 결함으로 간주된다는 것은 이상합니다.”라고 Armor Games의 감독인 Dora Breckinridge는 덧붙였습니다.

“만약 직원들의 감시가 얼마나 디스토피아적이고 끔찍한지를 계속해서 기술해야 한다면, 당신이 문제인 것 같습니다.”라고 WB Games 작가 Mitch Dyer는 말했습니다.

“문제가 있는 직원들을 찾기 위해 AI가 필요하다고 생각하지 않습니다 – 이와 같은 괴롭힘-연결점수준의 엿 같은 일을 하는 사람들을 살펴보면 알 수 있습니다. Develop가 이렇게 반-게임 개발자적인 이야기를 주최하는 것 자체가 정말 실망스럽습니다.”라고 Radical Forge의 QA 리더인 Dan Ahern은 주장했습니다.

(이미지 제공: 타이니빌드)

7월 14일 오전, Nichiporchik은 트위터에 나와 원래 이야기를 비난하기 위해 나왔습니다. 그는 그 이야기를 “증오의 장소”에서 비롯된 것으로 묘사하며 “문맥에서 벗어난” 것이고 “편리하게” 핵심 슬라이드를 생략했다고 말했습니다. WhyNow Gaming은 또한 이야기를 최신화하고 CEO의 진술을 첨부했으며, 그 중 일부는 다음과 같습니다:

“제 발표의 인사 담당 부분은 가상의 것이었으며, 따라서 블랙 미러에 대한 참조였습니다. 문맥에서 벗어나 볼 때 더 명확하게 할 수 있었을 것입니다. 우리는 직원을 모니터하거나 문제가 있는 직원을 식별하기 위해 AI를 사용하지 않습니다. 발표는 AI 도구가 어떻게 사용될 수 있는지, 그리고 어떤 것들이 기괴한 영역으로 진입하는지에 대해 탐구했습니다.”

“이것은 문제가 있는 직원을 식별하는 것이 아니라, 인사 담당부에 사람들의 감당 불능을 식별하고 방지하기 위한 도구를 제공하는 것에 관한 것입니다,” Nichiporchik은 트위터에서 강조했습니다.

“나는 이를 더 강조할 수 있었을 것입니다: 우리는 인사 담당 부분에 AI 도구를 사용하지 않습니다, 이 부분은 가상의 것이었습니다,” 그는 답변에서 말했습니다.

한 트위터 사용자는 “내 Slack 메시지가 어떤 종류의 프로그램에 수집되고 공급되는 것을 혐오합니다,” 라며 일부 혼란 속에 Nichiporchik은 추가 설명 없이 “100% 동의”라고 말했습니다.

tinyBuild 직원들이 이러한 방식으로 메시지를 분석하는 데 동의했는지 물었을 때, Nichiporchik은 “그들이 어디로든 공급되지 않았기 때문에 허가를 받을 필요가 없었습니다”라고 말했습니다 – 다시 말해, 이 모든 것이 “가상의” 것이었기 때문이라고 추측합니다.

“그러한 프로세스의 윤리적인 측면은 분명히 의문스러울 것이며, 이 질문은 발표 이후의 Q&A에서 제기되었습니다,” 그는 또 다른 트윗에서 말했습니다. “이것이 바로 ‘매우 블랙 미러 영역’이라고 말하는 이유입니다. 이 부분은 가상의 것이었습니다. 감당 불능을 방지하기 위해 할 수 있는 것들.”

가상의 것이든 아니든, 이러한 아이디어 자체가 많은 사람들에게 역겹게 느껴지며, 특히 이런 종류의 모니터링과 AI 기반 직원 개입을 제안하는 회의에서 이야기되고 크기가 있는 독립 스튜디오의 경영진으로부터 나온 것입니다. 나는 tinyBuild에 직접 연락해서 이 제안에 대한 업데이트된 의견, 이러한 종류의 모니터링 및 AI 기반 직원 개입에 대한 입장, 그리고 그러한 시스템을 도입하는 것을 고려하는지 여부에 대한 확인을 요청했습니다.

Persona 5 VA는 최근에 자신의 목소리를 AI로 복제한 동영상을 비판한 후 트위터에서 사라졌으며, NSFW Skyrim 모드에서의 AI 목소리가 동일한 종류의 복제 기술에 대한 별개의 논의를 일으킨 후 일반적인 논의가 되었습니다.