일론 머스크의 Grok과 AI 논란

오늘의 Decoder 에피소드는 X, Grok, 그리고 일론 머스크에 관한 내용이다. 현재 우리는 생성적 AI의 짧은 역사에서 가장 심각하고 불쾌하며 무책임한 AI 논란 중 하나에 몇 주째 접어들고 있다. 일론 머스크의 xAI가 만든 챗봇 Grok은 여성과 미성년자의 비동의 친밀한 이미지를 포함한 다양한 AI 생성 이미지를 만들 수 있다.

Grok은 이전의 트위터로 알려진 X와 연결되어 있어, 사용자가 Grok에게 플랫폼의 어떤 이미지든 편집해 달라고 요청하면 Grok은 이를 수행하고 해당 이미지를 플랫폼 전역에 배포한다. 지난 몇 주 동안 X와 일론은 여러 차례 다양한 안전 장치가 마련되었다고 주장했지만, 지금까지는 이를 우회하는 것이 대부분 쉬웠다. 이제 일론이 Grok이 이러한 기능을 수행할 수 있기를 원하며, 이를 중단하길 원하는 사람들, 특히 X에 대해 법적 조치를 취하겠다고 위협하는 세계 각국 정부에 매우 불만을 품고 있다는 것이 분명해졌다.

이 문제를 누군가에게 설명하면, 누군가는 반드시 이를 해결할 수 있어야 한다고 직감할 것이다. 사실, 비동의로 이미지를 생성하는 괴롭힘 기계에 대해 누군가가 조치를 취해야 한다. 그러나 누가 그 권한을 가지고 있으며, 그들이 무엇을 할 수 있는지는 복잡한 질문이며, 이는 콘텐츠 조정의 역사와 그에 따른 법적 선례와 얽혀 있다. 그래서 나는 Riana Pfefferkorn을 초대해 이 모든 문제를 함께 논의했다.

Riana는 과거에도 복잡한 인터넷 조정 문제를 설명하기 위해 나와 함께한 바 있다. 현재 그녀는 스탠포드 인공지능 연구소의 정책 펠로우로 활동하고 있으며, Grok과 같은 문제에 대해 미국과 전 세계의 규제자 및 입법자들이 무엇을 할 수 있는지에 대한 깊은 배경을 가지고 있다.

미국에서 Grok에 대해 조치를 취할 수 있는 많은 사람들이 거의 아무것도 하지 않기로 선택하고 있다는 것이 가장 큰 문제다. 이는 의회, 법무부, 연방거래위원회, 주 입법자 및 주 검찰총장 대부분을 포함한다. 가장 중요한 것은 X와 Grok을 배포하는 모바일 앱 스토어를 통제하는 애플과 구글이다. 팀 쿡과 순다르 피차이는 Grok을 보고 "우리의 앱 스토어 규칙은 비동의 딥페이크를 생성하는 제품을 금지한다"며 앱을 삭제할 수 있지만, 지금까지 아무런 조치를 취하지 않았다.

Source: theverge.com