목차
최근 캘리포니아 당국이 일론 머스크가 운영하는 AI 기업에 대한 조사를 시작했습니다. 이는 아동 포르노와 관련된 우려가 제기되면서 이루어진 것으로 알려졌습니다. 이번 조사를 통해 해당 기업의 활동과 관련 혐의에 대한 진상 규명이 이루어질 것으로 기대됩니다.
캘리포니아 주정부, xAI 조사 착수
캘리포니아 주정부가 엘론 머스크의 인공지능 기업 xAI에 대한 조사에 착수했습니다. 뉴섬 주지사는 xAI의 Grok 채팅봇이 실제 사람들의 성적으로 노골적인 딥페이크를 만들어내고 아동 포르노그래피를 생산한다고 비난했습니다.
Grok 채팅봇에는 사용자가 기존 사진을 새로운 이미지로 변형할 수 있는 이미지 생성 기능이 포함되어 있습니다. 생성된 이미지는 X 플랫폼에 공개적으로 게시됩니다. 비판가들은 어떤 이미지가 생성될 수 있는지에 대한 충분한 안전장치가 없어, 실제 사람들의 동의 없이 성적으로 노골적이거나 부적절한 이미지가 만들어지고 있다고 지적했습니다.
일부에서는 미성년자를 대상으로 한 이미지도 생성되고 있어, 이 도구가 아동 포르노그래피 제작에 악용되고 있다는 비판이 제기되고 있습니다.
새로운 법안으로 대응
뉴섬 주지사는 2024년 두 개의 법안에 서명했는데, 이 법안들은 미성년자의 성적 이미지를 카메라가 아닌 컴퓨터로 만들어도 불법으로 규정했습니다. 이 법안들은 지난해 발효되었습니다.
이에 따라 xAI는 캘리포니아 법을 준수해야 할 것으로 보입니다. 본토 법무장관은 xAI에 즉각적인 조치를 취할 것을 요구했으며, 피해자들이 불만을 제기할 수 있는 채널도 마련했습니다.
또한 뉴섬 주지사는 AI 개발자나 사용자가 기술이 독자적으로 행동했다고 주장하는 것을 막는 법안에도 서명했습니다. 이를 통해 피해자들의 소송권이 강화되었습니다.
X와 Grok에 대한 비판 확산
연구 결과에 따르면 X 플랫폼이 사람들을 디지털로 벗기는 데 가장 많이 이용되고 있습니다. 하루 동안 Grok 계정에서 약 6,700개의 성적으로 암시적이거나 사람들을 벗기는 것으로 보이는 이미지가 생성된 것으로 나타났습니다.
여성 단체, 기술 감시단체, 진보 활동가 등 28개 단체가 X와 Grok을 앱스토어에서 삭제할 것을 요구하는 공개 서한을 발표했습니다. 이들은 비자발적 딥페이크가 여성과 아동의 프라이버시, 자율성, 안전을 위협한다고 지적했습니다.
스웨덴 부총리 에바 부시도 Grok에 의해 자신의 사진이 비키니 차림으로 변형된 것에 대해 비판했습니다. 그는 이것이 자신의 의지와 무관하게 벌어진 일이라고 말했습니다.
유럽연합, Grok 조사 착수
유럽연합 집행위원회도 Grok의 알고리즘과 불법 콘텐츠 유포 가능성에 대해 조사에 착수했습니다. 집행위는 Grok 개발과 관련된 문서 보존을 xAI에 명령했습니다.
이처럼 Grok의 성적 이미지 생성 기능에 대한 비판이 전 세계적으로 확산되고 있습니다. 이에 xAI는 최근 무료 사용자의 성적 이미지 생성 기능을 제한하기도 했습니다.
하지만 일부에서는 이를 근본적인 해결책이 아니라고 지적하며, xAI가 Grok의 문제를 완전히 해결하기 전까지는 앱스토어에서 삭제되어야 한다고 주장하고 있습니다.
실용 가이드: Grok 사용 시 주의사항
Grok 사용 시 주의해야 할 점은 다음과 같습니다. 첫째, 타인의 동의 없이 사진을 변형하거나 공개하는 것은 불법입니다. 둘째, 미성년자와 관련된 이미지 생성은 절대 금지됩니다. 셋째, 성적으로 노골적인 이미지 생성은 자제해야 합니다.
이러한 행위는 개인의 프라이버시와 안전을 침해할 수 있으며, 법적 책임을 지게 될 수 있습니다. Grok 사용자는 항상 윤리적이고 합법적인 방식으로 이 도구를 활용해야 합니다.
만약 Grok을 통해 부적절한 이미지가 생성되었다면 즉시 삭제하고 관련 기관에 신고해야 합니다. 이를 통해 피해를 최소화하고 법적 책임을 면할 수 있습니다.
미니 FAQ
Q: Grok으로 성적인 이미지를 만들면 어떤 문제가 발생할 수 있나요?
A: Grok으로 타인의 동의 없이 성적인 이미지를 만들면 개인정보 침해, 명예훼손, 아동 포르노그래피 제작 등 심각한 법적 책임을 지게 될 수 있습니다. 이는 피해자의 프라이버시와 안전을 위협하는 행위이므로 절대 해서는 안 됩니다.
Q: Grok 사용 시 어떤 점에 주의해야 하나요?
A: Grok 사용 시에는 타인의 동의 없이 사진을 변형하거나 공개하지 않도록 주의해야 합니다. 또한 미성년자와 관련된 이미지 생성은 절대 금지되며, 성적으로 노골적인 이미지 생성도 자제해야 합니다.
xAI, 규제 강화 불가피
이번 사태를 계기로 xAI와 Grok에 대한 규제 강화가 불가피할 것으로 보입니다. 캘리포니아 주정부와 유럽연합의 조사 결과에 따라 xAI에 대한 제재가 내려질 수 있으며, 다른 지역에서도 유사한 움직임이 있을 것으로 예상됩니다.
특히 Grok의 이미지 생성 기능에 대한 엄격한 통제와 안전장치 마련이 요구될 것입니다. 또한 AI 기술 개발 과정에서 발생할 수 있는 부작용에 대한 기업의 책임 강화도 필요할 것으로 보입니다.
이번 사태를 계기로 AI 기술의 윤리적 활용과 사회적 영향에 대한 논의가 더욱 활발해질 것으로 예상됩니다. xAI와 Grok의 향후 행보가 주목되는 이유입니다.
※ 여기 담긴 내용은 공신력 있는 보도를 요약한 일반 정보입니다. 법률·의료·투자 자문으로 간주되지 않습니다.
