실제 인물 성적 이미지 생성 논란…디지털서비스법 위반 시 매출 6% 과징금 가능
유럽연합(EU)이 일론 머스크가 이끄는 소셜미디어 플랫폼 X(구 트위터)의 생성형 AI 도구 ‘Grok’을 둘러싼 성적 딥페이크(sexual deepfake) 생성 의혹에 대해 공식 조사에 착수했다.
최근 BBC 보도에 따르면, 유럽연합 집행위원회(European Commission)는 Grok AI가 실제 인물의 이미지를 성적으로 변형·조작하는 데 활용됐을 가능성에 대한 우려를 제기하며, X가 EU의 디지털서비스법(DSA)을 위반했는지 여부를 조사하고 있다고 밝혔다. 앞서 영국 통신·미디어 규제기관 오프컴(Ofcom)도 올해 1월 동일 사안에 대한 조사를 개시한 바 있다.
(챗GPT에서 생성한 이미지임)
이번 조사에서 X가 DSA를 위반한 것으로 판단될 경우, 전 세계 연간 매출의 최대 6%에 해당하는 과징금이 부과될 수 있다. 이는 EU가 생성형 AI와 대형 플랫폼의 책임을 본격적으로 묻는 사례로 이어질 가능성이 있다는 점에서 주목된다.
BBC 기사에 따르면, 레지나 도허티(Regina Doherty) 아일랜드 출신 유럽의회 의원은 “집행위원회는 조작된 성적 이미지가 실제로 EU 이용자들에게 노출됐는지, 그리고 플랫폼이 불법 콘텐츠 확산을 방지하기 위해 충분한 조치를 취했는지를 평가하게 될 것”이라고 밝혔다.
머스크 반발 속 AI 성범죄 대응 규제에 주목...생성형 AI와 소셜미디어 결합 규제 방향을 가늠할 분기점이 될 것
조사 발표에 앞서 일론 머스크는 X에 게시물을 올려 Grok을 둘러싼 규제를 조롱하는 듯한 이미지를 공유했다. 머스크는 과거에도 Grok의 이미지 편집 기능을 문제 삼는 영국 정부 등을 향해 “검열을 위한 어떤 핑계라도 찾고 있다”고 비판한 바 있다.
X의 안전(Safety) 계정은 이전 성명을 통해 “불법으로 간주되는 관할권에서는 Grok이 인물의 사진을 성적으로 변형하거나 의복을 제거하는 기능을 차단했다”고 밝혔으나, EU 집행위원회는 이러한 조치가 실질적이고 충분했는지 여부를 검증하겠다는 입장이다. 집행위는 필요할 경우 임시 조치(interim measures)를 포함한 추가 규제도 검토할 수 있다고 밝혔다.
아울러 EU는 2023년 12월부터 진행 중인 X의 추천 알고리즘(recommender system) 관련 조사 범위도 확대했다. Grok을 둘러싼 조사는 EU와 영국 외에도 호주, 프랑스, 독일 등으로 확산되고 있으며, 인도네시아와 말레이시아에서는 일시적인 서비스 제한 조치가 내려지기도 했다.
이번 사안은 생성형 AI 기반 성적 딥페이크 문제가 기술 남용을 넘어, AI 도구를 제공한 플랫폼의 사전 위험 관리와 이용자 보호 책임으로 확장되고 있음을 보여준다. EU는 디지털서비스법을 통해 “플랫폼 규모가 클수록 책임도 커진다”는 원칙을 명확히 하고 있으며, 이번 조사는 생성형 AI와 소셜미디어 결합에 대한 규제 방향을 가늠할 중요한 분기점이 될 것으로 전망된다고 BBC는 내다봤다.
<저작권자(c)스마트앤컴퍼니. 무단전재-재배포금지>
