일론 머스크 테슬라 최고경영자(CEO)가 이끄는 인공지능(AI) 기업 xAI의 챗봇 ‘그록’ 의 로고. 로이터연합뉴스


일론 머스크 테슬라 최고경영자(CEO)가 이끄는 인공지능(AI) 기업 xAI의 챗봇 ‘그록’이 비키니 수영복 등을 입은 아동의 이미지를 게시했다가 신고를 받고 삭제했다.
2일(현지시간) 그록의 엑스(X·옛 트위터) 공식 계정에 따르면 이 챗봇은 최근 ‘최소한으로 옷을 입은 미성년자’를 묘사한 사진을 여러 건 게시했다.
이들 사진은 일부 이용자들의 요청에 따라 생성된 것으로, 이 가운데는 1∼2세 릴게임가입머니 영유아로 보이는 아동 사진도 포함된 것으로 나타났다.
그록은 원래 이처럼 아동을 성적으로 대상화하는 이미지 생성 요청을 차단하는 ‘안전장치’를 마련하고 있으나, 일부가 이를 우회한 것으로 보인다.
그록은 한 이용자가 문제를 제기하자 “안전장치의 허점을 확인했다”며 “긴급히 수정 중”이라고 밝히고, 문제가 된 사진을 삭제 알라딘릴게임 했다.
비록 xAI 측은 안전장치 상의 문제라고 설명했으나, 일각에서는 그록이 그간 성적 콘텐츠를 허용하는 방식으로 이용자를 늘려왔다고 지적하고 있다.
챗GPT와 제미나이, 클로드 등 주요 AI 챗봇은 성적 이미지나 콘텐츠 생성을 엄격히 금지하고 있지만, 그록은 ‘표현의 자유’ 등을 내세워 이를 막지 않고 있다.
릴게임종류지난해 8월 이미지·영상 생성 모델을 출시하면서 성적인 이미지를 생성할 수 있는 이른바 ‘매운맛 모드’(Spicy Mode)도 함께 내놓은 것이 대표적인 사례다.
이 때문에 그록은 당시에도 유명 연예인을 성적으로 묘사하는 딥페이크 영상을 생성하는 도구가 되고 있다는 비판을 받았다. 성인물을 뜻하는 ‘xxxAI’라는 불명예스러운 바다이야기예시 별명을 얻기도 했다.
그록이 이처럼 검열을 최소화한 방식으로 인기를 끌자 샘 올트먼 오픈AI 최고경영자(CEO)도 챗GPT에 성인 인증을 받은 이용자들이 성적 콘텐츠를 이용할 수 있도록 하는 기능을 도입하겠다고 지난 10월 밝히기도 했다.
그러나 아동을 성적으로 대상화하는 성 착취물의 생성이나 소지 등은 미 연방법에 따라 바다이야기비밀코드 금지돼 있어, 성인을 대상으로 한 기능에서도 허용될 수 없다.
xAI는 주요 외신들의 논평 요청에 대해 “기성 언론은 거짓말을 한다”(Legacy Media Lies)고 답했는데, 이는 언론사의 이메일에 대한 자동응답 답변이라고 CNBC는 설명했다.
정선형 기자