xAI 그록, 멀티모달 기능 확장과 안전성 논란 격화

xAI 그록, 멀티모달 기능 확장과 안전성 논란 격화

이미지·단편 영상 생성 기능 확대… 무단 초상 및 딥페이크 악용 우려 재점화

 

xAI 로고.

 

[AF 에엪 기술융합부] 인공지능(AI) 개발사 xAI는 자사의 그록(Grok) 계열 모델에 멀티모달 생성 기능을 단계적으로 확장하고 있다고 2025년 10월 5일 공식 블로그를 통해 발표했다. 그록은 xAI가 개발한 대화형 인공지능 챗봇이며, 멀티모달은 텍스트뿐만 아니라 이미지, 영상 등 여러 형태의 정보를 동시에 처리하고 생성할 수 있는 능력을 말한다. 이번 업데이트를 통해 사용자는 텍스트 명령어(프롬프트)만으로 고품질의 이미지와 짧은 단편 영상을 생성할 수 있게 되었다. 특히 실시간 편집 기능과 음향 동기화 기능이 추가되면서, 생성된 콘텐츠의 완성도가 크게 향상되었다.

아트테크 생산성 향상과 윤리적 문제

디지털 아티스트들은 그록의 확장된 기능이 시제품 제작(프로토타이핑)과 홍보용 영상 클립 제작에 필요한 작업 흐름(워크플로우)을 획기적으로 단축하는 등 창작 도구로서의 생산성 향상 효과를 높이 평가했다. 아트테크 커뮤니티는 그록의 강력한 생성 능력이 새로운 형태의 디지털 아트 창작을 촉진할 것이라며 환영하는 분위기이다.

그러나 기능 확장과 동시에 일부 언론이 보도한 ‘무단 유명인 초상화’ 생성 및 ‘딥페이크(Deepfake)’ 악용 사례가 집중적으로 논란을 불러일으키며 안전성 문제가 재점화되었다. 딥페이크는 인공지능 기술을 이용해 특정 인물의 얼굴이나 음성을 합성하여 가짜 영상이나 이미지를 만들어내는 기술이다. xAI는 공식 성명을 통해 “소수 보고된 기능 남용 사례들을 면밀히 검토하고 있으며, 이에 대한 정책을 보완하고 기술적 제어 기능을 강화할 예정이다”라고 확인했다.

기술적 보완과 업계 표준 마련 요구

규제 기관 및 윤리 단체들은 xAI에게 생성된 콘텐츠에 워터마크를 자동으로 삽입하는 기술, 출처 표시 의무화, 그리고 악용 소지가 있는 특정 인물에 대한 사용 제약 정책 등을 조속히 도입할 것을 촉구했다. 워터마크는 이미지나 영상에 출처를 표시하는 것으로, 인공지능이 만든 결과물임을 식별하게 하는 데 중요하다. xAI는 이러한 사회적 요구를 수용하여, 내부적으로 기술적 제어 방안과 정책적 보완 방안을 다각도로 검토 중이다.

아트테크 커뮤니티는 그록의 놀라운 창작 도구로서의 잠재력을 인정하면서도, 비동의 딥페이크 방지와 학습 데이터 출처의 투명성 확보를 위한 업계 표준을 조속히 마련할 것을 강력히 요구하고 있다. 이번 그록의 멀티모달 확장과 이에 따른 안전성 논란은 인공지능 기술의 발전 속도와 기업의 사회적 책임 간의 균형점을 찾아야 하는 중요한 논쟁을 불러일으키고 있으며, 향후 AI 윤리 및 규제 프레임워크의 방향을 결정하는 데 핵심적인 역할을 할 것으로 전망된다.

AF 에엪 기술융합부 press@artfr.co.kr
 

◎ AF(에엪) https://artfr.co.kr
Copyright © ARTFR.CO.KR, 무단 전재 및 재배포 금지

#AF #에이에프 #에엪 #인공지능 #AI  #X #xAI #그록 #Grok