엑스에이아이(xAI) '그록(Grok)', 멀티미디어 기능 확장... 딥페이크 위험 재조명

엑스에이아이(xAI) '그록(Grok)', 멀티미디어 기능 확장... 딥페이크 위험 재조명

엑스에이아이(xAI), 그록(Grok)에 영상 생성 도구 '그록 이매진(Grok Imagine)' 등 멀티미디어 기능 추가
AI 제작물의 빠른 확산 속, 유명인 모사 등 딥페이크 악용 사례 보고되며 윤리적 쟁점 부상

 

이미지/구글 제미나이로 생성함

 

 

[AF 에엪 기술융합부] 인공지능(AI) 기업 엑스에이아이(xAI)의 '그록(Grok)' 브랜드가 멀티모달(Multimodal) 생성 기능을 확장하고 있다. 이는 사용자의 텍스트 입력뿐만 아니라 이미지, 나아가 짧은 동영상까지 생성할 수 있는 기능을 단계적으로 사용자들에게 배포하는 것을 의미한다. 공개된 자료와 정책 분석에 따르면, '그록 이매진(Grok Imagine)'을 포함한 일부 새로운 기능은 현재 프리뷰 또는 초기 배포 형태로 제공되고 있다. 사용자 인터페이스(UI)를 살펴보면, 영상 제작 시 컷 편집이나 오디오 싱크 맞추기 등 반복적인 입력을 줄여주는 자동화 도구가 확인되었다. 제작자들은 이러한 도구를 활용해 시제품 영상 제작(프로토타이핑)이나 홍보 영상 제작에 활용하는 사례를 늘리고 있다.

 

 

 

xAI 로고.

이러한 멀티미디어 기능의 강화는 AI를 활용한 콘텐츠 제작의 문턱을 크게 낮추고, 창의적인 표현을 확장하는 긍정적인 측면을 가진다. 특히 영상 제작에 필요한 시간과 비용을 혁신적으로 줄여주면서, 개인 크리에이터나 소규모 스튜디오가 경쟁력을 갖추는 데 기여하고 있다. 그록(Grok)의 사용자들은 복잡한 소프트웨어 없이도 빠르게 아이디어를 시각화하고 프로모션에 사용할 영상을 만들 수 있다.

 

 

 

 

 

그록(Grok) 로고.

동시에, 그록(Grok) 기반으로 생성된 AI 결과물이 윤리적 쟁점을 다시 수면 위로 끌어올리고 있다. 동의를 구하지 않은 유명인이나 실존 인물의 얼굴과 목소리를 모방하는 사례, 나아가 성적이거나 폭력적인 내용의 딥페이크(Deepfake) 콘텐츠로 악용된 사례들이 여러 경로를 통해 보고되고 있다. 이러한 문제는 개인의 초상권과 명예를 심각하게 침해하며 사회적 신뢰를 훼손할 위험을 안고 있다.

이에 따라 경제협력개발기구(OECD) AI와 같은 국제기구 및 다양한 소비자 권익 단체들은 AI 콘텐츠 생성 플랫폼에 대해 안전 장치(Guardrail)를 강화하고 관련 규범을 조속히 정비할 것을 강력하게 촉구하고 있다. 아트테크 분야에서는 AI 생성물이 원본과 어떻게 구분되는지를 명확히 할 수 있도록, 콘텐츠의 출처 표기, 제작 과정 공개, 그리고 워터마킹(Watermarking)과 같은 기술적, 정책적 대응을 요구하는 움직임이 확산되고 있다. 플랫폼 사업자들은 이러한 요구에 대응하기 위해 권리자들이 자신의 콘텐츠 사용을 통제할 수 있는 기능과 AI 생성물을 식별할 수 있는 기술을 순차적으로 강화하고 있다고 밝히고 있다. 이는 기술 혁신과 윤리적 책임 사이의 균형을 맞추는 것이 AI 업계의 핵심 과제임을 보여준다.

AF 에엪 기술융합부 press@artfr.co.kr
 

◎ AF(에엪) https://artfr.co.kr
Copyright © ARTFR.CO.KR, 무단 전재 및 재배포 금지

#AF #에이에프 #에엪 #인공지능 #AI  #X #xAI #그록 #Grok