미국 "AI 워터마크 도입" 발표, AI 규제의 신호탄

최근 미국 백악관에서 “AI 표시제”를 도입하겠다고 발표했습니다. AI가 생성한 이미지에 워터마크 형식으로 표시를 하겠다는 말인데요. 내년 미국 대선을 대비해 관련 법령의 준비 등 제도를 서두르는 모양새입니다. AI 워터마크의 도입으로 AI 규제의 신호탄이 될 수 있을지 살펴봅니다.

목차 숨기기

1 무분별한 AI 이미지와 가짜 뉴스의 확산

2 어떻게 적용하게 될까?

3 비디오, 오디오에도 적용될까?

4 AI 규제, 앞으로의 전망

무분별한 AI 이미지와 가짜 뉴스의 확산

얼마 전 무분별하게 유포된 AI로 만든 트럼프의 구속 사진과 펜타곤 폭격 사진 등으로 미국에는 적지 않은 영향이 있었나 봅니다. 커뮤니티에서는 가짜 뉴스가 떠돌고, 주가가 요동치기도 했습니다.

Truepic의 CEO인 Jeffrey McGregor에 따르면, 이는 “앞으로 다가올 일의 빙산의 일각입니다. 우리는 더 많은 AI 생성 콘텐츠가 소셜 미디어에 등장하기 시작하는 것을 보게 될 것이며, 우리는 그것에 대한 준비가 되어 있지 않습니다.”

AI 표시제 도입하자는 제도에 이미 7개의 거대 IT 기업이 동의하였습니다. 이번 서약에 참여한 기업은 대형 언어 모델 LLM을 보유한 오픈 AI, 구글, 마이크로소프트, 메타, 아마존, 엔트로픽, 인플렉션 AI가 포함되었습니다. 세계 20개국과도 이 문제에 대한 동의를 마쳤다고 합니다. 우리나라 대한민국도 글로벌 국가별 AI 랭킹 10위권 안에 드는 나라이니 이 제도가 도입될 가능성이 크겠지요.

미드저니로 그린 그림이 미술대회의 디지털 아트 부문에서 대상을 수상한 이야기는 이미 많이 알려진 이야기입니다. 최근 국제 사진전에서 AI 사진이 대상을 차지한 일도 있었습니다.

AI 사진 국제대회 우승작 — 독일 출신의 한 사진작가가 인공지능(AI)으로 만든 이미지를 국제 사진전에 출품한 뒤 우승작으로 선정되자 뒤늦게 AI 작품임을 밝혀 논란이 되고 있다. 작가는 이후 수상을 거부했다.

출처 : 제주인뉴스(http://www.jejuinnews.co.kr)

점점 AI가 생성한 그림 혹은 사진과 진짜 사진이 인간의 능력으로 구분하기 힘든 시대가 되어가고 있습니다. 과연 AI 표시제 도입으로 이 두 분류를 갈라놓는데 일조할 수 있을까요?

어떻게 적용하게 될까?

아래의 정보는 CNN의 뉴스 기사에 발췌한 내용을 참고하였습니다.

AI 표시의 형태는 외부적으로는 “AI 생성물”이란 표시의 워터마크, 내부적으로는 이미지 메타데이터에 포함될 것입니다. 2021년에 설립된 C2PA(Coalition for Content Provenance and Authenticity, 콘텐츠 출처 및 진정성 연합)에 의해 주도되고 있습니다. 이는 Adobe사의 CAI(Content Authenticity Initiative)와 디지털 뉴스의 허위 정보를 근절하는 데 중점을 둔 Microsoft 및 BBC의 공동 이니셔티브 Project Origin의 노력이 결합되어 있습니다. 이 외에도 Truepic, Intel, Sony 등 거대 기업들이 관련되어 있다고 합니다.

많은 기업들이 이미 C2PA 표준 및 CAI 도구를 애플리케이션에 통합하고 있습니다. 어도비의 최근 Photoshop에 추가된 AI 이미지 생성 도구인 Firefly는 콘텐츠 자격 증명 기능을 통해 표준을 따릅니다. Microsoft는 또한 Bing Image Creator와 Microsoft Designer가 만든 AI 아트가 앞으로 몇 달 안에 암호화 서명을 전달할 것이라고 발표했습니다.

구글(Google) 및 구글과 관련된 회사들은 약간 벗어나는 방식을 추구합니다. 지난 5월, 구글은 “About this image”라는 도구를 발표했는데, 사용자들에게 자사 사이트에서 발견된 이미지들이 언제 구글에 의해 색인이 생성되었는지, 이미지들이 처음 등장했을 수 있는 곳과 온라인에서 그것들이 어디에서 발견될 수 있는지를 볼 수 있는 기능을 제공합니다.

비디오, 오디오에도 적용될까?

사실 비디오, 오디오의 A I기술이 날이 갈수록 정교해진다면 그 위험성은 이미지보다 훨씬 더 크다고 생각됩니다. AI로 내 목소리를 정교하게 카피하여 보이스피싱에 활용한다면 누가 속지 않을까요? 생각만 해도 끔찍합니다.

날이 갈수록 정교해지는 비디오, 오디오의 AI 기술은 그 위험성만 놓고 보자면 이미지보다 훨씬 더 크고 강력하다고 생각됩니다. 한 예로, AI로 내 목소리를 정교하게 카피하여 보이스피싱에 활용한다면 누가 속지 않을 수 있을까요? 생각만 해도 끔찍합니다. 이미 이에 대한 기술 개발은 활발히 진행되고 있습니다. 머지않아 AI를 활용하여 만드는 유튜브 영상에도 AI 도장이 찍힐 가능성이 크지 않을까요?

AI 음성 워터마크 리젬블AI — 리젬블 AI는 더빙이나 오디오북 서비스 등에 사람 목소리를 대체하는 생성 음성을 서비스하는 AI 스타트업이다. 따라서 자신들의 서비스가 악용될 것을 방지하기 위해 음성 워터마크 기술을 고안하게 됐다고 밝혔다.

출처 : AI타임스(https://www.aitimes.com)

AI 규제, 앞으로의 전망

봇물처럼 터져 나오는 AI 기술에 거부하고 규제하는 움직임도 많습니다. AI 기술을 주도하고 있는 거대 기업들이 AI 규제에 한목소리를 내고 있는 상황도 참 아이러니하죠. 이러한 움직임은 어찌 보면 참 다행스러운 부분이라 생각이 들기도 합니다. AI 표시제는 인간 본연의 창작물과 구분하는 키 테크가 될 것이고 기술 개발도 활발히 이루어지고 있습니다. 단, 이를 악의적 용도로 제거하는 기술도 분명 존재하게 될 것입니다. 이에 대한 대응책은 또 어떻게 이루어질지 지켜봐야 할 것입니다.