 |
| AI 도구는 가짜 기술 제품을 쉽게 만들어냅니다. (일러스트 사진) |
“딥페이크 시대”
반면, AI는 잘못된 손에 들어가면 개인의 소셜 미디어 계정에서 이미지를 쉽게 훔쳐 원치 않는 참조 자료로 활용할 수 있습니다. 예를 들어, 포르노 웹사이트는 개인의 이미지를 동의 없이 사용할 수 있습니다.
매사추세츠 공과대학(MIT) 연구원 하디 살만은 "우리는 딥페이크 시대에 살고 있습니다."라고 말했습니다. "이제 누구든 이미지와 영상을조작하여 실제로 하지 않은 일을 하도록 만들 수 있습니다."
딥페이크는 '딥 러닝'과 '페이크'의 합성어로, AI를 활용해 오디오, 이미지, 심지어 비디오 등의 형태로 가짜 기술 제품을 만드는 기술입니다.
AI는 몇 초 만에 몇 가지 간단한 명령만으로 "악당"이 원하는 어떤 이미지든 만들어낼 수 있습니다. 예를 들어, 누군가 AI에게 발렌시아가 코트를 입은 교황의 사진을 만들어 달라고 요청한 후, 그 사진이 가짜라는 사실이 밝혀지기 전에 인터넷에 게시할 수도 있습니다.
AI 기술은 특정 예술가의 스타일로 예술 작품을 제작할 수 있는 능력으로 사용자들을 놀라게 했습니다. 예를 들어, 유명 화가 빈센트 반 고흐의 스타일로 그린 것처럼 보이는 고양이 그림을 만들 수 있습니다.
시각 예술가의 경우, 이러한 도구를 사용하면 AI 모델이 그들의 고유한 스타일을 모방하고 허가 없이 예술 작품을 만들어낼 수 있어 일자리를 잃을 위험이 있습니다.
AI 프로펠러
독일 슈투트가르트에 사는 에블린 프뢸리히는 AI의 과도한 영향력에 맞서 싸우고 온라인에서 자신의 시각 작품을 조작으로부터 보호할 방법을 모색하는 많은 예술가 중 한 명입니다.
최근, 프뢰리히 여사는 시카고 대학(미국)의 컴퓨터 과학자들이 AI 모델의 남용을 방지하기 위해 개발한 Glaze라는 도구에 대해 알게 되었습니다.
시카고 대학의 컴퓨터 과학 교수이자 Glaze 프로젝트의 주요 연구자 중 한 명인 벤 자오는 CNN에 이 도구는 AI 모델을 훈련하는 사람들로부터 예술가의 독특한 작품을 보호하기 위한 것이라고 말했습니다.
Glaze 소프트웨어는 머신 러닝 알고리즘을 사용하여 육안으로는 볼 수 없는 디지털 이미지에 작은 변경을 가하지만 온라인 환경에서는 작품에 대한 보호 계층을 생성하여 AI 모델을 속여 작가의 스타일을 복사할 수 없게 만듭니다.
Glaze 덕분에 예술 작품은 "투명 망토로 덮여" AI가 이미지를 "읽지" 못하게 됩니다.
예를 들어, 자오는 예술가가 자신의 유화 이미지를 업로드하면 Glaze를 통해 처리된다고 설명합니다. AI 모델이 그림을 "읽으면" 목탄 스케치로 인식하지만, 사람은 즉시 유화로 인식합니다. Glaze를 거친 후, AI의 눈에는 작품이 상당히 다르게 보일 것입니다.
자오의 팀은 지난 3월 Glaze의 첫 번째 버전을 출시했으며, 백만 회 이상 다운로드되었습니다. 바로 지난주, 팀은 Glaze의 무료 버전을 온라인으로 출시했습니다.
이 팀은 구체적인 규정과 법률이 제정될 때까지 Glaze 도구가 예술가의 저작권을 보호하는 데 도움이 되기를 바랍니다.
Zhao 씨는 Glaze를 도입한 이후 성우, 소설가, 음악가, 언론인이 자신의 팀에 연락해 자신의 분야에 맞는 Glaze 버전에 대해 문의하는 경우가 늘었다고 말했습니다.
캘리포니아에 거주하는 시각 예술가 존 램은 Glaze 도구를 사용하여 자신의 온라인 아트워크가 AI 모델을 훈련하는 데 사용되는 것을 방지하고 있으며, 현재는 온라인에 공유하는 모든 아트워크에 이 앱을 사용한다고 말합니다.
그와 같은 예술가들은 수년 동안 자신의 작품을 온라인에 고해상도로 게시해 왔다고 그는 말했다. "우리는 사람들이 풀 HD 사진이 얼마나 세밀하고 놀라운지 보기를 바랍니다. 하지만 예술가들은 자신의 작품이 AI 모델에 의해 '먹힐' 수 있다는 사실을 알지 못합니다. AI 모델은 자신의 스타일을 모방하여 불공정한 경쟁에 노출시키죠."
"이제 사람들이 우리의 고해상도 작품을 AI 기계에 입력하여 우리와 같은 분야에서 경쟁하고 있다는 것을 알게 되었습니다. 따라서 우리는 더욱 신중해야 하며, 스스로를 보호하는 방법을 생각해야 합니다."라고 그는 말했습니다.
살만과 그의 팀은 AI로부터 이미지를 보호하는 또 다른 도구를 출시했습니다. PhotoGuard라는 이 앱은 사용자가 이미지에 보이지 않는 보호막을 씌워 AI 모델이 이미지를 조작하는 것을 방지할 수 있도록 합니다.
PhotoGuard의 목표는 작성자가 온라인에 이미 업로드한 사진을 "악의적인 AI 조작"으로부터 보호하는 것이라고 Salman은 말했습니다.
PhotoGuard 앱은 사람이 감지할 수 없는 방식으로 이미지 픽셀을 조정합니다. 육안으로는 감지할 수 없는 이 변화는 매우 강력하며, AI 모델이 이미지를 조작하려는 모든 시도를 신중하게 회피합니다.
즉, PhotoGuard로 사진을 보호한 후 누군가 AI를 사용하여 사진을 편집하려고 하면 그 결과 사진이 "전혀 현실적이지 않다"는 것을 의미한다고 살만은 설명했습니다.
라이센스 없음
반면, AI 도구가 이미지를 촬영하고 조작하더라도, AI가 만든 이미지는 저작권으로 인정받지 못합니다.
AI가 등장하고 인기를 얻은 이후, AI는 동시에 논쟁을 불러일으켰습니다. 이러한 저작물에도 저작권이 있을까요? 만약 있다면 누구의 소유일까요?
미국 저작권청(USCO)이 이러한 저작물에 대한 공식 결정을 내렸습니다. USCO에 따르면, AI가 명령에 따라 생성한 이미지(예: 현재 앱인 Midjourney, Dall-E, Stable Diffusion)는 미국에서 저작권 보호를 받을 수 없습니다.
미국 법은 지적 재산권이 인간의 창의성의 산물일 경우에만 저작권으로 보호받을 수 있다고 명시하고 있습니다. 현재 미국 저작권법(USCO)은 인간이 만든 저작물만을 인정하고 있습니다. 따라서 AI 기계는 저작자로 간주되지 않으며, AI가 만든 결과물은 저작권의 보호를 받지 못합니다.
USCO 이사인 시라 펄머터는 "작품의 저작권에 대한 전통적인 요소가 기계에 의해 창조된 경우, 그 작품은 인간에게 저작권이 보호되지 않으므로 USCO는 이를 등록하지 않을 것"이라고 말했습니다.
[광고_2]
원천
댓글 (0)