Ai 모델 훈련 막아주는 나이트쉐이드의 돌풍은 저작권 방어 도구의 돌파구일까요?

Nightshade: Protecting Copyright (uchicago.edu)

Nightshade: Protecting Copyright

나이트쉐이드란 2023년 11월 14일 시카고 대학교 연구팀 (나이트쉐이드 연구팀)이 저작권 보호 분야에 새로운 지평을 열 혁신적인 도구로써 공개한 저작권 방어도구입니다. AI 딥러닝 모델 학습 데이터에 미세한 변형을 주어 AI가 학습하는 모델의 인식 능력을 저하시키고 해당 AI 모델을 손상시키는 것으로써 잘못된 결과물을 가져오게 만드는 기술이죠. 기존에도 AI 딥러닝 기술을 방어하기 위한 기술들이 있었지만 나이트쉐이드는 그런 기존 방식보다 훨씬 강력한 저작권 보호를 가능하게 해 줄 것으로 보입니다.

 

이러한 나이트쉐이드의 등장은 저작권 침해 문제에 대한 해결책으로 기대를 모으고 있죠. 무료로 배포한 나이트쉐이드는 벌써 25만 건의 다운로드를 기록했는데 이런 다운로드 폭주 때문에 추가 다운로드가 가능한 미러링크까지 준비해야 했다고 합니다. 이렇듯 나이트 쉐이드는 전 세계적으로 뜨거운 관심을 불러일으키고 있고 또한 논쟁도 일으키고 있습니다.

 

나이트 쉐이드는 딥러닝 모델 학습에 사용되는 데이터에 미세한 영향을 주어 모델의 인식 능력을 저하시켜 잘못된 결과물이 나오도록 한다고 하는데요. 이것은 이미지, 음성, 텍스트 등 다양한 유형의 데이터에 적용될 수 있기에 AI 모델이 원본 콘텐츠를 정확하게 인식하고 베끼는 행위를 더이상 하지 못하도록 방해하기에 창작자들에게 이러한 아군이 생긴 것은 환영할 만한 일입니다.

 

 

나이트쉐이드 팀에서 지난해 출시했던 글래이즈(Glaze)도 이미지에 미세한 변형을 가하는 것으로 이미지의 고유한 느낌과 스타일을 베끼지 못하도록 하는 방어의 역할을 해왔지만, 이번 나이트쉐이드는 한단게 더 나아가 AI가 인터넷에서 이미지 코롤링을 할 때 엉뚱한 정보를 가져가게 만들어 자료 자체를 오염시켜 버려 엉뚱한 결과물을 내게 됨으로써 사용자들의 신뢰를 잃는 결과까지 생길 수도 있게 만드는 어찌보면 반격을 가하는 기술도구라고도 볼 수 있겠습니다.

 

나이트쉐이드는 다양한 데이터 유형 지원을 지원하기에 이미지, 음성, 텍스트 등 다양한 유형의 데이터에 적용 가능하다는 장점에, 계속 이야기해왔던 딥러닝 모델을 통한 창작물의 복제와 배포를 방지하게 해줌으로써 강력한 저작권 보호 툴로써의 역할을 할 수 있습니다. 또한 누구나 쉽게 사용할 수 있는 사용자 친화적인 인터페이스로 사용자도 기하급수적으로 늘어나고 있는 상황이구요. 요즘 심각한 문제로 떠오르고 있는 딥페이크 기술의 악용 및 데이터 유출 문제 해결에도 기여할 것으로 예상됩니다.

 

나이트쉐이드는 어떤 식으로 활용될 수 있을까요?

1. 저작권 보호: 디지털 콘텐츠 제작자의 저작권 보호

2. 딥페이크 방지: 가짜 뉴스 및 딥페이크 콘텐츠 제작 방지

3. 데이터 보안: 민감한 데이터의 무단 접근 및 유출 방지

4. 악성 코드 감지: 악성 코드 및 바이러스의 탐지 및 차단

 

하지만 나이트쉐이드도 현재에 머물러 있으면 안될 겁니다. AI 딥러닝 기술자들은 나이트 쉐이드의 작동방식을 순식간에 파악을 할 거고, AI 딥러닝 모델이 나이트쉐이드의 방어막을 우회하여 데이터를 빼가는 방법 또한 개발해낼 것이기 때문입니다. 그리고 문제점으로 생각해 볼 수 있는 것은, 창작물을 나이트쉐이드로 보호하기 위해서는 어떻게든 창작물 데이터에 변형이 가해질 것이기 때문에 데이터의 품질 저하라는 점 또한 우려스러운 점입니다. 기우일지도 모르지만, 이런 부분도 나이트쉐이드는 생각해 볼 문제인 것 같네요. 그리고 이 나이트쉐이드를 악용하는 부류도 생기지 않을까 걱정되기도 힙니다.

 

나이트쉐이드는 저작권 방어라는 카테고리 분야에서 아주 중요한 역할을 하게 될 것으로 기대됩니다. 하지만 위에서 이야기했던 걱정스러운 점이 남아있기에 나이트쉐이드는의 지속적인 연구가 필요해 보입니다.