AI 글쓰기, 이제는 못 속인다: 구글 딥마인드의 신스ID 텍스트 공개

구글 딥마인드에서 흥미로운 소식이 들려왔습니다. 생성형 AI 모델이 쓴 글을 감지하고 워터마크를 삽입하는 기술인 '신스 ID 텍스트'를 오픈소스로 공개했다는 것입니다.

 

이 기술은 AI가 만든 텍스트에 눈에 보이지 않는 워터마크를 넣어, AI가 쓴 글인지 사람이 쓴 글인지 구별할 수 있도록 도와줍니다.

AI 기술이 발전하면서, AI가 쓴 글과 사람이 쓴 글을 구별하기가 점점 어려워지고 있습니다. 이로 인해 발생하는 가짜 뉴스나 표절 등의 문제를 해결하기 위해, 구글 딥마인드는 신스 ID 텍스트 기술을 개발했습니다.

 

이 기술은 기존의 '신스 ID' 기술을 텍스트에 확대 적용한 것으로, AI가 만든 이미지나 영상에 워터마크를 삽입하는 것과 같은 원리입니다.

 

이번 오픈소스 공개를 통해 개발자와 기업은 신스ID 텍스트를 무료로 사용할 수 있게 되었습니다. AI가 생성한 콘텐츠를 식별하는 데 유용하게 활용될 것으로 기대됩니다.

 

신스 ID 텍스트는 현재 허깅페이스와 구글의 책임감 있는 생성 AI 툴킷에서 다운로드할 수 있다고 합니다. 

 

신스 ID 텍스트 기술은 AI가 만든 콘텐츠를 투명하게 밝혀, 책임감 있는 AI 사용에 기여할 수 있을 것입니다. 앞으로 이 기술이 어떻게 활용될지 기대됩니다.

 

신스 ID 텍스트 기술은 아직 개발 단계에 있으며, 몇 가지 한계점도 가지고 있습니다. 워터마크 삽입 오류: AI가 쓴 글에 워터마크가 제대로 삽입되지 않거나, 사람이 쓴 글에 워터마크가 잘못 삽입될 수 있습니다.

 

워터마크 해독: 워터마크를 해독하는 기술이 개발될 경우, 신스 ID 텍스트 기술의 효과가 감소할 수 있다는 점도 염두해둬야 할 것 같습니다.

 

https://zdnet.co.kr/view/?no=20241024083406 출처 사이트 바로가기 <<

24시간 Ai 노동부 상담센터 라는 서비스가 있네요