오픈AI EU 텍스트 워터마크, 탐지율 92%→단어 10% 바꾸면 66%

무슨 일이

오픈AI가 자체 실험에서 새 텍스트 워터마크 '텍스트그레인(textGrain)'의 탐지율을 약 92%로 제시했지만, 단어 10%를 동의어로 바꾸면 약 66%로 떨어졌다. 오픈AI는 5일(현지시간) EU 인공지능법(AI Act)의 투명성 규정을 맞추기 위해 앞으로 몇 주에 걸쳐 EU 내 챗GPT와 코덱스 출력물에 눈에 보이지 않는 워터마크를 넣겠다고 밝혔다. API 개발자는 전 세계 어디서나 일부 모델에 한해 직접 켤 수 있지만 기본값은 꺼짐이며, 출시 시점에 전 세계 기본값으로 삼지는 않는다. 탐지기는 당분간 승인된 연구자와 전문 기관에만 제공된다.

왜 중요한가

EU 규정은 AI 생성 텍스트에 기계가 읽을 수 있는 표시를 요구하지만, 오픈AI 자체 수치로도 가벼운 편집만으로 표시가 약해진다. 탐지에 기대려던 출판사, 학교, 규제 당국은 편집하지 않은 출력물에는 통하는 신호를 얻지만, 오픈AI는 이것이 사람이 썼다는 증명은 아니라고 선을 그었고 탐지기는 당분간 승인된 연구자만 쓸 수 있다.

주장

• 확인됨오픈AI는 EU 내 챗GPT와 코덱스 텍스트 출력물에 눈에 보이지 않는 텍스트그레인 워터마크를 넣을 예정이다.
• 확인됨오픈AI 실험에서 단어 10%를 동의어로 바꾸자 워터마크 탐지율이 약 92%에서 66%로 떨어졌다.
• 확인됨API 개발자에게 워터마크는 기본값이 꺼짐이며, 일부 모델에서 직접 켤 수 있다.
• 확인됨탐지기는 처음에는 승인된 연구자와 전문 기관에만 제공된다.
• 미확인짧은 텍스트의 탐지 성공률은 약 80%다.
• 미확인오픈AI는 텍스트그레인 기술을 오픈소스로 공개할 계획이다.
• 미확인EU AI Act의 투명성 규정은 8월 2일 발효됐다.
• 미확인기존 AI 사업자의 AI Act 제50조 준수 기한은 12월 2일이다.