오픈AI가 인공지능(AI)으로 생성한 텍스트에 워터마크를 적용한다.
유럽연합(EU) 내 우선 적용되는 것으로 AI기본법 등 표시 의무가 있는 우리나라를 비롯해 다른 국가로 확산될지 주목된다.
오픈AI는 5일(현지시간) EU 'AI 액트'의 생성형 AI 투명성 의무 규정에 대응해 AI로 생성한 글인지 식별하는 기술인 '텍스트그레인'을 도입한다고 밝혔다.
텍스트그레인은 AI 모델이 글을 생성할 때 단어를 선택하는 과정에서 미세한 통계적 신호를 삽입하는 기술이다. 최소한의 가시성을 적용, AI 답변 품질·성능이나 가독성에는 실질적인 차이가 없다는 게 오픈AI 설명이다.
식별률은 글자 수와 사후 편집에 따라 유동적이다. 문장이 짧거나 수학 공식 등 단어 선택 유연성이 적을 경우 식별률이 떨어질 가능성이 있다. 또 이용자가 생성된 글 중 단어 일부를 유의어 등으로 수정하면 식별률이 크게 떨어질 수 있다고 설명했다.
400토큰 분량 글에서 전체 단어 중 10%를 유의어로 바꾸면 워터마크 식별률은 92%에서 66%로, 25%를 교체하면 17% 수준으로 급락한다는 것이다.
해당 기술은 몇 주 내 EU 지역 챗GPT·코덱스 등 AI가 생성한 결과물에 적용된다. 워터마크 탐지 도구는 접근 권한 신청을 받아 승인된 전문기관과 연구자 대상 우선 제공될 예정이다.
개발자용 API 결과물에는 기본 설정으로는 비활성화 상태로 적용되지만 기관별 필요에 따라 자율적으로 워터마크 기능을 켤 수 있게 사용자 인터페이스를 구현한다.
오픈AI에 앞서 앤트로픽도 EU 지역에 유사한 방식의 AI 워터마크 기능을 8월부터 적용했다. 구글 제미나이에도 신스ID-텍스트라는 비슷한 기능이 탑재돼 있다.
박종진 기자 truth@etnews.com
