오픈AI, EU서 AI 생성 글 식별 기술 도입

지기 56분 전 조회 0

오픈AI는 챗GPT와 코덱스가 만든 글에 ‘텍스트그레인’ 워터마크를 적용한다고 밝혔습니다.

이 기술은 단어 선택 방식에 통계적 흔적을 남기며, 사람 눈에는 보이지 않고 전용 프로그램으로 확인할 수 있습니다.

오픈AI는 EU 인공지능법의 투명성 의무에 맞춰 몇 주 안에 적용할 계획이라고 밝혔습니다.

글을 고치거나 짧고 표현이 제한된 글에서는 식별률이 낮아질 수 있습니다.

오픈AI는 현지시간 5일 유럽연합(EU)에서 챗GPT와 코덱스가 생성하는 글에 ‘텍스트그레인’이라는 식별 기술을 적용하겠다고 밝혔습니다. 회사는 EU 인공지능법의 생성형 AI 투명성 의무에 대응하기 위한 조치라고 설명했습니다.

텍스트그레인은 AI가 단어를 고르는 과정에 작은 통계적 변화를 줘 글 전체에 흔적을 남기는 방식입니다. 숨겨진 문자나 특수 기호를 넣는 것은 아니며, 사람의 눈에는 보이지 않고 전용 프로그램으로 탐지할 수 있다고 보도됐습니다.

오픈AI는 기술이 적용돼도 답변의 품질과 가독성에는 거의 영향이 없다고 설명했습니다. 적용 시점은 몇 주 안으로 제시됐으며, EU 지역의 챗GPT와 코덱스 결과물이 대상입니다.

다만 생성된 글을 편집하면 흔적을 찾기 어려워질 수 있습니다. 보도에 따르면 약 1600자 영어 글에서 단어의 10%를 비슷한 말로 바꾸자 탐지 비율이 92%에서 66%로 내려갔고, 25%를 바꾸면 17%까지 낮아졌습니다.

짧은 글이나 수학 공식처럼 선택할 표현이 제한된 콘텐츠도 식별에 한계가 있다고 오픈AI가 밝혔습니다. 워터마크 탐지 프로그램은 승인된 연구자와 전문기관에 우선 제공할 계획이며, 개발자용 API에서는 일부 모델에 적용 여부를 선택할 수 있다고 보도됐습니다.

앤트로픽은 앞서 유사한 기능을 도입하겠다고 밝혔고, 구글도 제미나이에 텍스트 워터마크 방식을 사용하고 있습니다.

10.06 04:59 오픈AI가 인공지능으로 생성한 글에 식별 기술을 적용한다고 현지시간 5일 발표했습니다.
10.06 13:02 오픈AI가 몇 주 안에 EU의 챗GPT·코덱스 결과물에 적용할 계획이라고 밝혔으며, 글 편집에 따른 탐지율 저하 수치와 탐지 도구 제공 대상을 공개했습니다.

여러 언론사의 보도를 바탕으로 정리한 글입니다. 자세한 내용은 각 언론사의 기사에서 볼 수 있습니다. 마지막 정리 10.06 13:02

오늘의 소식