요즘 AI 출판물 표시제도를 이야기하다 보면 오히려 한 가지 걱정이 생긴다. 사람들이 마치 이제 세상의 모든 책을 AI가 쓰고 있는 것처럼 생각하게 되는 것은 아닐까. AI 생성물에 표시를 해야 한다고 말할수록, 역설적으로 인간이 쓴 책까지 "혹시 이것도 AI가 쓴 것 아닌가"라는 의심의 대상이 되는 것은 아닐까 하는 두려움이다.

그러나 출발점은 분명히 해야 한다. 지금도 출판의 주체는 인간이다. 책은 기본적으로 사람이 쓰고, 사람이 번역하고, 사람이 편집하고, 사람이 출판한다. 우리가 AI 출판물 표시제도를 논의하는 것은 이 전제를 뒤집자는 것이 아니다. 모든 출판물을 AI의 산물로 의심하여 일일이 인간이 썼음을 증명하게 하자는 것도 아니다.

오히려 그 반대다. 인간 창작이라는 기존의 원칙을 그대로 유지하면서, AI 시대에 새롭게 등장한 일부 영역에 대해서만 천천히 투명성을 더해보자는 것이다. 저자가 AI에게 아이디어를 묻거나 맞춤법을 확인하고 문장을 다듬는 정도인지, 아니면 실제 문장·그림·번역을 AI가 생성했는지, 더 나아가 실제 인물과 구별하기 어려운 합성 이미지나 음성 등이 사용되었는지를 필요한 범위에서 구별해 알려주자는 것이다.

이러한 구별은 이미 미국의 출판 생태계에서도 나타난다. 대표적인 것이 Amazon Kindle Direct Publishing(KDP)의 정책이다. 아마존은 AI-generated와 AI-assisted를 명확하게 구별한다. 사람이 콘텐츠를 만들고 AI를 편집·교정·개선이나 아이디어 구상에 활용한 것은 'AI-assisted'이고, AI 도구가 실제 텍스트·이미지·번역을 만들어낸 경우는 'AI-generated'이다. 중요한 점은 전자에 대해서는 신고 자체도 요구하지 않는다는 것이다. 반면 AI가 실제 콘텐츠를 생성했다면 출판자가 KDP에 그 사실을 알려야 한다.

다만 현재 이 신고가 곧바로 독자에게 책의 AI 생성 여부를 표시하는 제도와 동일하게 하자는 것은 아니다.

미국 저작자단체의 움직임도 흥미롭다. 작가조합(Authors Guild)의 인간인증(Human Authored) 제도는 인간이 작성한 책이라는 것을 인증하는 자율적 장치를 운영하고 있다. 동시에 Authors Guild는 AI가 실질적으로 생성한 콘텐츠는 표시하는 것이 바람직하다는 입장을 취하고 있다. 결국 미국의 논의 역시 인간 저작을 기본으로 하되, AI가 실질적인 창작에 개입한 경우를 구별하자​는 방향으로 이해할 수 있다.

우리나라는 이제 이러한 논의를 더 이상 피하기 어려운 단계에 들어섰다. 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」, 이른바 인공지능기본법이 2026년 7월 21일부터 시행되고 있기 때문이다. 특히 제31조는 '인공지능 투명성 확보 의무'를 규정하고 있는데 제31조 제1항은 'AI를 사용하고 있다는 사실에 대한 사전고지'와 제31조 제2항은 'AI가 생성한 결과물에 대한 표시'를 한다.

제31조 제3항은 이른바 딥페이크와 같은 고도의 합성콘텐츠에 대한 강화된 투명성 규정이라고 볼 수 있는데 실제와 구분하기 어려운 가상의 음향·이미지·영상 등의 결과물을 제공하는 경우에는 AI 시스템에 의해 생성되었다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시해야 한다.

다만 예술적·창의적 표현물인 경우에는 작품의 전시나 향유를 방해하지 않는 방식의 표시도 허용한다. 따라서 이를 간단하게 정리하면 제1항은 'AI 이용 사실', 제2항은 'AI 생성 결과물', 제3항은 '실제와 혼동할 수 있는 AI 합성물'에 대한 투명성 의무​라는 3단 구조로 이해할 수 있다.

유럽연합도 같은 방향으로 움직이고 있다. EU AI Act는 2026년 8월 2일부터 원칙적으로 전면 적용 단계에 들어갔으며, 제50조는 특정 AI 시스템과 AI 생성·조작 콘텐츠에 관한 투명성 의무를 규정한다. 특히 합성된 음성·이미지·영상·텍스트를 생성하는 AI 시스템 제공자에게 기계판독 가능한 표시를 요구하면서도, 단순한 편집 보조 기능이나 입력 데이터 또는 그 의미를 실질적으로 변경하지 않는 경우에는 예외를 두고 있다.

즉 EU 역시 AI가 조금이라도 사용되었다고 해서 모든 결과물을 동일하게 취급하는 구조는 아니다. 이러한 흐름을 출판산업에 적용할 때 우리가 선택해야 할 길은 의외로 단순하다. AI를 사용했다는 이유만으로 책에 낙인을 찍는 제도를 만들어서는 안 된다. AI 시대의 워드프로세서, 맞춤법 검사, 번역 보조, 자료 검색, 아이디어 정리까지 모두 AI 사용이라고 표시하도록 한다면 표시가 지나치게 많아져 아무런 정보가 되지 못한다.

더 나아가 작가와 출판사가 AI 도구를 활용하는 것 자체를 꺼리게 만드는 역효과도 발생할 수 있다. 출판물의 AI 표시제도는 규제보다 분류와 정보제공에서 출발하는 것이 좋다. 'AI가 무엇을 했는가'를 단순히 알려주면 그뿐인 것​이다. AI 시대 그 어느때보다도 AI 시대 출판산업의 중요성은 나날이 강조되고 있다.

출판자가 플랫폼과 협상할 수 있는 법적 권리를 만들었던 EU 저작권지침 15조의 언론출판물의 권리가 성공한 예처럼 AI 출판물 표시제도도 저작자의 권리를 침해하지 않는 범위에서, 출판물의 기획·편집·교정·구조화·디지털화·메타데이터 구축 및 유통을 위하여 상당한 인적·기술적·경제적 투자를 한 출판제작자에게 그 출판물 및 출판데이터의 상업적 복제·전송·추출·재이용과 AI 학습 이용에 관하여 인정하는 저작인접권적 권리를 인정하여 공정한 보상청구권을 협상할 수 있는 밑거름이 되길 기대한다.

*박정인 교수(법학박사)는 대통령 국가지식재산위원회 본위원회 위원, 문체부 저작권보호심의위원회 심의위원, 문체부 여론집중도조사위원회 상임위원, 인터넷주소분과위원회, 웹콘텐츠 활성화위원회 자문위원, 강동구 공직자윤리위원회 심의위원, 경찰청 사이버범죄 강사 등 여러 국가 위원을 역임했다. 공공기관 대상 법령입안강의를 하며, 대학에서 특허법, 저작권법, 산업보안법, 과학기술법, 정보보안법, 디지털증거법, ICT트러스트공학, 일반 산업안전, 중대재해법 등을 강의한다. 한국인터넷진흥원, 한국콘텐츠진흥원, 인텔리콘 메타연구소, 해인예술법연구소, 숙명여대 초빙교수, 단국대 연구교수 등을 역임했다.