[기고] 생성형AI , 진짜와 가짜 줄세우기

기사입력 : 2023년04월24일 08:37

최종수정 : 2023년04월24일 08:44

하민회 이미지21대표(코가로보틱스 마케팅자문)

AI가 만든 사진은 사진일까 아닐까?

생성형 AI시대에 예술의 경계를 묻는 깜찍한 소란이 있었다. 독일 사진가 보리스 엘다크센은 2023 소니 월드 포토그래피 어워드(SWPA)의 크리에이티브 부문 1위에 선정됐지만 수상을 거부했다. 출품작은 생성AI를 통해 만든 가짜 사진이었고 처음부터 AI가 만든 이미지에 대한 논란을 일으킬 의도가 있었다고 밝혔다.

세대가 다른 두 여인이 앞뒤로 서 있는 '가짜기억상실:전기공(Pseudomnesia: The Electrician)'이라는 제목의 이 흑백사진은 인물의 강렬한 눈빛이 인상적일 뿐 뭔가 어색하거나 수상한 구석은 없다. 굳이 찾는다면 제목이 다소 생뚱맞다는 정도일까.

엘다크센은 AI로 생성된 사진은 실제로 촬영된 사진과는 별개인 일종의 합성물로 사진이라 볼 수 없으며 동일한 선상에서 경쟁을 해서도 안된다고 주장했다.

그렇다면 수상작으로 선정된 이미지는 대체 무엇일까? 전적으로 엘다크센의 사진적 지식에 의존해 생성된, 육안으로는 촬영한 사진과 구분조차 안되는 이것은 그냥 가짜(사진)일 뿐일까? 전 세계 사진계가 갑론을박으로 시끄럽다. AI 이미지에 대한 개방적인 토론의 장을 만들고자 했던 엘다크센는 그 뜻을 이룬 것 같다.

텍스트뿐 아니라 이미지, 음악 등을 척척 만들어내는 다양한 생성형 AI의 영향력이 생활 전반으로 확산되고 있다. 저술,작곡,콘텐츠 제작은 물론 운전,상담,의약품개발에 이르기까지 활용도는 나날이 커지고 있지만 적절성과 유용성에 대한 사회적 합의는 여전히 제자리 걸음이다.

AI가 생성한 콘텐츠를 저작물로 인정해야 할지, 창작한 이미지나 소설, 노랫말에 대한 법적 권리는 누구에게 있는지, AI 창작물로 인한 피해는 누가 책임을 져야 하는지 등의 다양한 질문이 나오지만 답은 명확하지 않다. 엘다크센의 사진처럼 AI로 생성된 콘텐츠를 어떤 범주까지 허용하고 어떤 가치를 부여할지도 애매하다. 상황에 따라, 관점에 따라 제각각이다. 사회 곳곳에서 의도치 않은 진짜와 가짜 줄세우기가 일어나고 있는 셈이다.

가장 자주 언급되는 것은 저작권이다. AI의 창작물이 법의 보호를 받을 수 있는지의 여부는 창작산업 전반에 엄청난 영향을 미친다. 현행 법상 저작물은 '인간의 사상 또는 감정을 표현한 창작물'로 정의된다. 때문에 인간이 아닌 인공지능의 창작물은 저작물로 인정되지 않는다.

한국음악저작권협회가 작곡 AI '이봄'이 작곡한 곡들에 대해 저작권료 지급을 중단한 것도 같은 이유다. 저작권 보호가 되지 않는다면 타인의 무단 도용과 이를 이용해 수익활동을 해도 문제가 되지 않는다. AI가 쓴 책을 표절해 출간을 하거나 AI가 생성한 캐릭터를 도용해 굿즈를 판매할 수 있다는 허점이 생긴다는 말이다.

생성형AI의 결과물은 사용자의 명령에 전적으로 의존하고 있으며 사용자에 따라 전혀 다른 결과물을 만들어낸다는 점을 감안할 때 일체의 법적 권리를 부인하는 것이 과연 바람직한지, 저작권 개념의 수정과 확대가 필요한 건 아닌지 별도의 검토가 필요해 보인다.

저작권에 유사한 저작인접권을 인정해야 한다는 목소리도 있다. 음반이 출현하면서 음반제작자의 저작인접권이 인정되었고, TV방송이 이루어지면서 방송사업자에 저작인접권이 인정되었듯 저작인접권은 저작권 제도의 제한을 넘어 경제적, 사회적 측면에서 유연한 권리 인정이 가능하고 다양한 의견들을 반영하는 데도 용이하다는 것이 배경이다.

단순히 AI도 이제 돈 내고 학습해야 한다는 의미가 아니다. 학습데이터로 쓰이는 저작물들이 무단 도용 당하고 정당한 가치를 인정받지 못한다면 창작자들의 의지가 꺾여 콘텐츠의 질이 저하되고 일부 특정 콘텐츠는 아예 사라질수도 있다. "Garbage in, garbage out (쓰레기가 들어가면 쓰레기가 나온다)" 이라는 말처럼 수준 낮은 콘텐츠로 학습한 AI는 편향된 정보, 가짜 뉴스 등 문제가 많은 결과물을 내어 놓기 마련이다.

이는 AI 산업 발전 뿐 아니라 사회 전반에 심각한 악영향으로 이어진다. 원저작자의 권리 침해를 최소화하면서도 AI 기술의 발전을 도모하기 위해 AI학습은 자유롭게 허용하되 학습용 저작권 이용료를 대폭 낮춰 적용하는 것 같은 새로운 표준을 세우는 일도 필요해보인다.

알파벳CEO 순다르 피차이는 AI기술을 '프로메테우스의 불'에 비유했다. 인류사에 있어 불이나 전기처럼 중요하면서도 위험한 것이며 궁극적으로 AI가 '지능이 무엇인지, 인류가 무엇인지의 본질에 도달하게 만들 것'이라 예언했다.

데이터를 입력하면 예술이 튀어나온다. 우리가 만들어낸 AI가 우리의 명령에 따라 생성해 낸 놀라운 창작물은 진짜일까 가짜일까. 어쩌면 우리는 세상의 모든 환경과 질서를 재정의하고 창작생태계를 재편해야 하는 절대절명의 순간에 서 있는지 모르겠다.

◇하민회 이미지21대표(코가로보틱스 마케팅자문) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표, 코가로보틱스 마케팅자문△경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등

[관련기사]

[관련키워드]

AI 사진 콘텐츠 데이터 인공지능 저작권 하민회

GAM - 해외주식 투자 도우미

[미국 특징주] "AI, 인류 몰살시킬 수도" 구글 딥마인드 퇴사 연구원의 경고

"AI 위험 개발자 예상보다 커...대량 감원 가능성도"

[홍콩 대장주] 메이퇀 ③ 신성장 동력의 '폭발적 성장'

[홍콩 대장주] 메이퇀② 실적은 고속 상승, 밸류는 역대 저점

[뉴스핌 베스트 기사]

사진

앤스로픽·오픈AI 'AI 감속론'의 속내는? [서울=뉴스핌] 이홍규 기자 = 앤스로픽의 다리오 아모데이 최고경영자(CEO)가 지난주 12일 내놓은 인공지능(AI) 개발 감속론에 오픈AI의 샘 올트먼 CEO와 xAI 모회사 스페이스X의 일론 머스크 CEO가 잇달아 동조했다. 경쟁 관계인 3사 수장이 최상위 모델의 성능 개선 속도를 늦추자는 데 공개적으로 뜻을 같이한 것은 처음이다. 다만 업계의 시선은 감속 선언에 붙은 조건에 쏠린다. 아모데이 CEO의 제안이 자발적 제동에 머물지 않고 정부 규제 요구와 한 묶음으로 제시됐다는 점에서다. 업계에서는 규제를 동반한 감속은 개방형 모델과 후발 주자의 진입로를 좁히기 위함이라는 비판이 나온다. 지난달 오픈AI·앤스로픽의 개방형 제한 로비가 '사다리 걷어차기' 논란을 부른 데 이어 같은 구도가 감속론을 매개로 되풀이된 양상이다. 3사만 속도를 늦추면 개방형이 격차를 좁히는 결과만 남는 만큼 개방형까지 같은 규제에 묶어야 감속이 성립한다는 셈법이 규제 요구의 배경으로 지목된다. ◆3단계안과 부속 조치 아모데이 CEO의 에세이 '우리는 프론티어(최상위 성능 모델)의 속도를 조절해야 한다'는 3단계 구조로 짜여있다. 1단계는 앤스로픽이 단독 이행을 약속한 조치로 제3자 평가 기관에 내부 위험평가팀에 준하는 상시 접근권과 평가 결과 공개권을 준다. 같은 의무를 다른 개발사에도 지우도록 정부에 요구하는 내용이 함께 붙어 있다. 2단계는 미국 최상위 모델 개발사 전체에 대한 정부 규제를 기본으로 삼되 입법 지연에 대비해 개발사 간 자발적 기준 마련을 병행하는 내용이고 3단계는 국제 공조다. 앤스로픽이 스스로 지는 부담은 평가자 수용에 그친다. 다리오 아모데이 앤스로픽 CEO의 개인 웹사이트에 게시된 에세이 'We Must Pace the Frontier' 갈무리 [사진=아모데이 CEO 개인 웹사이트] 2단계에 함께 담긴 부속 조치들이 개방형 진영을 자극했다. 아모데이 CEO는 중국과의 격차 이상으로 감속하면 안보 위험이 생긴다며 반도체 수출통제 강화와 무단 증류(한 모델의 출력으로 다른 모델을 훈련하는 기법) 단속, 가중치(모델이 학습한 결과를 담은 핵심 수치) 도난 방지를 요구했다. 표적은 중국이지만 다른 모델의 출력을 훈련에 활용하는 증류가 널리 쓰이는 개방형 생태계에서는 무단 증류의 규제 범위를 넓게 잡을 경우 통상적인 모델 개발 기법까지 제한될 수 있다는 것이 개방형 진영의 우려다. ◆개방형 추격과 감속 딜레마 감속 주장의 '저의'를 따지기에 앞서 살펴야 할 것은 규제를 동반한 감속 주장이 나온 배경이다. 개방형의 추격 속도가 아모데이 CEO에게 규제 없는 감속을 허용하지 않는다. AI 모델 이용 중개 플랫폼 오픈라우터에 따르면 미국 이용자가 요청한 토큰 처리량 가운데 개방형 비중은 작년 9월 26%에서 지난달 60%로 높아졌다. 유럽연합 이용자의 개방형 비중도 같은 기간 16%에서 65%로 상승했다. 가성비로 시장을 파고드는 개방형 모델 앞에서 3사만의 감속은 점유율 양보와 다르지 않다. 앤스로픽의 공동창립자인 다리오 아모데이 최고경영자(CEO) [사진=블룸버그통신] 폐쇄형 3사만 속도를 줄이면 개방형과의 성능 격차가 좁혀지는 시간만 짧아진다. 기술 우위로 높은 기업가치를 떠받치는 회사가 스스로 감속을 선언하는 것은 자기 약화에 가깝다. 에세이에는 자기 약화를 피하는 장치가 들어 있다. 아모데이 CEO는 훈련 중단이 아니라 안전 검증 시간 확보가 목적이라고 했다. 감속 대상은 외부 공개 모델의 역량 향상 속도이고 내부 연구는 제약에서 비켜난다. 폐쇄형은 공개 시점만 조절하면 되지만 공개 자체가 사업 방식인 개방형은 공개를 늦추면 남는 것이 없다. 규제를 동반한 감속이 개방형에 지우는 부담은 준수 조건에서 한층 커진다. 아모데이 CEO가 제시한 제3자 평가자 상주 방식은 모델을 자사 서버에 두고 API로 제공하는 구조에서만 작동한다. 누가 쓰는지 확인하고 위험한 사용을 감시하며 접근을 차단하고 문제 모델을 서비스에서 내리는 일은 서버를 통제하는 개발사만 할 수 있다. 가중치를 공개한 개발사는 수정·재배포된 복사본을 회수할 방법이 없다. 해당 조건이 강제되면 개방형은 결국 존재 방식 자체가 문제가 될 수 있는 셈이다. ◆진입장벽 논란과 '규제 포획' 공방 앤스로픽이 6월 내놓은 규제 프레임워크의 적용 기준도 논란이다. 훈련 연산량이 10의 25제곱 플롭을 초과하고 연간 AI 매출 5억달러 또는 연구개발비 10억달러가 넘는 기업을 대상으로 삼는다. 소규모 개발사는 면제되는 구조지만 문제는 기준선을 넘는 순간부터다. 문턱을 넘자마자 비용과 기간을 가늠하기 어려운 승인 절차에 들어가야 한다면 투자자와 창업자로서는 문턱 아래 머무는 편이 합리적 선택이 된다. 소규모로 남는 것은 허용하되 대형사로 성장하는 길은 막는 면제 조치가 된다. 샘 올트먼 오픈AI 최고경영자(CEO) [사진=블룸버그통신] 백악관에서 감속론을 공개 비판한 인사는 데이비드 색스 대통령 과학기술 자문 공동의장이다. 색스 공동의장은 감속 선언 다음 날인 13일 소셜미디어 엑스(X)에서 "다리오가 프론티어 속도를 조절하자고 썼고 샘이 동의했다. 그렇게 해라. 당신들이 프론티어다"고 했다. 두 회사가 점유율·매출·성능 어느 기준으로 봐도 최상위 모델 시장을 사실상 둘이 나눠 갖고 있으니 남을 규제할 것 없이 스스로 늦추면 된다는 논리다. 감속의 대가로 원하는 규제 틀을 얻으려는 시도는 규제 포획(규제가 기존 강자의 이익 보호 수단으로 변질되는 것)에 해당한다고 했다. 색스 공동의장의 규제 포획 비판은 지난달 아모데이 CEO와의 엑스 공방에서 이미 구체화된 바 있다. 당시 그는 앤스로픽이 요구하는 사전 심사 체제를 'AI를 위한 차량국(DMV)'에 빗댔다. 모델을 내놓을 때마다 정부 시험과 승인을 기다려야 한다면 대응 인력과 자금을 갖춘 대형사만 대기열을 견디고 후발 주자는 출시 자체가 늦어진다는 논리다. 안전을 명분으로 한 심사 요건이 기존 강자에게 유리한 경쟁 규칙으로 굳어진다는 지적이 감속론에서도 되풀이된 셈이다. ◆반독점 면제 요청 문턱 규제 포획 논란과 별개로 규제를 동반한 감속은 현행법의 문턱부터 넘어야 한다. 와이어드에 따르면 오픈AI는 최근 수주간 의회 의원들에게 업계 차원의 감속 조율이 합법인지 지침을 요청했다. 경쟁사 간 개발 속도 합의는 일종의 생산량 제한에 해당해 반독점법 위반 소지가 있다는 것이 법조계 일각의 해석이다. 7월 초당파 의원들이 안전·보안 협력에 반독점 예외를 두는 법안을 발의했으나 하원 법사위원회에 계류 중이다. 아모데이 CEO의 반독점 면제 요청은 현행법 아래 조율이 자동으로 합법이 아니라는 점을 인정한 것이기도 하다. 일론 머스크 테슬라 최고경영자 [사진=블룸버그통신] 법적 문턱을 넘더라도 실행 시점은 정해지지 않았다. 포브스는 에세이가 제3자 평가자 도입 시한을 명시하지 않은 점을 짚었다. 아모데이 CEO가 요청한 반독점 면제도 정부가 받아들일 의무가 없어 거부되면 2단계는 시작조차 어렵다. 반독점법을 거론하는 것 자체가 두 회사의 협력 회피를 가리기 위한 구실이라는 시각도 있다. 면제가 나올 가능성이 낮다는 점을 알고 요청한 것이라면 감속은 처음부터 이행 의사 없이 내건 조건부 약속에 가깝다. 공동 제안서조차 만들지 않은 채 규제 요청부터 앞세운 순서가 의심의 근거로 언급된다. ◆백악관 입장과 개방형 반응 앤스로픽의 규제 요청은 지난달 백악관이 한 번 거절한 내용과 같다. 백악관이 지난달 확정한 자발적 AI 심사 틀은 대상을 폐쇄형 최상위 모델로 한정했다. 개방·폐쇄를 가리지 않는 시험을 요구했던 앤스로픽으로서는 폐쇄형 최상위 모델만 심사받고 개방형은 빠지는 결과가 됐다. 에세이에서 거론된 2단계가 정부에 요구하는 것은 모든 최상위 모델 개발사에 같은 기준을 강제하라는 내용이다. 폐쇄형에 그친 심사 대상을 개방형까지 넓혀 달라는 요구를 감속론의 이름으로 다시 낸 셈이다. 데이비드 색스 백악관 대통령 과학기술 자문 공동의장 [사진=블룸버그통신] 개방형 진영의 대응은 규제 확대 요구를 맞받아치는 형태로 나왔다. 오픈소스 개발자 제이크 골드는 공개서한에서 "진심이라면 가중치를 공개하라"고 했다. 개방형을 심사 대상에 넣자는 요구에 폐쇄형도 가중치를 공개해 외부 검증을 받으라고 맞선 것이다. 개방형 모델 공유 플랫폼 허깅페이스의 클렘 들랑그 CEO도 감속 자체에는 동의했지만 규제 대상 확대에 대한 찬반은 명시하지 않았다. 감속의 필요성은 인정하더라도 감속의 조건을 폐쇄형 진영이 정하는 구도는 받아들이지 않겠다는 것이 개방형 진영의 입장으로 읽힌다. ◆IPO 시기와 겹친 감속론 감속론의 저의를 둘러싼 근본적 물음은 왜 지금이냐에 있다. 최상위 모델 개발사들은 이전 세대 훈련 비용을 회수하기 전에 다음 세대에 더 큰 자본을 투입하기를 거듭해 왔다. 로이터통신에 따르면 오픈AI의 GPT-6 아스트라는 내부 다량 사용 직원 기준 하루 7000달러어치 토큰이 소모된다고 한다. 기술 투자자 마틴 바르사브스키는 엑스에서 "[3사가 다른 건 몰라도] 서로 벌이는 경주가 모두를 파산시킬 수 있다는 데는 동의할 것"이라고 썼다. 감속 합의의 실제 동기가 안전이 아니라 비용에 있다는 지적이다. 감속 선언과 상장 절차 연기가 비슷한 시점에 나온 점은 의심을 뒷받침하는 정황이다. 앤스로픽은 지난주 예정됐던 증권신고서(S-1) 공개를 이달 늦은 시점으로 미뤘고 올트먼 CEO는 12일 연내 상장 배제 의사를 밝혔다. AI 연구자 엘리 데이비드는 엑스에서 "S-1이 손실 규모를 드러낼 것이므로 훈련 비용을 줄여 수익성 경로를 보여야 한다"고 했다. 상장을 앞둔 회사로서는 손실을 줄일 방법을 투자자에게 보여야 하는데 훈련 비용 절감이 가장 확실한 수단이고 안전을 이유로 감속하면 비용 절감이라는 속내를 드러내지 않고도 같은 효과를 얻을 수 있다는 것이다. bernard0202@newspim.com 2026-09-14 15:52

사진

[단독] 北 핵심인사 일가족 중국서 탈북했다고? [서울=뉴스핌] 이영종 통일북한전문기자 = 북한 고위층 일가족이 중국 체류 중 우리 관계기관에 탈북·망명을 요청해 국내에 무사히 입국한 것으로 확인됐다. 북한 사정에 밝은 대북정보 관계자는 15일 뉴스핌에 "중국에서 대표부 대표급으로 일해온 노동당 핵심 인사가 지난 7월 망명을 요청해 정부가 이를 수용했다"면서 "현재 국가정보원의 보호 아래 합동신문과 국내 정착 절차를 밟고 있다"고 말했다. [서울=뉴스핌] 중국에 체류해온 북한 노동당 고위급 인사의 일가족이 지난 7월 탈북 망명해 한국에 입국한 것으로 15일 파악됐다. 사진은 북한 고위층 일가족의 한국행을 AI를 이용해 표현한 가상 이미지. [사진=AI생성] 2026.09.15 ◆북한 고위급 인사 망명 확인은 이재명 정부 들어 처음 노동당 대외 관련 핵심 부서의 간부급으로 중국으로 파견돼 일해온 이 인사는 부인은 물론 자녀를 동반한 것으로 알려졌다. 해외 체류 고위급 북한 인사의 탈북·망명과 수용 조치가 확인된 건 이번이 이재명 정부 들어 처음이다. 탈북·망명 동기와 관련해 이 인사는 한국과 서방국가의 자유로움과 발전상을 보며 북한 김정은 정권의 폭압적인 행태에 실망했고, 특히 어린 자녀의 미래를 위해 평양 귀환을 하지 않고 서울행을 택했다고 진술한 것으로 전해졌다. 대북정보 관계자는 "망명해 온 인사가 동북 3성 지역의 북한 공작 핵심 거점 도시에서 일해온 만큼 최근 북한의 대남 관련 동향이나 북중 관계 정보를 다수 확보할 수 있을 것으로 보인다"고 귀띔했다. 특히 국무위원장 김정은의 대남적대 노선 노골화 이후 북한의 대남 전략이나 남북관계에 대한 입장을 파악할 수 있는 계기가 될 것으로 보고 있다. 이 관계자는 해당 인사의 탈북과 국내 입국 과정에서의 구체적인 정황이나 중국 당국의 협조가 있었는지 등에 대해서는 공개하기 어렵다고 말했다. [서울=뉴스핌] 이영종 통일북한전문기자 = 지난 6일 강원도 원산항에서 열린 구축함 강건호 취역식에 참석한 조용원(앞줄 왼쪽) 노동당 조직담당 비서를 비롯한 핵심 간부와 가족들이 축하공연을 관람하고 있다. 행사장 대형 화면에 국무위원장 김정은과 딸 주애의 모습이 보인다. [사진=조선중앙TV 화면캡처] 2026.09.15 yjlee@newspim.com 해외 근무 북한 외교관이나 대표부 요원, 파견 근로자의 한국행은 꾸준히 이어지고 있다. 지난 2016년에는 태영호 영국 주재 공사가 가족과 함께 망명했고, 조성길 이탈리아 대리대사(2018년), 류현우 쿠웨이트 대리대사(2019년), 리일규 쿠바 주재 대사관 참사(2023년) 등이 대표적이다. 대북정보 관계자는 "당사자의 요청에 따라 구체적인 체류 국가나 신상을 밝히기 어려운 고위급 인사들이 훨씬 더 많다"고 말했다. yjlee@newspim.com 2026-09-15 10:33