[서울=뉴스핌] 고인원 기자= 샘 올트먼 오픈AI 최고경영자(CEO)는 9월 10일(현지시간) 폭스뉴스 앵커 출신 터커 칼슨과의 인터뷰에서 "매주 수천 명이 스스로 목숨을 끊고 있는데, 그중 일부는 아마 챗GPT와 이야기를 나눴을 것"이라며 "그때 우리가 더 잘 대답했더라면, 더 적극적으로 도움을 권했더라면 살릴 수 있지 않았을까 하는 생각 때문에 잠을 이루기 어렵다"고 말했다.

올트먼은 이어 "큰 도덕적 판단을 잘못할까 두렵진 않다. 오히려 매일 수억 명이 챗GPT와 대화하는데, 그 과정에서 내려지는 작은 결정들이 더 무겁게 다가온다"고 털어놨다.

◆ "윤리 기준, 철학자 수백 명과 논의"

올트먼은 챗GPT가 어떤 질문에 답하고, 어떤 질문을 거부할지 결정하는 문제 역시 큰 고민이라고 밝혔다. 그는 "챗GPT는 인류의 집단적 지식으로 훈련됐지만, 그 위에 어떤 행동을 제한할지 정하는 건 우리 몫"이라며 "수백 명의 도덕철학자와 기술윤리 전문가와 논의했다"고 말했다. 대표적 사례로 생물학 무기 제작법 같은 민감한 질문은 반드시 차단하도록 설계했다고 설명했다.

◆ "AI 대화도 변호사 상담처럼 비밀 보장돼야"

칼슨이 'AI가 전체주의 통제 도구로 쓰일 수 있다'고 지적하자, 올트먼은 "AI 프라이버시(특권) 제도를 미국 정부에 제안하고 있다"고 밝혔다. 변호사나 의사와의 상담 내용이 법적으로 보호되듯, AI와의 대화도 정부가 임의로 열람할 수 없도록 해야 한다는 것이다. 그는 "AI와의 대화가 완전히 비밀로 보장된다면 의료, 법률 문제까지 더 폭넓게 활용할 수 있을 것"이라고 강조했다.

◆  군사 활용엔 즉답 피하며 "모르겠다"

챗GPT가 군사 작전에 쓰일 수 있느냐는 질문에는 "군인들이 조언을 얻으려고 챗GPT와 대화할 수는 있겠지만, 그걸 어떻게 받아들여야 할지는 잘 모르겠다"며 즉답을 피했다. 오픈AI는 앞서 미 국방부와 2억 달러 규모 계약을 맺고 맞춤형 AI 모델을 제공하기로 한 바 있다.

◆ "AI는 권력 집중 아닌 인류 전체 도약"

칼슨이 "챗GPT가 종교처럼 가장 강력한 권력이 될 수 있다"고 지적하자, 올트먼은 "처음에는 권력 집중을 걱정했지만 지금은 AI가 인류 전체를 끌어올리는 역할을 할 것이라고 믿는다"고 답했다.

koinwon@newspim.com