[전문] 尹, AI 서울정상회의 개최...안전·혁신·포용 'AI 서울선언' 발표

기사입력 : 2024년05월21일 22:42

최종수정 : 2024년05월21일 23:59

21~22일 정상·장관세션 진행...AI 글로벌 포럼도 열려
AI 안전 과학 국제 협력 위한 서울 의향서도 발표

[서울=뉴스핌] 김승현 기자 = 윤석열 대통령은 21일 수낙 영국 총리와 공동으로 'AI 서울 정상회의'를 주재했다.

윤 대통령은 이날 청와대 영빈관에서 개최한 정상세션 개회사에서 "대한민국은 국제사회의 책임 있는 일원으로서 AI 안전, 혁신, 포용을 조화롭게 추진해 나가겠다"고 말했다.

특히 "AI의 영향력이 커지는 만큼 딥페이크를 통한 가짜뉴스와 디지털 격차 등 AI 부작용에 대한 우려도 커지고 있다"며 "디지털은 국경을 넘어 초연결성을 지닌 만큼 글로벌 차원의 디지털 규범이 만들어져야 한다"고 강조했다.

AI 서울 정상회의는 작년 11월 영국 블레츨리 파크에서 개최된 AI 안전성 정상회의의 후속 회의다. 지난해 참석 국가와 국제기구는 한국, G7(미국, 영국, 프랑스, 일본, 독일, 이탈리아, 캐나다), 호주, 싱가폴, EU, UN이다.

이번 정상회의에는 AI 안전성 정상회의와 동일하게 G7 정상들과 싱가포르, 호주 정상이 초청됐다. 그 외에 UN, EU, OECD 등 국제기구 수장과 AI 산업을 이끌어가고 있는 핵심 글로벌 기업인 삼성, 네이버, 구글, 아마존, 메타, MS, 오픈 AI 등도 초청됐다.

첫날인 이날 저녁에는 정상세션이 화상으로 개최됐다. 둘째 날인 오는 22일에는 장관급 회의가 개최된다. 참석 장관들은 전일 정상회의 논의 내용에 기초해 각국의 AI 안전 역량 강화 방안, 지속 가능한 AI 발전 방안 등 보다 구체적인 협력 방안을 협의할 예정이다.

또한 오는 22일에는 각국 고위급 인사, 주요 업계 및 학계 인사들이 참석하는 'AI 글로벌 포럼'도 열린다. 이는 윤 대통령이 작년 9월 UN 총회 기조연설에서 개최를 제안한 데 따른 포럼이다.

[서울=뉴스핌] 윤석열 대통령이 21일 청와대 영빈관에서 화상으로 참석한 'AI 서울 정상회의'에서 개회사를 하고 있다[사진=대통령실]2024.05.21 photo@newspim.com

다음은 AI 서울정상회의 정상세션 참여자들의 서울선언 전문이다.

1. 2024년 5월 21일 AI 서울 정상회의에 모인 호주, 캐나다, 유럽연합, 프랑스, 독일, 이탈리아, 일본, 대한민국, 싱가포르, 영국, 미합중국을 대표하는 세계 지도자들은 AI의 전례없는 발전과 우리 경제·사회에 미치는 영향을 마주하여 AI 분야에서 국제 협력 및 대화를 촉진하고자 하는 공동의 헌신을 확인한다.

2. 2023년 11월 영국 블레츨리 파크에서 개최된 AI 안전성 정상회의에서 제시한 노력을 바탕으로 우리는 AI의 안전·혁신·포용성이 상호 연계된 목표로서, AI 설계·개발·배치·사용이 제기하고 있거나 제기할 수 있는 광범위한 기회와 도전에 대응하기 위해 AI 거버넌스에 대한 국제 논의에 이 우선순위들을 포함하는 것이 중요하다는 점을 인식한다.

3. 우리는 안전하고 보안성과 신뢰성을 갖춘 AI 설계·개발·배치·사용을 보장하기 위해, AI로부터의 혜택을 극대화하고 야기되는 폭넓은 위험들에 대응하기 위한 위험 기반 접근법과 일치하는 AI 거버넌스 체계들 간의 상호운용성의 중요성을 인식한다. 우리는 첨단 AI 시스템을 개발하는 단체들에 대한 히로시마 프로세스 국제 행동강령의 운용을 지지하는데 지속 집중한다. 우리는 프론티어 AI를 개발하고 배치하는 단체들의 특별한 책임을 인식하며, 이러한 측면에서 「프론티어 AI 안전 서약」을 환영한다.

4. 우리는 이 선언 참여국들이 AI 안전연구소, 연구 프로그램 그리고/또는 감독 기관들을 포함한 기타 유관 기관들을 설립하기 위해 진행하거나 계속 진행 중인 노력을 지지하고, 이러한 단체들간의 네트워크를 육성함으로써 안전 연구에 관한 협력을 증진하고 모범 관행을 공유하기 위한 협력을 증진하기 위해 노력한다. 이러한 측면에서 우리는 이 선언의 부속서인 「AI 안전 과학에 대한 국제 협력을 위한 서울 의향서」를 환영한다.

5. 우리는 인간 중심적인 AI를 활용하여 국제 난제를 해결하고, 민주주의적 가치·법치주의 및 인권·기본적 자유와 프라이버시를 보호 및 증진하고, 국가 간의 그리고 국내적인 AI 및 디지털 격차를 해소함으로써, 인간의 복지를 향상하고, 유엔 지속가능발전목표 진전을 포함하여 AI를 실용적으로 활용하도록 지원하기 위해, AI 안전·혁신·포용성을 향상시키는 국제 협력 강화를 촉구한다.

6. 우리는 안전하고, 혁신적이고 포용적인 AI 생태계들을 육성하는 위험 기반 접근법들을 포함한 정책·거버넌스 체계들을 지지한다. 이 체계들은 인간의 창의력과 AI의 개발·사용간의 선순환을 촉진하고, 사회·문화적, 언어적 그리고 성별 다양성을 증진하며, 상업적·공개적으로 사용 가능한 AI 시스템들의 전주기에 걸쳐 환경적으로 지속가능한 기술 및 인프라의 개발 및 사용을 증진해야 한다.

7. 우리는 안전하고, 혁신적이고, 포용적인 AI 생태계 육성을 위해 정부·민간·학계·시민사회를 포함하는 다중이해관계자간 적극적 협력 및 초국경적·학제간 협력의 중요성을 강조한다. AI의 혜택과 위험에 모든 국가들이 영향을 받는다는 점을 인식하면서, 우리는 AI 거버넌스 관련 대화에 폭넓은 국제 이해관계자들을 적극적으로 포함시킬 것이다.

8. 우리는 유엔 및 산하기구, G7, G20, OECD, 유럽평의회 및 GPAI 등 여타 국제 이니셔티브들에의 관여를 통해 AI 거버넌스에 관한 국제 협력을 강화하기로 한다. 이러한 측면에서 우리는 히로시마 AI프로세스 프렌즈 그룹을 평가하고, 최근 OECD AI 원칙의 갱신 및 UN 총회에서 최근 컨센서스로 채택되어 AI 시스템들에 대한 안전장치의 필요성과 선의를 위한 AI 개발, 배치, 사용의 중요성에 관한 글로벌 이해를 공고히한 "지속가능발전을 위한 안전하고 보안성 있고 신뢰성 있는 AI 시스템의 기회의 활용" 제하 결의를 환영하며, 2024년 9월 미래정상회의에 앞서 글로벌디지털컴팩트에 관한 논의를 환영하며, 유엔사무총장 직속 AI 고위급 자문기구의 최종 보고서를 기대한다.

9. AI 안전, 혁신, 포용성을 촉진하는 AI 거버넌스 논의를 진전시키 위한 고위급 포럼으로서의 AI 정상회의 가치를 평가하며, 우리의 세 번째 모임으로서 프랑스가 개최하는 AI 행동 정상회의를 기대한다.

[서울=뉴스핌]윤석열 대통령이 21일 청와대 영빈관에서 화상으로 'AI 서울 정상회의'에 참석하고 있다.[사진=대통령실]2024.05.21 photo@newspim.com

다음은 AI 안전 과학에 대한 국제 협력을 위한 서울 의향서 전문이다.

1. 2024.5.21. AI 서울 정상회의에 모인 호주, 캐나다, 유럽연합, 프랑스, 독일, 이탈리아, 일본, 대한민국, 싱가포르, 영국, 미국을 대표하는 세계 지도자들은 2023.11.2. 블레츨리 파크에서 개최된 AI 안전성 정상회의에 이어, 블레츨리 정상세션의 결과물로 도출된 안전 평가 의장 성명을 평가하면서, 개방성, 투명성, 상호주의를 기반으로 AI 안전 과학을 증진시키기 위한 국제 공조와 협력의 중요성을 확인한다. 우리는 안전이 책임있는 AI 혁신을 진전시키는데 핵심 요소임을 확인한다.

2. 우리는 AI 안전 연구, 평가 그리고/또는 상업적·공개적으로 사용 가능한 AI 시스템들에 대한 AI 안전을 증진하기 위한 개발 지침을 촉진하는 AI 안전연구소를 포함하는 공공 그리고/또는 정부 지원 기관을 설립하거나 확장하기 위한 공동의 노력을 격려한다.

2.1 우리는 AI 안전 관련 정책적 노력에 정보를 제공하기 위해 학제간의, 그리고 재현 가능한 증거 군집의 필요성을 인식한다. 우리는 궁극적으로 AI 개발 및 사용의 혜택이 전지구에 걸쳐 공평하게 공유되기 위해 과학적 조사의 역할과 그러한 조사의 진전을 위한 국제적 공조의 혜택을 인정한다.

2.2 우리는 국제 AI 과학 보고서 등의 평가를 통해 공동의 과학적 이해들을 활용하고 증진하고자 하며, 적절한 경우에 각자의 정책을 견인하고 일치시키며, 우리 거버넌스 체계와 부합하는 안전하고 보안성 있고 신뢰할 수 있는 AI 혁신이 가능하도록 하고자 하는 우리의 의지를 확인한다.

2.3 우리는 우리의 기술적 방법론과 전반적 접근법에 있어서 상호보완성 및 상호운용성을 증진하기 위한 노력을 포함하여, AI 안전 측면에서 공동의 국제 과학적 이해를 촉진하기 위한 조치를 취하고자 하는 의지를 공유함을 표명한다.

2.4 이러한 조치들에는 기존 이니셔티브의 활용, 연구·평가·지침 역량 상호 강화, 적절한 경우 모델의 기능·한계·위험을 포함하는 모델들에 관한 정보 공유, AI 위해 및 안전 사고 모니터링, 적절한 분야에서 평가와 데이터세트 및 관련 기준의 교환 또는 공동 작성, AI 안전 과학 진전을 목적으로 하는 기술적 공유 자원 구축 및 이 분야에서의 적절한 연구 보안 관행 촉진을 포함할 수 있다.

2.5 우리는 효율성 극대화, 우선순위 정의, 경과 과정 보고, 결과물의 과학적 엄격성 및 견고성 향상, 국제 표준 개발 및 채택 촉진 그리고 AI 안전에 대한 증거 기반 접근법 진전 가속화를 위한 우리의 노력을 조율하고자 한다.

3. 우리는 AI 안전 과학의 진전을 가속화하기 위해 핵심 파트너들간에 국제 네트워크를 발전시킨다는 우리의 공유된 야심을 명시한다. 우리는 이러한 그리고 이와 관련된 노력에 있어서 향후 긴밀한 협력, 대화 및 파트너십을 기대한다.

kimsh@newspim.com

사진

한눈에 보는 트럼프 취임사...6대 키워드 [서울=뉴스핌] 이홍규 기자 = 도널드 트럼프 미국 대통령의 두 번째 취임 연설은 이념적인 수사가 가득했던 8년 전 2017년 당시와 다르게 낙관적인 어조 속에서 구체적인 정책 방향성을 제시하는 데 초점이 맞춰졌다. 요지는 전 정권에서 약화한 미국의 외교와 경제 영향력을 되찾겠다는 것이다. 트럼프 대통령은 '미국의 부활'을 알리면서 관세 정책과 경제·에너지 정책, 불법 이민자 정책, 영토 확장, 다양성 정책 재검토 등을 강조한 취임 연설을 했다. 다음은 30분간의 취임 연설에서 언급한 핵심 내용을 정리한 것이다. 도널드 트럼프 미국 대통령이 두 번째 임기 취임 첫날 캐피탈 원 아레나에서 열린 퍼레이드에서 행정명령에 서명하고 있다. [사진=로이터 뉴스핌] 1. 미국의 부활 트럼프 대통령은 "미국의 황금시대가 지금 시작된다"라고 연설을 시작했다. 이어"오늘부터 우리나라는 번영하고 세계의 존경을 다시 받게 될 것"이라고 했다. 또 "우리는 지금 국가적 성공의 흥미진진한 새로운 시대의 시작점에 있다"며 "미국은 전례 없는 기회를 잡을 수 있는 순간을 맞이했다"고 했다. 2. 관세 정책 트럼프 대통령은 관세 정책에 대해 "다른 나라를 윤택하게 하기 위해 미국민에게 과세하는 것이 아니라 국민을 윤택하게 하기 위해 관세를 부과한다"고 말했다. 또 "관세를 징수할 '대외수입청'을 설립하겠다"며 "외국으로부터 막대한 금액이 우리 국고로 흘러와 조만간 아메리칸드림은 전에 없던 방식으로 다시 살아나 번창할 것"이라고 했다. 트럼프 대통령은 또 "미국 경제는 부드럽고 한심하게 약한 무역 협정을 통해 우리 스스로에게 세금을 부과하면서 세계에 성장과 번영을 제공해왔다"며 "이제 이를 바꿀 때다. 우리는 우리와의 무역으로 이익을 얻는 이들에게 비용을 부과하기 시작할 것이며 그들은 기여하기 시작할 것"이라고 덧붙였다. 3. 경제·에너지 정책 트럼프 대통령은 "우리는 시추를 계속할 것"이라며 "미국은 다시 제조업 국가가 될 것"이라고 했다. 또 "우리는 지구상에서 가장 많은 석유와 가스를 보유하고 있다"며 "그것을 사용해 [에너지] 가격을 낮추고 전략비축유를 다시 최대로 채우며 미국 에너지를 전 세계로 수출할 것"이라고 했다. 트럼프 대통령은 이어 "우리는 그린뉴딜을 끝낼 것이며 전기차 의무화 정책을 철회해 우리의 자동차 산업을 구하고 위대한 미국 자동차 노동자들에게 했던 나의 신성한 약속을 지킬 것"이라고 했다. 4. 불법 이민자 정책 트럼프 대통령은 자신의 불법 이민자 정책에 대해 "미국의 완전한 복원을 시작하고 상식의 형멱을 이룰 것"이라고 운을 뗀 뒤 "남부 국경에 국가비상사태를 선포할 것"이라며 "모든 불법 입국은 즉시 중단될 것"이라고 강조했다. 이어 "수백만명의 범죄자 외국인이 그들이 온 곳으로 돌려보내지는 과정을 시작할 것"이라고 했다. 트럼프 대통령은 "멕시코 체류 정책(Remain in Mexico policy)을 재개할 것"이라고 했다. 이어 "잡았다가 풀어주기(catch and release) 관행을 종료할 것"이라며 "우리나라를 침범하는 재앙적인 침략을 저지하기 위해 남부 국경에 군대를 파견할 것"이라고 했다. 5. 영토 확장 트럼프 대통령은 파나마 운하와 관련해 "미국 선박들은 심각하게 과도한 요금을 부과받고 있고 미국 해군을 포함해 공정하게 대우받지 못하고 있다"고 강조했다. 그러면서 "중국이 파나마 운하를 운영하고 있다"며 "우리는 그것을 중국에 준 것이 아니라 파나마에 준 것이며 이제 그것을 되찾을 것"이라고 했다. 트럼프 대통령은 멕시코만에 대해서는 "아메리카만(Gulf of America)"으로 변경하겠다고 했다. 또 화성 탐사에 대해서는 "미국 우주비행사들을 화성에 보내 성조기를 꽂게 할 것"이라고 했다. 6. 다양성 정책 재검토 트럼프 대통령은 다양성 정책에 대해 "오늘부로 미국 정부의 공식 정책은 남성과 여성 두 가지 성별만을 인정하는 것으로 정해질 것"이라며 "연방정부는 더 이상 젠더 이데올로기를 장려하지 않을 것"이라고 했다. 트럼프 대통령은 또 "연방 기관들은 여권과 비자와 같은 정부 신분증에서 개인을 생물학적 성별로 분류할 것"이라며 "교도소, 이민자 쉼터, 성폭행 피해자 지원 센터와 같은 시설들은 생물학적 성별에 따라 구분될 것"이라고 덧붙였다. bernard0202@newspim.com 2025-01-21 10:13