전체기사 최신뉴스 GAM
KYD 디데이
산업 ICT

속보

더보기

업스테이지, 과기정통부와 AI 윤리·신뢰성 강화 위한 협력

기사입력 : 2023년06월15일 17:02

최종수정 : 2023년06월15일 17:02

[서울=뉴스핌] 양태훈 기자 = 업스테이지가 120만명이 활용하는 국내 대표 챗AI 'AskUp'의 활용 경험을 바탕으로 과기정통부와 AI 윤리·신뢰성 강화를 위해 머리를 맞댄다.

15일 업스테이지는 과학기술정보통신부 'AI 윤리·신뢰성 확산 위한 과기정통부 AI 대표기업 릴레이 방문'에 첫번째 기업으로 낙점, 기업 및 솔루션을 소개하고 AI 윤리·신뢰성 확보 경험을 공유했다고 밝혔다. 

이번 현장 방문은 과기정통부가 지난달 11일 개최된 'AI 윤리·신뢰성 강화를 위한 간담회'에 이어 AI 윤리·신뢰성 확산 위한 AI 분야별 대표기업 방문의 일환으로, 국내 생성AI 활용의 대표기업인 업스테이지를 첫번째 기업으로 선정해 진행됐다. 박윤규 제2차관은 용인에 위치한 업스테이지 연구소를 방문, 현장의 목소리를 청취했다.

행사에는 과기정통부 박윤규 제2차관과 최동원 인공지능기반정책과장을 비롯, 한국정보통신기술협회 이강해 단장, 곽준호 팀장과 업스테이지 이활석 CTO, 한지윤 데이터팀 리더, 손해인 마케팅팀 리더가 참석했다. 

이활석 CTO는 이날 업스테이지의 대표 AI 솔루션인 '다큐먼트 AI팩'과 AskUp를 활용, 추천 및 검색 서비스를 접목한 'AskUp Seargest'에 대한 소개와 서비스 시연을 진행했다.

이활석 업스테이지 CTO(왼쪽)와 박윤규 과기정통부 제2차관.[서울=뉴스핌]

다큐먼트 AI 팩은 금융, 보험, 의료 등 다양한 산업에서 활용될 수 있는 업스테이지 대표 문서 AI 솔루션으로, OCR 기술을 통해 이미지나 PDF 형식의 문서를 텍스트로 변환하고, 자연어 처리(NLP) 기술을 통해 반복된 수작업을 제거하고 필요한 문서의 내용을 추출하거나 분석 및 요약할 수 있다. 

고객사들은 업스테이지 다큐먼트 AI 팩을 이용, 문서 관리와 처리의 효율성과 정확도를 높일 수 있으며, 올 초 출시 직후부터 삼성생명, 한화생명 등 금융권은 물론 포스코홀딩스, 삼성SDS 등 산업계의 다양한 고객사들과 계약에 성공하며 호평을 받고 있다.

AskUp Seargest는 검색과 추천 기술(Search+Suggest)을 활용, 초개인화 된 추천을 채팅의 형태로 제공할 수 있는 솔루션이다. 업스테이지는 AI팩을 운용하며 확보한 최고의 검색, 추천기술과 120만이 이용하는 AskUp을 직접 운영하며 쌓은 프롬프트 엔지니어링 및 파인튜닝 노하우를 통해 초개인화된 최신의 정보를 고객에게 제공, 원하는 정보를 가장 편리한 인터페이스로 보여주는 솔루션을 개발했다.

AskUp Seargest는 쇼핑, 여행, 영화, 서적 등 다양한 도메인과 시나리오에 적용할 수 있으며 고객 서비스, 마케팅, 교육 등 다양한 분야에서 활용될 수 있어 100여 개 넘는 기업들이 웨이트 리스트에 이름을 올리는 등 이목을 집중시키고 있다.

참석자들은 서비스 시연 후 AI 윤리·신뢰성 확보 경험을 공유하고 애로 및 건의사항을 논의했다. 이활석 CTO는 다큐먼트 AI팩 적용시 클라우드 컴퓨팅 환경과 AI 모델 고도화를 위한 대량의 데이터 학습 과정에서 발생가능한 개인의 민감 정보 유출 방지 및 AI서비스 윤리 확보를 위해 데이터 관리 차원에서 대책을 마련했던 경험과 노하우를 공유했다.

또한 AskUp 운영에서 있었던 다양한 AI 윤리·신뢰성 확보 노력도 함께 나눴다. 업스테이지는 AskUp 운영에 있어 생성 AI의 단점으로 지적받던 환각(Hallucination) 현상을 완화하기 위해 '? 검색'을 국내 최초로 도입, 팩트 기반의 정보를 제공하고 있다. 뿐만 아니라 개인정보 텍스트에 대한 마스킹 처리, 부적절한 이미지 생성 요청 시 거절 메시지 노출과 출력 거부 조치 등 다양한 노력을 기울이고 있다.

이활석 업스테이지 CTO는 "챗GPT 등 생성AI 시대가 열리며 챗GPT의 할루시네이션과 혐오발언등으로 AI 윤리와 신뢰성에 대한 논의가 가속화 되고 있다"며 "업스테이지는 선도적인 AI 기술을 바탕으로 이번 행사를 포함 민관 논의 등 다양한 노력을 통해 AI기술 발전에 필수적인 윤리·신뢰성 확보를 위한 노력을 지속할 것"이라고 밝혔다.

dconnect@newspim.com

[뉴스핌 베스트 기사]

사진
김영훈 고용부 장관 후보자는 누구? [세종=뉴스핌] 양가희 기자 = 이재명 대통령이 김영훈 전 민주노총 위원장을 고용노동부 장관 후보자로 임명했다. 강훈식 대통령실 비서실장은 23일 11개 부처 장관 후보자를 발표했다. 김 후보자는 1968년 부산에서 태어나 마산중앙고, 동아대를 졸업해 성공회대 NGO대학원에서 정치정책학(정치학) 석사 학위를 받았다. 김영훈 고용노동부 장관 후보자 [사진=대통령실] 2025.06.23 sheep@newspim.com 김 후보자는 2010년부터 2012년까지 민주노총 위원장으로 활동하다가 2017년 정의당에 입당, 제19대 대통령 선거에서 노동본부장을 맡았다. 2021년에는 더불어민주당 대선 후보 이재명 대통령의 노동부문 지지단체 '공정사회 구현을 위한 노동광장'에 공동대표로 참여한 바 있다. 지난 총선에서는 더불어민주연합에서 비례대표 20번을 받았다. 현재 한국철도공사 기관사이자 부산지방노동위원회 공익위원으로 활동하고 있다. 강 비서실장은 "민주노총 위원장을 역임하며 노동의 목소리를 대변해 온 인물"이라며 "산업재해 축소, 노란봉투법 개정, 주4.5일제 등 일하는 사람들의 권리를 강화하는 역할을 해줄 것으로 기대한다"고 밝혔다. 한 정부 관계자는 김 후보자에 대해 "합리적이다"라며 "민주노총이 그간 (사회적 대화 등) 제도권 밖에 있었다. 이를 계기로 제도권으로 들어오길 희망한다"고 말했다. ◇ 김영훈 고용노동부 장관 후보자 프로필 ▲1968년 부산 출생 ▲마산중앙고, 동아대, 성공회대 NGO대학원 정치정책학 석사 ▲정의당 노동본부장 ▲민주노총 위원장 ▲철도노조 위원장 ▲철도공사 기관사 ▲부산지방노동위원회 공익위원 sheep@newspim.com 2025-06-23 14:57
사진
안규백 64년 만에 문민 국방 후보자 [서울=뉴스핌] 김종원 국방안보전문기자 = 국군 최고통수권자인 이재명 대통령은 23일 초대 국방부 장관에 민간인 출신인 안규백(64) 더불어민주당 5선 중진 의원을 인선했다. 강훈식 대통령실 비서실장은 이날 "안 후보자가 국회 국방위원회 간사와 위원장 등 5선 국회의원 이력의 대부분을 국회 국방위에서 활동했다"면서 "군에 대한 이해도가 풍부하고 64년 만에 문민 국방장관으로서 계엄에 동원된 군의 변화를 책임지고 이끌어 나갈 것"이라고 인선 배경을 설명했다.  안규백 국방부 장관 후보자. [사진=대통령실] 안 후보자는 집권 여당인 민주당에서 국방위원장을 비롯해 국방위원으로서 15년 간 의정활동을 했다. 그 누구보다 군과 국방안보를 잘 아는 인물로 그동안 역대 정부에서도 꾸준히 민간인 출신 국방장관으로 유력하게 거명됐었다. 특히 안 후보자는 국회 12·3 비상계엄 사태에 대한 진상규명 국정조사 특위위원장 중책까지 맡았다. 여야 의원들을 아우르며 적지 않은 성과를 냈다는 평가다. 이번 대선에서도 민주당 중앙선대위 총괄특보단장 핵심 보직을 맡았다. 계엄 사태 주역인 군의 정치적 중립성을 확립하면서 어수선한 군을 안정적으로 이끌면서 군 전반을 개혁할 최적임자로 꼽힌다. 합리적인 성품에 남의 말을 귀담아듣는 전형적인 외유내강형 인물이다. 다만 상식과 원칙을 중시하며 불법적이고 정의롭지 않은 일에는 불같이 화를 내는 성격이다. 아들 둘 모두 육군과 해병대에서 현역으로 군 복무를 했다.  안 후보자가 국회 인사청문회를 통과해 이재명정부의 초대 국방장관으로 취임하면 1961년 현석호 장관 이후 64년 만에 군인이 아닌 민간인 출신 국방장관이 된다.  한국 정치사의 격동기를 거쳐 군사독재정권 시절에 장군 출신들이 독식했던 국방장관을 정치 안정기에 들어 사실상 민간인 출신의 진정한 '문민 국방장관'이 나올 수 있을지 초미 관심사다. ▲전북 고창(64) ▲광주 서석고 ▲성균관대 철학과 학사·무역대학원 무역학 석사 수료 ▲18·19·20·21·22대 국회의원 ▲국회 국방위원회 위원장·간사 ▲국회 '내란 진상규명 국정조사 특별위원회' 위원장 ▲더불어민주당 사무총장 kjw8619@newspim.com 2025-06-23 14:13
안다쇼핑
Top으로 이동