공공부문 초거대 AI 도입·활용 가이드라인 2.0

0. 가이드라인 목적 및 구성 1 1. 초거대 AI 개요 5 1.1. 초거대 AI의 개념과 구성 요소 ··································· 6 1.2. 초거대 AI 발전 경과 및 최근 기술 동향 ·················· 8 1.3. 국내 초거대 AI 시장 현황 ·· ········································· 10 1.4. 해외 주요국 AI 정책 동향 ··· ········································ 12 2. 공 공 부 문 초 거 대 A I 추진 방향과 활용 사례 13 2.1. 공공부문 초거대 AI 추진 방향 ··· ································ 14 2.1.1. 공공AI 3대 전략목표 ············································· 14 2.1.2. 범정부 초거대 AI 공통기반 구현 · ······················· 16 2.2. 공공부문 초거대 AI 활용 사례 ··································· 17 2.2.1. 초거대 AI 적용 서비스 분류 ······························· 17 2.2.2. 서비스 유형별 활용 사례 ····································· 19 2.2.3. 업무 분야별 활용 사례 ········································ 27 2.2.4. 해외 활용 사례 ·············································· ······· 33 목 차 3. 초거대 AI 도입 절차 41 3.1. 도입 원칙 및 고려사항 ·············································· ·4 2 3.2. 도입 절차 ····················································· ················· 45 3.2.1. 데이터 보안 등급 ············································· ····· 47 3.2.2. 클라우드 서비스 구성 방안 ·· ······························ 50 3.2.3. 데이터 학습 방식 · ················································· 52 3.2.4. 서비스 도입 방식 ·················································· 56 3.2.5. 유지보수 및 운영(Operations) ······················· 58 3.3. 초거대 AI 도입 체크리스트 ······································· 60 4. 공공부문 AI 성과 관리 63 4.1. 성과 관리 필요성 ················································· ········ 64 4.2. AI 성과지표 프레임워크 ············································· 66 4.3. AI 성과지표 Pool ·············································· ········· 69 5. 부 록 7 7 5.1. 공공 AI 서비스 실증 세부 현황 ································ 78 5.2. 해외 AI 활용 사례 인벤토리 ······································ 79 공공부문 초거대 AI 도입･활용 가이드라인 2.0 Part 0. 가이드라인 목적 및 구성 1 PART0 가이드라인 목적 및 구성 공공부문 초거대 AI 도입 ･활용 가이드라인 2 0 가이드라인 목적 및 구성 ● 목 적 - 본 가이드라인은 중앙부처·지자체·공공기관·국회·법원 등 전 공공부문에서 디지털플랫폼정부의 철학과 원칙에 따라 초거대 AI를 도입·활용하는데 필요한 관련 기준과 절차, 고려 사항을 안내 하는 것을 목적으로 함 - 또한 공공부문의 정보시스템 담당자에게는 초거대 AI 도입과 활용에 필요한 실무적 지침과 공공의 다양한 AI 서비스 사례들을 제공하고자 함 ● 구 성 - 본 가이드라인은 초거대 AI 개요, 공공부문 초거대 AI 추진방향과 활용사례, 초거대 AI 도입 절차, 공공부문 AI 성과관리 등 4개의 장과 부록으로 구성함 표 1 초거대 AI 도입·활용 가이드라인 구성 1. 초거대 AI 개요 2. 공공부문 초거대 AI 추진방향과 활용사례 3. 초거대 AI 도입 절차 4. 공공부문 AI 성과관리 1.1 초거대 AI의 개념과 구성 요소 2.1 공공부문 초거대 AI 추진 방향 3.1 도입 원칙 및 고려사항 4.1 성과 관리 필요성 1.2 초거대 AI 발전 경과 및 최근 기술 동향 2.1.1 공공AI 3대 전략 목표 3.2 도입 절차 4.2 AI 성과지표 프레임워크 1.3 국내 초거대 AI 시장 현황 2.1.2 범정부 초거대 AI 공통기반 구현 3.2.1 데이터 보안 등급 4.3 AI 성과지표 Pool 1.4 해외 주요국 AI 정책 동향 2.2 공공부문 초거대 AI 활용 사례 3.2.2 클라우드 서비스 구성 방안 2.2.1 초거대 AI 적용 서비스 분류 3.2.3 데이터 학습 방식 2.2.2 서비스 유형별 활용 사례 3.2.4 서비스 도입 방식 2.2.3 업무 분야별 활용 사례 3.2.5 유지보수 및 운영 2.2.4 해외 활용 사례 3.3 초거대 AI 도입 체크리스트 Part 0. 가이드라인 목적 및 구성 3 - 1장 ‘초거대 AI 개요’에서는 초거대 AI와 언어모델(LLM)에 대한 설명과 기술변화 상황 및 이에 따른 국내외 현황에 대하여 안내함 - 2장 ‘공공부문 초거대 AI 추진방향과 활용사례’에서는 공공부문에서의 초거대 AI 활용을 통한 3대 전략목표와 범정부 공통기반 구현사항, 공공부문에서 도입 가능한 서비스 활용 사례(예시 등)를 행정·공공기관 및 해외의 주요국에 대해 제시함 - 3장 ‘초거대 AI 도입 절차’에서는 공공부문에서 실제 도입시 준수해야 할 원칙과 관련 기술 적용에 필요한 검토사항 등을 절차별로 안내함 - 4장 ‘공공부문 AI 성과관리’에서는 공공부문에서 성과관리 필요성과 방법, 지표 Pool 등을 제시하여 중장기 성과관리 및 환류 체계에 대하여 안내함 관련용어 용 어 정 의 초거대 AI 대규모 데이터셋을 기반으로 훈련된 딥러닝 모델을 사용하여 문서를 요약, 대조하거나 새로운 콘텐츠를 생성하는 등의 인공지능 초거대 언어 모델 (LLM, Large Language Model) 초거대 규모로 자연어를 학습시킨 인공지능 언어 모델 파운데이션 모델 (Foundation Model) 초거대 AI의 서비스를 제공하기 위해 기초가 되는 모델 파인튜닝 (Fine-tuning) 파운데이션 모델을 특정 작업이나 도메인에 최적화하기 위해 특화된 데이터로 모델의 가중치를 미세하게 조정하여 추가로 학습시키는 방법 사후학습 (Post-training) 파운데이션 모델에 데이터의 최신성과 전문성을 위해 자체 보유데이터로 추가 학습하여, 파운데이션 모델 자체를 고도화하는 방법 검색 증강 생성 (RAG, Retrieval-Augmented Generation) 답변 생성에 있어 외부 리소스를 추가하는 방식의 기술 소규모 초거대 언어 모델 (sLLM, Small Large Language Model) 초거대 언어 모델에 비해 상대적으로 적은 파라미터를 사용하여 학습 시간이나 비용을 절감한 모델 멀티모달 (multimodal) 사람이 기계와 상호 작용할 때 입출력에 텍스트, 음향, 이미지 등 다양한 정보 유형을 통합하여 사용하는 것 AI 에이전트 (AI Agent) 사람이 직접 프롬프트를 입력하는 거대언어모델(LLM) 기반 AI 챗봇과 달리 자율성을 바탕으로 스스로 업무를 수행하는 인공지능 클라우드컴퓨팅서비스 클라우드컴퓨팅을 활용하여 상용(商用)으로 타인에게 정보통신자원을 제공하는 서비스 클라우드컴퓨팅서비스 보안인증 (CSAP, Cloud Security Assurance Program) 「클라우드컴퓨팅 발전 및 이용자 보호에 관한 법률」 제23조의2에 따라 한국인터넷진흥원의 장이 클라우드컴퓨팅서비스의 보안성에 대하여 실시하는 인증 민간 클라우드 「클라우드컴퓨팅법」 제2조제3호에 따른 ‘클라우드컴퓨팅서비스’로 민간 기업 또는 단체가 제공하는 클라우드컴퓨팅서비스 멀티 클라우드 두 개 이상의 독립적인 클라우드 서비스 제공자가 제공하는 복수의 클라우드컴퓨팅서비스를 연계하여 사용하는 클라우드 배포 모델 디지털서비스 이용지원시스템 「클라우드컴퓨팅법 시행령」 제15조의2제3항에 따라 디지털서비스를 등록 및 관리하는 시스템 P a r t1 . 초 거 대 A I 개 요 5 PART1 초거대 AI 개요 공공부문 초거대 AI 도입 ･활용 가이드라인 6 1 초거대 AI 개요 1.1 초거대 AI의 개념과 구성요소 ● 초거대 AI - 초거대 AI는 기존 인공지능(AI)보다 훨씬 방대한 양의 데이터를 이용해 수천억에서 수조 개 이상의 매개변수(Parameter)를 가진 대규모 모델을 의미. 대규모 인공신경망 알고리즘을 활용하며 높은 수준의 추론과 이해 능력을 보여줌 - 특정 작업만 하는 기존 AI와 달리 자연어 처리, 이미지 인식, 코드 작성 등 여러 분야에 폭넓게 활용될 수 있는 범용성이 특징이며, 새로운 작업에 대해 별도 학습 없이 간단한 설명이나 예시 만으로도 신속히 대응할 수 있다는 장점이 있음 초거대 언어 모델(LLM, Large Language Model) 이란 초거대 AI로 구현된 언어 모델(LM, Language Model)로 기존 언어 모델보다 훨씬 큰 규모의 모델과 데이터를 활용하여 뛰어난 언어 이해력과 생성 능력을 가짐. LLM은 초거대 AI의 하위 개념으로, 초거대 AI에는 LLM뿐만 아니라 이미지 생성, 음성 인식, 로봇 AI 등 다양한 모델이 포함될 수 있음 그림 1 인공지능 종류와 초거대 AI 관계 P a r t1 . 초 거 대 A I 개 요 7 ● 초거대 AI의 주요 구성 요소 - 초거대 AI는 데이터, 모델, 컴퓨팅 인프라, 학습 알고리즘, 윤리적 고려 사항 등 다양한 요소가 결합된 시스템임 - 데이터의 양과 품질은 AI의 성능을 결정짓는 중요한 요소이며, 초거대 AI는 엄청난 연산 능력이 필요하기 때문에 고성능 하드웨어가 필수적임. 하지만 모든 기관들이 직접 이런 인프라를 구축 하는 것은 비효율적이므로 클라우드 컴퓨팅 서비스를 활용할 수 있음 - 또한, 모델 학습을 위한 알고리즘과 최적화 기술뿐만 아니라 AI가 사회적으로 안전하고 윤리적으로 운영될 수 있도록 설계될 필요 표 2 초거대 AI 모델의 주요 구성요소 구성요소 주 요 내 용 데이터 AI 학습을 위한 방대한 데이터(텍스트, 이미지 등) 모델 아키텍처 주로 트랜스포머 기반의 딥러닝 모델 사용 컴퓨팅 인프라 GPU, TPU, 슈퍼컴퓨터, 고속 스토리지 등 → 클라우드 컴퓨팅 활용 학습 알고리즘 초거대 AI를 학습시키기 위한 알고리즘과 최적화 기법 안정성과 윤리 AI의 편향 문제 해결, 개인정보 보호, 윤리적 규제 준수 ● 초거대 AI의 학습 과정 초거대 AI 모델이 완성되기까지 파운데이션 모델 학습, 사후학습, 파인튜닝, RAG 등 단계적 학습 과정을 거침 1) 파운데이션 모델(Foundation Model) 학습(Pre-training) - 초거대 AI의 기본 뼈대를 만드는 단계로 대규모 텍스트 데이터를 학습하여 기본적인 언어 패턴과 지식을 습득하는 단계. 다음에 올 단어를 예측하는 방식을 활용하여 자연어 생성 능력을 학습 - 모델이 수집한 데이터만 학습하므로 인간이 원하는 방식으로 응답하지 않을 수 있고, 윤리적 문제나 편향이 포함될 가능성이 있음 → 사후학습 필요 공공부문 초거대 AI 도입 ･활용 가이드라인 8 2) 사후학습(Post-training) - 사전 훈련된(Pre-trained) AI의 응답을 개선하고, 인간의 의도에 맞도록 최적화하는 과정. AI의 출력결과에 대한 인간의 피드백을 통한 강화학습 기법(RLHF)을 사용하여 AI가 더 친절하고, 논리적이며, 윤리적인 답변을 하도록 조정 3) 파인튜닝(Fine-tuning) - 사전 훈련된(Pre-trained) AI를 특정 작업이나 분야(의료, 법률, 금융 등)에 최적화하기 위해 자체 데이터로 모델의 가중치를 미세하게 조정하여 추가로 학습시키는 방법 - 학습 비용이 많이 들고, 새로운 데이터가 추가될 때마다 재학습이 필요하며, 최신 정보 반영이 어렵다는 한계 → RAG 기법 필요 4) 검색 증강 생성(RAG, Retrieval-Augmented Generation) - AI가 외부 데이터베이스(DB)에서 최신 정보를 검색하여 답변을 생성하는 기술로 최신 정보가 포함된 문서나 검색 결과를 기반으로 보다 정확한 답변 제공이 가능하며 할루시네이션(환각)을 감소시키는 효과를 가짐 - 모든 정보를 미리 학습할 필요가 없어 학습 비용을 절감할 수 있으며, 보안이 필요한 내부 데이터를 클라우드에 업로드하지 않고 활용 가능 1.2 초거대 AI 발전 경과 및 최근 기술 동향 ● 초기 초거대 AI 모델의 등장과 발전(ChatGPT 등장 이전) - 초거대 AI의 개념은 트랜스포머(Transformer) 모델 이후 본격적으로 시작. 2020~2021년 사이 GPT-3, PaLM, Gopher 같은 대형 모델들이 등장했으나, 주로 연구 및 특정 기업 내에서 제한적으로 사용. 대부분의 모델이 텍스트 생성에 국한되었으며, 대화형 AI 수준이 낮았음 - 기술적으로, 자연어처리(NLP) 중심의 단일 작업 모델이 대부분이며, 새로운 과제에는 추가 학습이 필요하고 사용자와의 자연스러운 대화 능력이 미흡했다는 평가 P a r t1 . 초 거 대 A I 개 요 9 ● 대중적인 초거대 AI의 확산과 패러다임 변화(ChatGPT 등장 이후) - ChatGPT 출시(2022년 11월) 이후 초거대 AI가 일반 사용자에게 직접 제공되는 시대가 열림. Google, Meta, Mistral 등이 경쟁적으로 LLM을 개발하면서 초거대 AI의 발전 속도가 급격히 빨라짐 - 기술적으로 텍스트와 이미지 이해 능력을 갖춘 멀티모달 AI 시대가 열렸으며, 추가 학습 없이도 새로운 문제 해결이 가능한 수준으로 성능 개선, 자연스러운 대화 구현, 코드 생성 및 문제 해결 능력 강화, 인간의 피드백을 반영해 모델을 조정(RLHF, Reinforcement Learning with Human Feedback)하는 등의 기술적 변화가 나타남 ● 중국발 초거대 AI 경쟁 가속화(DeepSeek 등장 이후) - 중국의 AI 기업 DeepSeek가 중국 최초의 오픈소스 초거대 AI 모델을 공개하면서 서구 중심의 AI 주도권에 도전하며 AI 패권 경쟁 가속화. 집단지성의 활용, 제약 없는 이용, 개발비용 절감 등 오픈소스 기반 AI 혁신으로 폐쇄형 AI 모델과의 경쟁이 가속화되고 빅테크 중심의 AI 진입장벽이 낮아지는 계기 - 기술적으로 효율적인 모델 설계를 통해 더 가벼우면서 강력한 성능을 보이는 모델이 등장하고 오픈소스 초거대 AI 모델이 부상 ● 최근 AI 기술 동향 - sLLM(Small Large Language Model): LLM에 비해 상대적으로 낮은 컴퓨팅 자원, 파라미터 수 등을 사용하여 학습 시간이나 비용을 절감한 모델로 파인튜닝 등의 기술과 함께 사용하여 부족한 성능을 보완함. 온디바이스(On-device AI) 또는 내부 전용 AI 구축(Private AI) 등에 활용되며, 보안성 확보, AI 컴퓨팅 비용 절감, 실시간 응답 속도 개선 등의 이점을 보임 - 멀티모달 AI(Multimodal AI): 최근 생성형 AI는 텍스트뿐만 아니라 이미지, 영상, 음성, 코드까지 이해하고 생성하는 멀티모달 AI가 대세로 자리 잡고 있음. 이미지, 동영상, 음성 등 다양한 형태의 인터페이스로 사용자와 소통함으로써 사용자 경험을 한층 향상시키고 개인 맞춤형 서비스 제공 - 에이전틱 AI(Agentic AI): AI 에이전트는 정해진 목표 달성을 위해 상황 파악, 워크플로우 계획 수립, 외부 데이터와 분석 툴 활용 등으로 자율적 작업을 수행하는 지능형 시스템. 사용자의 지시에 따라 사용자의 목표 달성을 위해 자율적으로 계획하고 조치를 이행하는 시스템으로 인간의 업무를 경감·보강할 수 있는 가상 인력의 가능성을 제시 공공부문 초거대 AI 도입 ･활용 가이드라인 10 1.3 국 내 초 거 대 A I 시 장 현 황 ● 국내 초거대 AI 시장은 인프라를 담당하는 ‘플랫폼 인프라 영역’과 LLM을 제공하는 ‘AI 모델 영역’, 사용자에게 실질적인 서비스를 제공하는 ‘애플리케이션 영역’으로 분류할 수 있음 ● 또한, ‘플랫폼 인프라 영역’에서부터 ‘애플리케이션 영역’까지 전 범위를 서비스하는 ‘풀스택 (토탈서비스) 영역’과 기술 도입을 위한 ‘컨설팅 영역’의 시장도 있음 ● 국내 플랫폼 기업은 광범위한 데이터 인프라를 바탕으로 자체 LLM을 선보이며 공급기업으로 자리매김하고 있고, 중소 스타트업은 애플리케이션 영역에서 LLM을 이용한 서비스를 제공하거나 AI 모델 영역의 sLLM 형태로 추진하고 있음 표 3 국내 초거대 AI 시장 현황 구 분 현 황 플랫폼 인프라 - 대부분 클라우드 인프라를 갖춘 플랫폼 형태의 기업으로 ‘AI 모델 영역’과 ‘애플리케이션 영역’을 지원하는 역할 - 자본과 기술이 집약된 빅테크기업의 영향력이 큼 AI 모델 - ‘애플리케이션 영역’을 지원하는 영역으로 LLM 및 LLM API 서비스 등을 제공하여 엔터프라이즈 및 산업별 솔루션 제공 - ‘애플리케이션 영역’에서 필요로 하는 다양한 요구에 맞게 AI 모델 및 알고리즘 개발하거나 sLLM을 제공하는 기업이 주를 이룸 애플리케이션 - 업계의 요구사항에 맞춰 전문적으로 고객 맞춤 서비스 제공 - 대부분 SI기업이나 스타트업으로 구성 컨설팅 - 기업·기관에서 생성형 AI 도입을 위한 전사적 방안을 제시 - 생성형 AI의 효율적인 사용을 위한 컨설팅 서비스 등 풀스택 (토탈서비스) - 빅테크 기업이 가진 풍부한 자원을 바탕으로 LLM을 구성하거나 개인 맞춤화 된 서비스로 제공하는 전 영역을 서비스 P a r t1 . 초 거 대 A I 개 요 11 [참고] 클라우드 컴퓨팅 서비스 ● 초거대 규모의 데이터 학습과 처리를 위해서는 고성능의 연산 자원이 필요한데, 클라우드 컴퓨팅은 이러한 대규모 데이터 처리를 위한 인프라와 응용서비스 개발에 필요한 다양한 도구를 제공함 ● 클라우드컴퓨팅서비스를 이용하기 위해서는 ‘클라우드컴퓨팅서비스 보안인증제도’의 기준에 부합하는 민간 클라우드 서비스나 국가정보자원관리원의 G-클라우드 등을 이용 할 수 있음 ● 클라우드 컴퓨팅 서비스 보안인증제도(CSAP, Cloud Security Assurance Program) - 중앙부처·지자체·공공기관에 안전성 및 신뢰성이 검증된 민간 클라우드 서비스를 공급하고 이용자에게 안전한 클라우드 서비스를 제공하기 위한 제도임 - 데이터의 중요성과 민감도에 따라 적합한 보안 기술을 적용하여야 하며, 데이터의 유출 및 악용을 예방하여야 함 ● 클라우드컴퓨팅서비스는 서비스 제공 범위에 따라 IaaS, PaaS, SaaS 등이 있음 표 4 서비스 유형 구 분 주 요 내 용 ① IaaS - 인프라 제공 서비스(Infrastructure-as-a-Service) - 서버, 저장장치, 네트워크 등 IT 인프라를 서비스로 제공 ② PaaS - 플랫폼 제공 서비스(Platform-as-a-Service) - 응용프로그램 등 소프트웨어의 개발·배포·운영·관리 등을 위한 환경을 제공하는 서비스 ③ SaaS - 소프트웨어 제공 서비스(Software-as-a-Service) - 응용프로그램 등 소프트웨어를 서비스로 제공 복합서비스 - ①부터 ③까지 둘 이상의 서비스를 복합적으로 제공 ※ ‘행정·공공기관 클라우드컴퓨팅서비스 이용안내서(행안부·NIA, ’22.6월)’ 참고 공공부문 초거대 AI 도입 ･활용 가이드라인 12 1.4 해 외 주 요 국 A I 정 책 동 향 ※ ’17년부터 ’25.2월까 지의 정책 동향 조사 결과임 ● 미 국 - 트럼프 2기 행정부는 바이든의 ‘안전하고 신뢰할 수 있는 AI 개발 및 사용 행정명령(’23)’을 폐지하고, 새로운 행정명령을 통해 AI 규제를 축소하는 방향으로 전환(’25.1.), AI 분야 세계 선두 유지를 위해 공공 및 민간 자원을 집중투자하고 AI에 관한 연방정책과 정부 활용 등을 조정하는 책임자를 임명하는 방안을 검토 ● 중 국 - 중국은 ‘차세대 AI 발전계획(’17)’을 통해 ’30년까지 중국을 세계 AI 중심국가로 성장시키는 것을 목표하고 있으며, ‘차세대 AI 발전규획(’21)’에 따라 공공 10대 분야에서 응용 사례 창출 노력. 시진핑 주석이 주재한 민영기업 좌담회(’25.2.)에서도 장기적 관점에서 기업의 핵심역량을 강화하고 글로벌 경쟁력 확보를 강조 ● 영 국 - 각 부처가 AI를 활용하여 생산성과 공공서비스 제공을 개선, 지원하는 ‘i.AI (Incubator for AI)’를 내각부 내에 신설(’23). 생성형 AI를 활용한 솔루션의 기획·개발과정의 고려사항을 제시하는 「정부를 위한 생성형 AI 프레임워크」 발표(’24). ’25년 1월에는 ‘AI 기획 실행계획’ (영국 전역에 AI 도입을 위한 50가지 권고사항) 발표 ● 프랑스 - 범부처 디지털 총괄국(DINUM)에서 자체 개발한 프랑스 행정부를 위한 주권 AI ‘Albert’ 도입(’24.4.), 데이터 기밀 유지 등을 위해 Llama2 및 Mistral 등 사전훈련된 오픈소스 모델로 개발. 또한 ’27년까지 300개의 프랑스 서비스 센터를 추가적으로 설립하고 AI에 기반한 공공서비스 현대화와 행정절차 간소화 추진계획 발표(’24.4.) ● 캐나다 - 캐나다 재무위원회는 준비된 AI 인력 확보 및 혁신을 통한 AI 성장, 인프라 및 참여 활성화, 책임 있고 효과적인 AI 도입을 위한 도구 구현 등 세 가지 핵심 요소에 초점을 맞춰 공공서비스 AI 도입 전략 개발을 추진(’24), ’25년 AI전략 출범을 목표 ● 독 일 - 연방정부는 AI 전략 및 업데이트 전략 발표(’18, ’20) 이후 국가 인공지능 전략을 효과적으로 구현하기 위한 AI 실행계획(’23)을 발표하였으며, 공공부문 AI 교육을 위해 AI 교육 프로그램 등을 운영(’24~) Part 2. 공공부문 초거대 AI 추진방향과 활용 사례 13 PART2 공공부문 초거대 AI 추진 방향과 활용 사례 공공부문 초거대 AI 도입 ･활용 가이드라인 14 2 공공부문 초거대 AI 추진방향과 활용 사례 2.1 공공부문 초거대 AI 추진 방향 2.1.1 공공AI 3대 전략 목표 ● 디지털플랫폼정부(Digital Platform Government)는 인공지능과 데이터를 기반으로, 디지털 기술과 민간의 혁신 역량을 수용하여 국민의 일상생활의 불편함은 없애고 정부는 효율적으로 빠르게 혁신하며 더불어 기업에 성장의 기회를 제공하는 것을 목표로 하며, 디지털플랫폼정부 구현 도구로써 인공지능을 핵심 수단으로 인식하고 공공부문에 있어 AI 도입·활용 확산 추진 - 공공부문 AI 도입·활용은 공공의 일하는 방식을 과학적이고 효율적으로 전환하여 대국민 서비스 혁신이 가능하게 하고, 점차 복잡해지고 다양해져 기존 방식으로 해결이 어려웠던 사회문제 해결에 직접적으로 기여 가능 ● ‘국가인공지능(AI)위원회’의 ‘국가AI전략 정책방향(’24.9월)’에서는 ’30년까지 공공부문 AI 도입률 95% 달성 및 공공 AI 범용기반 조성과 AI 활용 확산 등을 제시하고 있으며, ‘디지털플랫폼정부 실현계획(’23.4월)’에 따라 인공지능·데이터·서비스의 융합 기반을 위해 ‘DPG 허브’ 및 범정부 초거대 AI 공통기반 등의 혁신 인프라를 구성하여 민간의 초거대 AI를 적극 활용할 수 있도록 추진 중에 있음 ● 공공부문의 AI 도입은 국민의 삶의 질과 직결되므로 국민의 체감 성과 등을 고려하여 범정부 차원의 공 공 A I 3 대 전 략 목 표를 아래와 같이 제시함 - 여러 공공기관별로 무분별한 AI 도입은 지양하고, AI 도입에 따른 성과 목표를 명확히 정의하고 3대 전략목표와 가이드라인에 따른 도입원칙과 절차를 준수하여 추진하도록 함 ① (대국민 서비스 혁신) AI로 실현하는 초개인화·無장애 대국민 서비스 제공 확대 ② (사회문제 해결) AI를 활용한 데이터 분석과 실시간 대응역량 강화로 복잡하고 다양한 사회문제 해결 ③ (일하는 방식 효율화) AI와 협업을 통해 일상적 업무를 효율화하고 정책지능 향상으로 최적의 의사결정 지원 표 5 공공AI 3대 전략 목표 대국민 서비스 혁신 사회문제 해결 일하는 방식 효율화 ▪ 초개인화된 서비스 ▪ 포용적 서비스 ▪ 사용자 경험 혁신 ▪사회적 난제 해법 도출 ▪24시간 국민안전 확보 ▪AI와 협업 일상화 ▪업무 자동화 및 효율화 ▪최적의 의사결정 지원 Part 2. 공공부문 초거대 AI 추진방향과 활용 사례 15 표 6 공공AI 3대 전략 목표별 AI 과제 (예시) 대국민 서비스 혁신 사회문제 해결 일하는 방식 효율화 민원 민원상담사 AI 어시스턴트로 민원인 대기시간 절감(14.5%) 및 서비스 만족도 향상 응급 의료 병상, 인력 등 의료자원정보 실시간 분석 통해 ‘응급실 미수용(뺑뺑이)’ 해소 R&D 기존 연구성과 학습으로 연구결과요약, 검색, 중복 제거 및 연구방향 등 지원 청년 청년대상 개인 맞춤형 혜택을 선제적으로 알림·추천, 신청, 처리 등 제공 재난 재난·사고 등 현장의 영상정보 학습 및 AI기반의 지능형 CCTV 통합관제로 재난 예방 강화 교통 도시철도 안전관련 법령, 매뉴얼, 사고기록 등을 학습해 현장근로자의 안전관련 의사결정 지원 복지 AI가 상담정보, 현장정보 등의 수집·분석으로 맞춤형 돌봄‧복지 서비스 제공 재해 대하천 및 지류·지천을 포함한 전국단위 홍수예보를 통해 인명피해 최소화 근로 감독 AI 활용하여 진술조서 자동작성·분석, 판례검색 등 효율적인 업무처리와 근로감독 지원 상담 초거대AI 기반 국세 및 노동법, 각종 민원 등 맞춤형 상담서비스 제공 난임 생활습관, 일상정보 등 학습 및 AI예측모델 통해 난임부부 임신예측 서비스로 저출생 해소 기여 규제 챗 GPT형식의 대화형 규제 네비게이터를 통해 편리하고 신속한 규제정보 제공 경제 AI가 맞춤형 입찰정보제공, 사업기회 창출, 구인·구직 지원 등으로 경제활력 부여 복지 AI가 다양한 데이터를 수집·분석해 복지위기 가구 발굴 등을 통해 복지사각지대 해소 민원 공공민원콜센터 업무지원 AI어시스턴트로 답변생성 등 담당공무원 업무효율성 향상(10%) 소상 공인 외식통계, 판매량 분석 등을 통해 소상공인 매출증대 장애 초거대AI 멀티모달 서비스로 장애인 얼굴표정, 입술모양, 음성 등을 분석, 보호자와의 원활한 의사소통 지원 특허 심사 심판결문·유사특허 검색, 의견서 요약 등으로 특허심사 정확도 및 심사속도 향상 지원 어민 수질자동제어 등 스마트양식장으로 어민 소득증대 돌봄 AI활용 발화정보, 신체활동정보 등의 학습을 통해 느린학습자 조기발견 지원, 돌봄부담 경감 소방 행정 건축도면 AI분석 등으로 소방공무원 업무 효율성, 전문성 지원 농민 농작물 병해충 예방 영상진단을 통해 농민 소득증대 농촌 AI를 통한 최신농업기술, 맞춤형 교육, 영농사업 정보 제공 등으로 청년농업인 정착 지원 건축 행정 건축 인허가 심사 승인, 유지보수 등 건축행정, 민원관련정보 제공 등으로 효율성 향상 지원 공공부문 초거대 AI 도입 ･활용 가이드라인 16 2.1.2 범정부 초거대 AI 공통기반 구현 ● 개 요 - 범정부 공무원이 보안 걱정 없이 생성형 AI 서비스를 간편하게 활용할 수 있는 정부 전용의 범정부 초거대 AI 공통기반 플랫폼 구현 ● 추진 방안 - 다양한 AI 모델 및 서비스를 손쉽게 사용할 수 있는 체계 마련 - AI 자산의 공유·재활용을 통한 중복개발 및 AI 사일로(silo) 현상 등을 방지하고, 신속한 서비스 개발 환경 기반 마련 - 공공·민간 데이터플랫폼·서비스 등을 통합 제공하는 ‘DPG-허브’ 연계로 AI 학습에 필요 한 데이터 확보 및 활용 추진 1 ) 구 축 원 칙 ▹ 민간 역량 활용 및 범용성·확장성 확보 - (멀티 AI 모델) 다양한 업무유형에 적합한 AI 모델을 공무원이 직접 선택할 수 있도록 검증된 민간 AI 모델을 복수로 도입하고 사용자가 필요에 따라 활용하도록 지원 - (싱글-원-윈도우) 공무원이 직관적인 하나의 대화형 창을 통해 질의 및 응답, 요청 등을 간편 하 게 수 행 할 수 있 는 A I 서 비 스 ( A I - S a a S ) 제 공 2 ) 제 공 서 비 스 - (공통 서비스) 정부 내 공동 활용 가능한 범용적 업무에 대해 완결형, API 연계 등 서비스 제공 - (특화 서비스) 각 기관만 접근 가능한 환경에서 기관별 고유데이터를 활용한 특화 AI 서비스 개발·운영·고도화 환경 마련 그림 2 목표 모델 개념도 Part 2. 공공부문 초거대 AI 추진방향과 활용 사례 17 2.2 공공부문 초거대 AI 활용 사례 2.2.1 초거대 AI 적용 서비스 분류 ● 초거대 AI를 적용하여 서비스를 구현하는 방식은 크게 기술적 관점과 사용자 관점으로 구분 - 기술적 관점에서는 데이터의 활용 및 구현방식에 따라 추가학습 여부, 외부 서비스와의 연계 등을 고려하여 3가지로 분류할 수 있고, - 사용자 관점에서는 공공업무에 적용할 수 있는 서비스 유형에 따라 6가지로 분류할 수 있음 ● 데이터 활용 및 구현방식에 따른 분류(기술적 관점) 1) 추가학습 없이 파운데이션 모델을 그대로 이용하여 구현 2) 파운데이션 모델에서 각 기관이 가진 데이터를 추가로 학습하여 서비스를 구현 그림 3 추가학습(예시) 1) 추가학습 없이 파운데이션 모델 이용 2) 파운데이션 모델에 데이터 추가학습 ※ 사용자 ⟷ AI 서비스(LLM UI) 3) 독립된 서비스에서만 동작하는 방식이 아닌 민간 App이나 다른 서비스로 연계하여 구현 - 외부 연계 방식은 외부 서비스와의 상호 작용을 통해 언어 모델 기능의 한계를 극복하고, 보 다 다 양 하 고 완 결 성 있 는 서 비 스 를 제 공 할 수 있 음 그림 4 서비스 Add On(예시) ※ 사용자 ⟷ AI 서비스(LLM UI) ⟷ 외부 서비스 App 공공부문 초거대 AI 도입 ･활용 가이드라인 18 ● 서비스 유형별 분류(사용자 관점) - 각 서비스의 유형은 독립적, 배타적으로 적용되는 것이 아니라 대상 업무의 특성에 따라 여러 개의 유형이 종합적으로 활용될 수 있음 표 7 공공업무 적용 서비스 유형에 따른 분류 서비스 유형 주 요 내 용 질의 응답 - 작성된 행정문서나 내부 자료에 대해 키워드, 날짜별 등 원하는 자료를 말 하듯이 검색하는 유형 분석·활용 - 표, 그래프, 이미지, 수기 작성된 문서 등을 정형데이터로 전환·활용하여 통계, 분석, 시사점 도출 등으로 제공하는 유형 문서 작성 - 정기간행물, 회의자료 요약, 번역, 이메일 작성 등 단순·반복적 보고서의 초안을 자동으로 작성해 주는 유형 기획·창작 - 행사, 프로그램 기획, 카피라이팅 문구 등 기존 유사 자료를 학습해 관련된 이미지나 자료를 창작해 주는 유형 상담 지원 - 고객과의 상담을 위해 유사사례와 과거 이력을 검색하고, 자료를 확인·대조· 요약하여 맞춤형으로 안내할 수 있도록 지원하는 유형 서비스 처리 - 대화형 질의를 통해 외부서비스의 추가적인 자료나 기능을 연계하여 행정, 민원 업무를 중단없이 완결·처리하는 유형 - 다만, 현재 추진 중이거나 추진 예정인 AI 과제들을 보면 분류·식별형 AI, 예측형 AI 등 다양한 기능들을 활용하고 있어, 상기 6개외로 다양한 형태의 서비스 유형 분류가 가능할 것임 Part 2. 공공부문 초거대 AI 추진방향과 활용 사례 19 2.2.2 서비스 유형별 활용 사례 ❚(유형1) 질의 응답 - 중앙부처·지자체 등에서 운영하는 각 사이트에 검색을 하기 위해 민간 포털을 통해 사이트의 메뉴 위치를 찾는 방법부터 다시 검색하는 등 여러 불편함이 있음 - 자료 검색에 초거대 AI 기술을 활용하면 상세 메뉴를 찾아 들어가지 않아도 찾고자 하는 정보를 질의하여, 사용자의 의도에 맞는 원하는 자료를 찾을 수 있음 - 온나라 행정문서나 각 지자체 등 공무원 내부 업무에서도 자료 검색과 관련된 다양한 분야에서 초거대 AI의 정보 검색 기능을 활용할 수 있음 사 례 < 정부 ･기관 사용자의 업무 활용을 위한 정보 검색 > ● 철도, 원자력 등 위험업무의 안전 작업을 위해 최신 안전 점검 가이드와 관련 법령을 알려주는 안전사고 예방 검색 서비스 ● 사진을 이용해 식자재의 품목, 원산지를 찾아주는 유통 정보 검색 서비스 ● 각종 업무처리 제도·규정·지침, 인계인수 매뉴얼, 보고자료 등을 통합적으로 검색하는 서비스 < 국민 편의성 제공을 위한 대국민 정보 검색 > ● 민간 포털에 검색하듯 질문하여 주민등록등본, 가족관계증명서 등을 발급받는 서비스 ● 관광지의 시설 정보와 이용 방법, 편의시설, 숙박, 교통정보 등을 검색하는 서비스 ● 국민연금 및 건강보험 납부, 근로자 산재보상 등 본인에게 해당하는 정책지원을 검색하는 서비스 < 전문 분야 특화 검색 > ● 해외직구에 대한 개인통관고유부호, 통관정보, 예상세액 등을 조회하는 서비스 ● 시기, 모양, 형태, 색상 등으로 문화유산을 검색하는 서비스 ● 법제처, 형사법무정책연구원 등이 보유한 법률 및 판례를 검색하는 서비스 < 건축행정 허가·신고 등 행정단계에 필요한 건축 규정 검색 사례 > 공공부문 초거대 AI 도입 ･활용 가이드라인 20 ❚(유형2) 분석 ･활용 - 공공에서 보유한 산출물과 데이터는 품질이 우수하지만, 데이터 형식 등 종류가 다양하고 표, 그래프, 이미지 등 비정형 데이터가 주를 이루고 있어 이를 활용하기 위해서는 별도의 데이터 분석 도구와 일정 수준의 분석 기술이 필요함 - 데이터 분석에 초거대 AI를 활용하면 자연어 기반의 질의를 통해 데이터의 구조를 스스로 파악하고 이를 요약, 가공하거나 이종의 데이터를 결합하여 새로운 정보를 생성하는 등의 업무를 수행할 수 있음 - 보도된 기사를 수집·요약하는 동향 파악, 데이터 간의 시계열 미래 예측, 코딩 분석· 수정 등과 같은 서비스로 활용할 수 있음 사 례 < 정형 ･비정형 데이터를 변환하여 분석 ･활용 > ● 보도된 기사를 수집·분석하여 경제·정책·문화 등에 대한 동향 및 추세분석 서비스 ● 교통 신호체계 및 사고 발생 현황을 조합하여 교통 안정성과 이동성을 향상시키는 차세대 지능형 교통 시스템(C-ITS, Cooperative-Intelligent Transport Systems)의 서비스 활용 ● 의료급여 수급자의 연령, 지역, 병명, 직업을 분석하여 복지 사각지대 해소하는 서비스 ● 조달·공모사업의 리스트를 검색·요약하여 중복성을 검토하는 서비스 ● 구인·구직에 대한 정보를 학습하여 국내·외 취업 시장의 현황 및 문제점을 해결하는 서비스 < 연구업무를 지원하기 위해 유사 연구 분석 사례 > Part 2. 공공부문 초거대 AI 추진방향과 활용 사례 21 ❚(유형3) 문서 작성 - 그간 공공에서는 대규모 정보화 사업을 통해 일정 수준의 디지털 전환에 도달하였으나, 여전히 업무는 단순·반복·기계적 문서 작성 등 아날로그 방식으로 수행하고 있음 - 이로 인해 담당 직원의 업무 피로도는 증가되고, 대민서비스와 같은 핵심적인 업무에 필요한 인력이 적절히 배치되지 못하는 등 비효율적 운영이 발생됨 - 초거대 AI 기술을 활용하여 주기적 작성하는 동일한 형태의 보고서나 계획서의 초안을 자동으로 작성할 수 있어 반복적인 작업을 탈피할 수 있음 - 또한 회의 결과 요약을 위해 녹취록을 듣고 참석자의 발언을 분류 정리하는 등의 단순 업무처리 시간을 대폭 줄일 수 있음 사 례 < 단순 반복적 업무의 문서 작성 > ● 공공사업 추진을 위해 비슷한 유형의 제안요청서를 참고하여 초안을 자동으로 작성하는 서비스 ● 보도자료, 월간지 등 정기간행물의 일률적인 템플릿 제작 서비스 ● 성명, 전화번호, 수기 작성된 심의 의견서 등의 문서를 디지털 문서 파일로 변환하는 서비스 ● 회의 녹취록을 위원별 발언으로 정리하여 회의록을 작성하는 서비스 ● 설문조사를 위한 문항을 생성하고 답변받은 내용을 정리·요약하는 서비스 ● 매월 추진되는 월별 인사위원회의 운영 계획안 작성 서비스 < 최근경제동향(그린북) 초안을 작성해 주는 문서 작성 사례 > 공공부문 초거대 AI 도입 ･활용 가이드라인 22 ❚(유형4) 기획 ･창작 - 프로그램을 기획하거나 이미지를 창작하는 업무는 산출물이 나오기 전까지는 기획자의 의도와 품질을 정확히 가늠하기 힘든데, 이러한 특성은 잦은 회의와 수정으로 이어지며 인적·물적 자원의 낭비와 시간 지연 등의 결과를 초래함 - 초거대 AI를 활용하면 기획자의 의도에 맞춰 산출물을 바로 확인하고 즉시 피드백할 수 있어, 다양한 분야에서 기획·창작 업무를 수행할 수 있음 - 이동 장소 간 거리와 방법을 고려하여 행사나 출장의 일정을 자동으로 기획하거나, 저작 도구 없이 스케치만으로 새로운 행사 포스터의 이미지를 창작할 수 있음 사 례 < 업무 맞춤형 기획‧창작 > ● 다국어를 기반으로 이력서를 검토하고 첨삭해주는 서비스 ● 지역 특산품, 문화유산, 관광지 등의 홍보를 위해 간단한 스케치와 키워드를 입력하여 저작도구 없이 홍보 포스터, 리플렛, 카피라이팅 등을 창작하는 서비스 ● 정책브리핑, 금리 상승 추이, 주택 가격 상승률 등을 종합하여 데이터 기반 시각화 자료를 창작하는 서비스 < 키워드와 기획안을 기반한 신규 보고서 기획 ･창작 사례 > Part 2. 공공부문 초거대 AI 추진방향과 활용 사례 23 ❚(유형5) 상담 지원 - 민원상담 콜센터 근무자는 고객의 요구사항을 파악하여 정확한 정보를 신속히 안내하는 기술적 부분과 민원인을 상대하는 감정 노동 업무를 함께하고 있어 특히 초거대 AI 기술의 활용이 필요한 분야임 - 기존 챗봇 형태의 상담 서비스는 준비된 질문과 그에 따른 답변을 내놓는 수준으로 준비되지 않은 질문에는 충분치 못한 답변으로 한계가 있음 - 초거대 AI를 활용한 상담 지원 서비스는 사람과 대화하듯 이전에 나눈 대화를 기억하고 구어체로 질의할 수 있으며 학습한 데이터에 따라 답변할 수 있는 분야가 다양함. 민원인 대상 상담은 사람이 수행하면서 자료의 검색·대조·요약에만 부분적으로 초거대 AI를 활 용하는 형태도 가능함 사 례 < 상담 지원 AI 어시스턴트 > ● 고객의 상담 내용에서 키워드를 추출·검색하여, 관련된 예상 답변을 미리 생성하고 규정 및 법률 등의 출처를 제공하는 민원 처리 서비스 ● 녹취된 상담 내용을 텍스트로 변환하여 분류, 정리, 요약하고 상담 히스토리를 작성하여 개인 맞춤화된 상담을 제공하는 서비스 ● 다문화 가정 및 외국인을 대상으로 한국어↔모국어 번역을 통해 상담해 주는 서비스 < 민간플랫폼을 활용한 노동법 지식 상담 ･안내 사례 > 공공부문 초거대 AI 도입 ･활용 가이드라인 24 ❚(유형6) 서비스 처리 - 공공서비스 처리 시 사용자(국민) 정보와 이전 업무에서의 처리결과를 사용자 동의하에 공유할 수 있음에도, 각각 로그인하여 요구사항을 반복해서 입력하고 처리하는 경우가 발생함 - 초거대 AI를 활용하고 시스템 간 연계가 이루어지면, 사용자는 대화형 질의를 통해 필요한 서비스를 특정하고 LLM 에이전트의 서비스 연계를 통해 중단 없이 서비스를 완결하여 처리할 수 있음 - 이동 장소간 거리와 방법을 고려하여 경로를 선택하면 항공, 기차, 버스 등을 조합하여 가장 합리적인 방법으로 승차권 발급까지 한 번에 처리하는 서비스 형태도 가능함 사 례 < 범용적인 서비스로의 연계 ･확장을 통한 처리 > ● 상담·안내된 내용의 관련 서류를 자동으로 불러오고 바로 작성하여 처리하는 서비스 ● 대화형 질의로 시간과 장소를 특정하여 외부 App 다운로드나 회원가입 없이 KTX 기차표를 예매하는 서비스 ● 현재 위치와 이용 시간을 고려하여 스마트워크, 공공회의실 등을 바로 예약하는 서비스 ● 불법 주정차 단속을 위해 카메라로 인식한 불법 주정차 차량에 대해 시스템에 등록 하고, 고지서를 바로 발급하는 서비스 ● 지방세 신고 납부를 위해 지방세 내역을 홈텍스 세금포인트나 카드포인트로 납부하는 서비스 < 민원인의 질의를 처리 가능한 서비스까지 연계하는 사례 > Part 2. 공공부문 초거대 AI 추진방향과 활용 사례 25 [참고] 지자체 주요 부서별 활용 예시 ● 아래는 지자체의 부서별 업무에 따라 도입 가능한 초거대 AI 서비스의 활용 예시임 그림 5 주요 부서별 활용 예시 표 8 주요 부서별 활용 예시 구 분 주 요 내 용 기획조정실 - 행정심판 및 소청심사를 위해 자치법규(조례·규칙)를 조회하고 처리과정과 유사한 판례를 확인할 수 있도록 제공 (유형1 질의응답) - 공공토지자원, 국·공유지, 민간점유 유지, 기부채납 시설에 대한 DB 통합 활용으로 공공자산에 대한 효율적 자원 활용 (유형2 분석 ･활용) - 신년 업무보고, 신년사 말씀자료, 예결산 자료 등 유사자료의 템플릿 작성과 국정감사·시정질문 답변서 작성을 위한 음성파일 변환 등에 활용 (유형3 문서 작성) 도시교통실 - 도시철도 및 버스 노선관리를 위해 3D FBX, 캐드 DWG 같은 파일을 구조화하여 검색·분석·시각화 자료로 활용 (유형2 분석 ･활용) - 우대용 교통카드 발급을 위해 신청자와 상담하고 작성에 필요한 서류를 안내 (유형5 상담 지원) - 불법 주정차 단속을 위해 카메라로 인식한 불법 주정차 차량에 대해 시스템에 등록하고, 고지서 발급을 바로 시행 (유형6 서비스 처리) 디자인정책관 - 야간 경관 모니터링을 위해 현재 신고되어 있는 야간점등 내용 일자별로 검색(유형1 질의 응답) - 수변 공간기획을 위해 이전에 기획된 자료를 바탕으로 신규 기획서 초안을 작성(유형2 분석 ･활용) - 야간경관 행사를 위해 기 추진 사례와 테마·트렌드에 맞는 키워드를 추가하여 그림 저작도구 없이 이미지 형태로 홍보 포스터, 리플렛을 창작 (유형4 기획 ･창작) 공공부문 초거대 AI 도입 ･활용 가이드라인 26 구 분 주 요 내 용 복지정책실 - 의료급여 수급자 관리를 위해 수급자의 연령, 지역, 병명, 직업 등의 데이터를 분석하여 시사점 도출 (유형2 분석 ･활용) - 호국보훈 행사를 위해 기 추진 사례를 바탕으로 프로그램 세션을 기획·창작 (유형4 기획 ･창작) - 기초생활보장제도, 복지멤버십 등 급여 민원 관련 상담업무를 연중무휴 안내 (유형5 상담 지원) 소방재난본부 - 화재통계관리 및 증거물, 위험물, 분석장비 등 소방 재원 검색 (유형1 질의 응답) - 시에서 관리하고 있는 소방행정시설 구역과 시설물의 현황, 내용년수, 계절별 집중관리 상태 등 사전 재난 영향성 평가를 토대로 화재 예측 ･예방 대책 수립(유형2 분석 ･활용) - 24시간 지연대기 없는 AI 상담사를 통해 사고 및 재난 현장의 위험도를 판단 하고 발신자의 위치, 시간, 상황을 추적하여 긴급출동을 지원 ( 유 형 6 서 비 스 처 리 ) 여성가족정책실 - 아동복지 통계관리를 위해 우리 시에 소속된 아동 연령별로 검색 (유형1 질의 응답) - 등하굣길 안전 홍보를 위한 홍보 안내문 창작 (유형4 기획 ･창작) - 결식아동의 빠짐없는 급식 지원을 위해 지역 아동센터, 급식카드, 바우처 등 대상자가 주로 사용하는 형태로 지급, 처리가 가능한 서비스 제공(유형6 서비스 처리) 재무국 - 고·소액 체납자에 대한 처리방법 및 관련 법령에 대한 FAQ 검색 (유형1 질의 응답) - 조달·물품·용역·인쇄 등 계약 및 납품현황에 대한 세입·세출 현황 자료 작성 (유형3 문서 작성) - 지방세 신고 납부를 위해 조회한 지방세 내역을 홈텍스 세금포인트나 카드 포인트로 바로 납부 처리 (유형6 서비스 처리) 행정국 - 공무직·공공안전 관련 업무지침, 노동법, 근로기준법, 취업규칙 등 인사행정 사항 검색 (유형1 질의 응답) - 월별 인사위원회 운영 계획안 작성을 위해 이전 운영 계획안을 바탕으로 당월 계획서 초안을 작성 (유형3 문서 작성) - 지역 상생을 위한 농·특산물 판매촉진 홍보 및 워케이션 프로그램, 가족친화 프로그램, 동행 프로그램 등 신규 기획안 작성 (유형4 기획 ･창작) Part 2. 공공부문 초거대 AI 추진방향과 활용 사례 27 2.2.3 업무 분야별 활용 사례 ● 공공부문의 대국민 서비스 혁신과 사회 현안 해결 등을 위해 초거대 AI 등의 기술을 활용한 다양한 업무 분야별 대표적인 공공 AI 서비스 실증 사례임 표 9 업무 분야별 공공 AI 서비스 실증 현황 (대표사례 중심, ’22~’25.3월) 구 분 사회문제 해결 (54) 대국민 서비스 혁신 (37) 일하는 방식 개선 (19) 돌봄‧ 저출생 복지, 의료 범죄 경제 활동 재난 ‧재해 교통 ‧환경 정보제공 (질의,검색) 상담지원 (민원) 이용편의 등 일반 행정 R&D학습‧ 규제 등 건강 관리 문화‧ 관광 등 110개 6 9 3 18 11 7 12 10 6 3 6 15 4 ※ ’22 ~ ’25년 3월까지 디플정위 주관의 공공부문 초거대 AI 서비스 개발 사업*으로 발굴·지원 또는 기획한 현황으로, 전체 과제 중 초거대 AI와 연관되는 대표 사례임 * (사업 유형) ① 초거대AI 활용 서비스, ② 국민드림 프로젝트, ③ GovTech 창업지원, ④ DPG인프라 기반 서비스, ⑤ 부처협업기반 AI 확산, ⑥ AI일상화 확산·플래그쉽 프로젝트, ⑦ 사회현안 해결 프로젝트(DPG-collab) ** 초거대 AI 외 광의의 AI 기반 과제도 사업의 연속성·성과 확보를 위해 지원 표 10 업무 분야별 공공 AI 서비스 실증 주요 내용 (대표사례 중심, ’22~’25.3월) NO 구 분 과 제 명 주관‧수요 기관 등 사업 유형(유형) (대상/기능) < 사회문제 해결 > 1 돌봄 장애인 장애인 소통지원 초거대AI 멀티모달 기반 서비스 장애인특수학교, 에어패스 등 초거대AI 서비스(‘24) 2 돌봄 아동 초거대 AI 기반 느린 학습자 조기발견 지원 서비스 개발 전남대어린이병원, 자란다 등 초거대AI 서비스(‘24) 3 돌봄 아동 아동 건강정책 기반의 AI 챗봇 김해시 초거대AI 서비스(‘24) 4 돌봄 노인 심탄도 센서 기반 시니어 라이프로그 관제 시스템, Clomental (클로멘탈) (재)경남사회서비스원, 돌봄드림 GovTech 창업지원(‘24) 5 저출생 임신 난임시술 빅데이터 기반 가임력 관리서비스 플랫폼 구축 대구대학교 산학협력단 DPG인프라 (‘23,’24) 6 저출생 임신 지역 맞춤형 임신 전, 후 스마트 통합 관리 서비스 주식회사 디에이블 GovTech 창업지원(‘24) 7 복지혜택 취약계층 인공지능 활용 초기상담 등으로 복지 사각지대 해소 보건복지부, 한국 사회보장정보원 등 국민드림프로 젝트(‘22, ’23) 8 복지혜택 청년 AI 기반 맞춤형 청년정책 추천·알림 과기정통부, ㈜웰로 등 국민드림프로 젝트(‘23) 공공부문 초거대 AI 도입 ･활용 가이드라인 28 NO 구 분 과 제 명 주관‧수요 기관 등 사업 유형(유형) (대상/기능) 9 복지혜택 장애인 장애인 보행안전 정보제공 서비스 주식회사 엘비에스테크 GovTech 창업지원(‘24) 10 복지혜택 장애인 베리어프리 여행 지원 서비스 코나투스 등 DPG 인프라(‘23) 11 복지혜택 장애인 장애인, 고령자 등을 위한 생성형 AI 기반 배리어프리 콘텐츠 제작 기술 개발･실증 와이즈넛컨소시엄 플래그쉽 프로 젝트(‘24~’25) 12 범죄 아동‧ 청소년 AI기반 아동·청소년 온라인 성착취 선제적 대응시스템 지원 여성가족부 DPG-col lab(‘25) 13 범죄 아동, 청소년, 장애인 등 성범죄 위기대응(수사·안전·지원) 플랫폼 개발 광주광역시경찰청 DPG-col lab(‘25) 14 범죄 빈집 정비 빈집 정비 통합 지원 시스템 구축 한국부동산원 DPG-col lab(‘25) 15 경제활동 노동약자 AI 노동법 상담 및 AI 근로감독관 지원시스템 구축 고용노동부, 마음AI 초거대AI 서비스(‘24) 16 경제활동 청년 청년 농업인 정착지원 등 특화서비스 개발 농진청, 네이버클라우드 초거대AI 서비스(‘24) 17 경제활동 사업자 AI·데이터 기반 맞춤형 공공입찰 추천 과기정통부, ㈜웰로 국민드림 프로젝트(‘23) 18 경제활동 소상공인 소상공인 빅데이터 플랫폼 중기부, 소상공인 시장진흥공단 국민드림 프로젝트(‘22) 19 경제활동 사업자 인공지능 기반 산재·고용보험 사업종류 추천 솔루션 개발 고용노동부, 이지에이아이 부처협업 기반(‘23~’25) 20 경제활동 구직자 AI기반 구인·구직 통합지원 솔루션 개발 및 실증 고용노동부, 원티드랩 부처협업 기반(‘24~’26) 21 경제활동 기업 AI기반 마른김 품질 등급 판별 솔루션 개발 및 실증 해양수산부, 티맥스티베로 부처협업 기반(‘24~’26) 22 경제활동 기업 해외국가·인증정보 기반 무역투자 GPT 구축 대한무역투자진흥 공사 등 DPG 인프라(‘24) 23 경제활동 구직자 월드잡플러스 시민 응대 및 업무지원을 위한 AI 서비스 한국산업인력관리공단 초거대AI 서비스(‘23) 24 경제활동 근로자 근로자의 산재보험 결정을 위한 민원 질의 실증 근로복지공단 초거대AI 서비스(‘23) 25 경제활동 사업자 기업 맞춤형 정보 제공을 위한 AI 모델 및 맞춤형 지원 플랫폼 구축 주식회사 위티 GovTech 창업지원(‘24) 26 경제활동 소상공인 외식통계조회 서비스 한국농수산식품공사, 나이스지니데이터 DPG인프라 (‘23) 27 경제활동 소상공인 소규모 사업자를 위한 통합 Mall관리 플랫폼 구축 제주도 등 DPG인프라 (‘23) 28 경제활동 기업 AI 챗봇을 활용한 도내 중소기업 수출 활성화 경기도 경제 과학진흥원 초거대AI 서비스(‘24) 29 경제활동 기업 관세 분쟁과 관련한 판례 검색 챗봇 서비스 관세청 초거대AI 서비스(‘24) 30 경제활동 근로자 취업규칙에 대한 적합/부적합 판단 서비스 실증 고용노동부 초거대AI 서비스(‘23) 31 경제활동 해외직구, 개인무역 민원 데이터와 관세행정, 법규 등을 활용한 민원 응대 실증 관세청 초거대AI 서비스(‘23) Part 2. 공공부문 초거대 AI 추진방향과 활용 사례 29 NO 구 분 과 제 명 주관‧수요 기관 등 사업 유형(유형) (대상/기능) 32 경제활동 사업자 홈택스 종합소득세 분야 챗봇 실증 국세청 초거대AI 서비스(‘23) 33 의료 응급환자 실시간 의료자원정보 플랫폼 구축 고대의료원, 에이아이티스토리 국민드림 프로젝트(‘24) 34 의료 응급환자 개인 의료정보 공유체계 구축 및 지역 실증 아이티아이즈 국민드림 프로젝트(‘24) 35 의료 개인의료 진료기록 조회와 관리, 집에서도 가능 보건복지부 국민드림 프로젝트(‘22) 36 의료 임상 참여 환자 LLM 챗봇 기반 임상시험 참여 정보 질의 시스템 주식회사 메디아이플러스 GovTech 창업지원(‘24) 37 재난‧재해 인파관리 데이터 기반 K-인파관리지원시스템 구축·운영 행정안전부 국민드림 프로젝트(‘23) 38 재난‧재해 산림해충 AI 기반 산림병해충 방제 지원 엘컴텍 부처협업 기반(‘22~’24) 39 재난‧재해 화학물질 AI 융합 유해 화학물질 판독시스템 바이브컴퍼니 부처협업 기반(‘23) 40 재난‧재해 농작물 e-바이오 리엑토믹스 기반의 농작물 불량환경 AI 관제 서비스 경기도농업기술원 DPG-col lab(‘25) 41 재난‧재해 결로 AI기반 결로 예방 자동화 시스템 한국과학기술원 등 DPG 인프라(‘24) 42 재난‧재해 군중밀집 ICT기술 기반 군중 밀집 공공데이터 활용 관리기술 개발 주식회사 애나 GovTech 창업지원(‘24) 43 재난‧재해 지반침하 건물 신축시 AI기반 지반침하 탐지 시스템 개발 한국국토정보공사, 뉴놉 등 GovTech 창업지원(‘24) 44 재난‧재해 항공안전 항공안전 이슈 분석 자동화 초거대 AI PoC 항공안전기술원 초거대AI 서비스(‘24) 45 재난‧재해 산사태 강수량을 활용한 산사태 위험도 예측 프로그램 라온소프트 GovTech 창업지원(‘24) 46 재난‧재해 화재 소방 원격관제 서비스 비디앱 기반의 화재 진입로·대피로 안내 시스템 개발 이엠시티 주식회사 GovTech 창업지원(‘24) 47 재난‧재해 미세먼지 다중이용시설의 미세먼지 저감 AI예측 및 제어솔루션 개발 (주)애플스 GovTech 창업지원(‘24) 48 교통안전 도시철도 초거대 AI 기반의 도시철도 교통안전 GPT 서비스 서울교통공사 초거대AI 서비스(‘23) 49 교통안전 경찰 AI기반 경찰 교통안전시스템 경찰청, 주식회사 엠티데이타 등 DPG 인프라(‘24) 50 환경 빛공해 AI 빛공해 이미지 분석 솔루션 개발 및 실증 환경부 부처협업 기반(‘24~’26) 51 환경 국토변화탐 지 AI기반 국토 변화탐지 솔루션 개발 및 실증 국토교통부 부처협업 기반(‘24~’26) 52 환경 수질 수질 AI분석 지원 시스템 'AME' 개발 (주)워터아이즈 GovTech 창업지원(‘24) 53 환경 강 유역 미호강 유역 환경 관리를 위한 민관 협력 통합환경정보 플랫폼 구축 충북도청, ㈜데이터센트릭 GovTech 창업지원(‘24) 54 환경 공공안전 AI기반 불법 현수막 탐지기술 개발 및 서비스 실증 (주)스마트뱅크 GovTech 창업지원(‘24) 공공부문 초거대 AI 도입 ･활용 가이드라인 30 NO 구 분 과 제 명 주관‧수요 기관 등 사업 유형(유형) (대상/기능) < 대국민 서비스 혁신 > 1 정보제공 질의, 검색 대국민 공공정책 자동신청서비스 주식회사 웰로 GovTech 창업지원(‘24) 2 정보제공 질의, 검색 시간별 주요 뉴스를 분석‧요약하는 데일리 리포트 실증 국회도서관 초거대AI 서비스(‘23) 3 정보제공 질의, 검색 도서관 발간 자료를 학습한 질의응답 챗봇 실증 국립중앙도서관 초거대AI 서비스(‘23) 4 정보제공 질의, 검색 수요자 맞춤형 과학기술 분야 특화 챗봇 서비스 실증 한국과학기술기획 평가원 초거대AI 서비스(‘23) 5 정보제공 질의, 검색 광주시 버스노선도 기반의 교통안내 챗봇 서비스 PoC 광주광역시 초거대AI 서비스(‘24) 6 정보제공 질의, 검색 시민을 위한 지능형 맞춤정보 제공 서비스 화성시, 유알피 DPG 인프라(‘23) 7 정보제공 질의, 검색 범죄와 형사사법 통계분석 및 RAG기반의 민원 응대 서비스 제공 한국형사법무정책 연구원 초거대AI 서비스(‘24) 8 정보제공 질의, 검색 부동산 건축 분야 스마트검색 및 챗봇 실증 한국부동산원 초거대AI 서비스(‘23) 9 정보제공 질의, 검색 방송광고 관련 문서 학습 및 질의응답 지원 챗봇 서비스 한국방송광고 진흥공사 초거대AI 서비스(‘24) 10 정보제공 질의, 검색 국가 디지털 사업 관련 챗봇 고도화 실증 한국지능정보 사회진흥원 초거대AI 서비스(‘23) 11 정보제공 질의, 검색 홈페이지 내 컨텐츠 안내 등 대국민 정보제공을 위한 생성형AI 기반 챗봇 구축 한국양성평등 교육진흥원 초거대AI 서비스(‘24) 12 정보제공 질의, 검색 학생 개별 맞춤형 정보지원, 홈페이지 챗봇 서비스 경기도교육청 초거대AI 서비스(‘24) 13 상담지원 민원 초거대 AI 기반의 공공기관 민원상담 어시스턴트 서비스 화성시청 초거대AI 서비스(‘23) 14 상담지원 민원 국민신문고 민원데이터 AI 기반 분석 및 분류 고도화 실증 국민권익위원회 초거대AI 서비스(‘23,’24) 15 상담지원 민원 공항 보유 시설정보 관련 문의 대응이 가능한 챗봇 서비스 한국공항공사 초거대AI 서비스(‘23) 16 상담지원 민원 양산시민 대상 민원 상담정보 제공 서비스 실증 양산시 초거대AI 서비스(‘23) 17 상담지원 민원 통신서비스 분야 전문 상담 챗봇 서비스 한국통신사업자연합회 초거대AI 서비스(‘23) 18 상담지원 민원 초거대 AI를 적용한 병무청 대민 서비스 개선 병무청 초거대AI 서비스(‘24) 19 상담지원 민원 전력 관련 약관, 규정, 민원 이력 기반 챗봇 서비스 고도화 한국전력공사 초거대AI 서비스(‘23) 20 상담지원 민원 국민연금 일시금 분야 민원 대응 AI 휴먼 실증 국민연금공단 초거대AI 서비스(‘23) 21 상담지원 민원 초거대 AI를 활용한 외국인 민원상담 지원 서비스 안산시 초거대AI 서비스(‘24) 22 상담지원 민원 수원시 복지 민원 서비스 개선 수원시청, ㈜라이프로그 DPG 인프라(‘24) Part 2. 공공부문 초거대 AI 추진방향과 활용 사례 31 NO 구 분 과 제 명 주관‧수요 기관 등 사업 유형(유형) (대상/기능) 23 이용편의 등 학습‧교육 국가대표 AI코칭 솔루션 실증 문화체육관광부, 심플랫폼 부처협업 기반(‘23~’25) 24 이용편의 등 학습‧교육 과학기술인 학습플랫폼(알파캠퍼스) AI 튜터 국가과학기술인력개 발원 초거대AI 서비스(‘24) 25 이용편의 등 법률‧규제 AI융합 약관심사플랫폼 개발 및 실증 공정거래위원회 부처협업 기반(‘24~’26) 26 이용편의 등 법률‧규제 생성형 AI 에이전트 기반 법률 사건 분석 지원 서비스 개발 로앤컴퍼니 플래그쉽 프로젝트(‘24~’25) 27 이용편의 등 법률‧규제 LLM 기반 규제 모니터링·해설 서비스 (주)씨지인사이드 GovTech 창업지원(‘24) 28 이용편의 등 법률‧규제 규제정보 검색시스템 고도화 한국행정연구원 등 DPG 인프라(‘2 4) 29 이용편의 등 건강관리 맞춤형 건강기능식품 정보 제공 플랫폼 주식회사 원스글로벌 GovTech 창업지원(‘24) 30 이용편의 등 건강관리 AI 금연정보 검색요약 서비스 고도화 한국건강증진개발원 초거대AI 서비스(‘24) 31 이용편의 등 건강관리 에듀테크 체력측정 및 건강관리 서비스 인천시설공단, 더좋은운동으로 GovTech 창업지원(‘24) 32 이용편의 등 문화‧관광 AI 페르소나 기반 문화매칭 서비스 ㈜미디어그룹 사람과숲 등 DPG 인프라(‘24) 33 이용편의 등 문화‧관광 국립현대미술관 맞춤형 전시환경 서비스 구현 ㈜미디어그룹 사람과숲 등 DPG 인프라(‘23) 34 이용편의 등 문화‧관광 감성분석 모듈을 적용한 사용자 친화적 관광지 정보 제공 서비스 실증 한국관광공사 초거대AI 서비스(‘23) 35 이용편의 등 기타 멀티스펙트럼 시각지능 온디바이스 AI기반 공공문서 판독기능의 출입국심사 솔루션 로지체인 GovTech 창업지원(‘24) 36 이용편의 등 기타 민간클라우드 기반 DPG 통합테스트베드 과기정통부, 주식회사 클로잇 등 DPG 인프라(‘24) 37 이용편의 등 기타 지능형 수도행정(자가검침 및 예측모델 등) 서비스 양평군청, 나이스지니데이타(주) DPG 인프라(‘24) < 일하는 방식 개선 > 1 행정 R&D 초거대 AI를 이용한 통합 연구지원 서비스 개발 경제인문사회연구회, 네이버클라우드 초거대AI 서비스(‘24) 2 행정 R&D 국가 R&D 사업비 Risk 관리 솔루션 개발 주식회사 루모스 GovTech 창업지원(‘24) 3 행정 R&D 정책 제안 지원을 위한 데이터 분석 서비스 실증경제인문사회연구회 초거대AI 서비스(‘23) 4 행정 R&D 기관 보유 연구자료를 활용한 정책 제안 업무 지원 서비스 실증 중소기업중앙회 초거대AI 서비스(‘23) 5 행정 특허심사 AI기반 특허심사 업무지원 서비스 개발 특허청, 솔트룩스 초거대AI 서비스(‘24) 6 행정 소방행정 초거대 AI기반 스마트소방 행정 서비스 구축 서울소방재난본부, 아일리스프런티어 초거대AI 서비스(‘24) 7 행정 건축행정 생성형 AI 기반 국방시설 건축 행정 지원 서비스 개발 국방부, SQI소프트 초거대AI 서비스(‘24) 공공부문 초거대 AI 도입 ･활용 가이드라인 32 * 총 110개 과제별 세부 내용은 ‘부록: 공공 AI 서비스 실증 세부 현황’ 참조 NO 구 분 과 제 명 주관‧수요 기관 등 사업 유형(유형) (대상/기능) 8 행정 통관 AI융합 통관 영상 관리 솔루션 실증 관세청 부처협업 기반(‘23~’25) 9 행정 업무처리 경량형 디지털트윈 기반 공공업무 지원환경 디아지트 주식회사 GovTech 창업지원(‘24) 10 행정 물자관리 단종품목·조달수량 군수물자 예측서비스 육군군수사령부, ㈜지뉴소프트 등 DPG 인프라(‘24) 11 행정 입지분석 공공복합시설 입지분석 플랫폼 구축 중앙대산학협력단, ㈜선도소프트 DPG 인프라(‘24) 12 행정 감사 공공기관 직원의 비위행위에 대한 기사 바탕으로 유사 사례 도출 AI감사 서비스 에스알 초거대AI 서비스(‘24) 13 행정 제안요청 e-제안요청도움 서비스 조달청 초거대AI 서비스(‘24) 14 행정 업무지원 내부 직원을 위한 복지데이터 검색 및 채팅 서비스 서울시복지재단 초거대AI 서비스(‘24) 15 행정 업무지원 초거대 AI 도입을 통한 교육 행정 응대 PoC 경기도교육청 초거대AI 서비스(‘24) 16 행정 계약업무 맞춤형 학습을 통한 학교 및 교육기관의 계약 업무 지원 서비스 서울시교육청 초거대AI 서비스(‘24) 17 행정 검색, 문서작성 문화재 기록물 검색 및 사업계획서 작성 지원 서비스 한국문화재재단 초거대AI 서비스(‘23) 18 행정 계약업무 계약관리 업무방법서를 활용할 수 있는 챗봇 서비스 실증 소상공인진흥공단 초거대AI 서비스(‘23) 19 행정 문서작성 초거대 AI를 이용한 문서 자동 생성 기능 서울시설공단 초거대AI 서비스(‘24) Part 2. 공공부문 초거대 AI 추진방향과 활용 사례 33 2.2.4 해외 활용 사례 ※ 디지털플랫폼정부위원회에서 진행한 「공공부문 AI 도입 해외 동향 및 국내 공공부문 도입에 대한 성과평가 방법론 연구(’24)」를 정리한 자료임 ● ’24년 상반기까지의 12개 주요국*의 공공부문 초거대 AI 서비스 활용 사례임. 12개 주요국의 공공부문 AI 도입 건수는 총 1,802건이며, 미국(703건), 캐나다(290건), 독일(161건)의 순으로 도입 건수가 많은 것으로 나타남 * ’23년 발표된 「글로벌 AI 인덱스」와 「정부 AI 준비지수」에서 10위 안에 든 12개 국가. 총 42개국의 공공부문 AI 도입 현황은 ‘부록: 해외 인벤토리 현황’ 참조 그림 6 12개 주요국 공공부문 AI 도입 건수(총 1,802건) ● 12개 주요국의 AI 기능별 도입 현황 분석 결과, 식별·분류(24.5%)의 비중이 가장 높았으며, 정보분석·전환(20.6%), 예측·계획(13.7%), 통합 플랫폼(10.9%) 순 * EU 및 미국 인벤토리 분류 등 주요국 공공부문 AI 활용 사례 특성을 반영하여 13개 기능으로 분류 표 11 해외 주요국 공공부문 AI 서비스 기능 분류 분 류 주 요 내 용 식별·분류 다양한 환경에서 객체, 인물, 장소, 텍스트, 상황, 행동 등을 식별·분류 정보매칭·추출 대규모 데이터베이스에서 질의에 적합한 정보를 검색하고 추출 정보분석·전환 수집된 정보를 분석하여 유의미한 형태의 결과물로 변환 예측·계획 모델링과 시뮬레이션을 통해 미래를 예측하고 계획 수립 판정·의사결정 데이터 분석을 기반으로 의사결정 지원 모니터링·알림 위기·위험 상황을 지속 감시하고 이상 징후 발생 시 경보 발생 추천·제안 분석된 정보를 바탕으로 맞춤형 서비스 추천·제안 언어·문서처리 광학 문자 인식, 음성-텍스트 변환 등 언어 관련 처리와 문서 처리 번역 다국어 간 자동 번역 수행 상담 사용자 질의에 응답하는 대화형 인터페이스 제공 기획·창작 다양한 형태의 콘텐츠 기획·생성 서비스 연계 분석된 정보를 기반으로 사용자에게 적합한 서비스 연결 통합플랫폼 상기 기능 중 3개 이상을 결합한 종합적인 서비스 제공 - 정형·비정형 데이터의 식별·분류는 많은 AI 시스템의 기본 기능으로, 자동차 번호판 인식, 안면 인식, 위험 물체 식별, 의료 영상 질병 탐지 등 유용성 높음 공공부문 초거대 AI 도입 ･활용 가이드라인 34 - 경제 지표 데이터 분석 기반 경기 현황 보고, 교통 데이터 분석 기반 교통 상황 보고 등 다양한 데이터를 분석하여 의미 있는 정보로 전환하는 정보분석·전환 기능도 활용도 높음 - 전환된 정보는 예측·계획, 판정·의사결정, 모니터링·알림, 추천·제안과 같이 더 고도화된 기능으로 이어지는데, 법적·윤리적 고려 사항이나 수혜자 특성 등이 고도화 기능을 선택 하는데 중요하게 작용 - 스마트시티, 디지털트윈, 스마트병원, 교통·재난 통합관리시스템 등 여러 AI 기능을 동시에 종합적으로 활용하는 사례가 증가하면서 통합플랫폼의 비중도 비교적 높게 나타남 - 문자와 언어를 인식하고 텍스트-음성 상호 변환과 같은 기능은 행정 업무에서 중요하나, 비중이 4.0%로 상대적으로 낮음 그림 7 12개 주요국 및 기타 유럽국 AI 도입 사례의 기능별 비율 ● 기능별·정책분야별 AI 도입 사례 현황 - 식별·분류, 정보분석·전환, 예측·계획, 판정·의사결정 기능은 모든 정책분야에 분포되어 있어 가장 활용도가 높은 기능으로 나타남 - 예측·계획은 특히 환경·에너지 분야에서 높은 비중을 차지했는데, 이는 기상 및 기후변화 예측에 기반한 선제적 환경 정책 수립의 필요성을 반영한 것으로 보임 - 언어처리 및 문서처리 기능은 내무·행정 분야에서 가장 활발히 활용되고 있으며, 이는 행정 문서처리 자동화를 통한 업무 효율성 향상 목적에 따른 것으로 분석됨 - 번역과 상담 기능도 내무·행정 분야에서 비중이 높게 나타났는데, 번역은 내부 행정업무 및 대국민 대응에서, 상담은 대국민 대응에서 모두 수요가 높은 데 따른 것으로 보임 - 통합플랫폼 기능은 국토개발·교통에서 비중이 가장 높았으며, 스마트시티, 디지털트윈, 교통 관리시스템과 같은 대규모 프로젝트 운영 현황 반영 Part 2. 공공부문 초거대 AI 추진방향과 활용 사례 35 ● 해외 공공부문 초거대AI 서비스 도입‧활용 대표사례 소개 표 12 해외 공공부문 초거대 AI 서비스 도입 대표사례 (요약) 국가 기관 도입 연도 내용 싱가포르 GovTech (디지털전환 담당 기관) 2023 - (Pair) 공무원의 생산성 및 효율성 제고를 위해 개발된 비서 시스템으로, 챗GPT와 같은 기능을 정부 업무 환경에 맞춰 조정하여 제공 싱가포르 국립도서관 위원회(NLB) 2024 - (StoryGen) 국립도서관위원회(NLB)의 ExperienceIT 이니셔티브에 따른, 사용자의 요구에 맞춰 책 내용을 생생히 재현하는 생성형 AI 서비스 영국 더 비 시 의 회 (Derby City Coucil) 2023 - (Darcie와 Ali) AI와 전화상담에 도입하여, 주민대응 및 고객 서비스를 개선하고 지방정부 운영에 활용하여 비용절감 등에 기여한 서비스 영국 정부디지털청 2024 - (GOV.UK Chat) 사용자 정보 접근성 향상과 상호작용 간소화를 위해 GOV.UK 콘텐츠에 기반한 자연어 질의응답 시스템을 실험하는 프로젝트 프랑스 범부처 디지털총괄국 (DINUM) 2024 - (Albert) 공공서비스 현대화와 행정절차 간소화를 목적으로 설계되어 자연어 이해를 통해 공공행정 효율성을 지원하는 비서 시스템 미국 국방부 (CDAO) 2023 - (Acqbot) AI를 통한 계약 프로세스 의사결정 지원 및 가속화 도구로 최신 기술을 신속히 일선 공무원에게 제공하고 배치 하는데 기여 이탈리아 사회보장공단 (INPS) 2024 - (지능형 가상비서) 사회보장공단(INPS)은 포털 검색엔진에 기반하여 사용자가 찾는 서비스를 대화 형태로 제공하는 지능형 비서 서비스를 제공하며 MS Azure와 오픈AI 협력을 통해 챗GPT 기반 LLM 알고리즘 가상 서비스임 대만 치메이 병원 2023 - (병원 AI 코파일럿) 대만의 만성적인 의료인력 부족 문제에 따라 의료진의 업무 효율성 향상 및 환자 돌봄 개선을 위해 AI 코파일럿 시스템 개발 독일 함부르크시 2024 - (LLMoin) 텍스트 기반 콘텐츠에 초점을 맞춘 자체개발 LLM으로 현재 테스트 중이지만 공공행정에서의 활용이 목적임 - 독 일 에 서 개 발 된 A l e p h A l p h a 의 L u m i n o u s 언 어 모 델 을 기 반 공공부문 초거대 AI 도입 ･활용 가이드라인 36 1) (싱가포르, ’23) 공무원을 위한 챗봇 비서 ‘Pair’ - 공무원의 생산성 및 효율성 제고를 위해 개발된 비서 시스템으로, 챗GPT와 같은 기능을 정부 업무 환경에 맞춰서 제공 - 개발 주체 : 싱가포르 정부의 ‘스마트 네이션’ 이니셔티브 및 공공분야 디지털 전환을 담당하는 기관인 GovTech 주도 개발 - 기능 및 특징 : ‘Pair’는 아이디어 생성, 이메일 작성, 회의록 작성, 기록 검색 등을 수행 할 수 있는 다양한 요소로 구성됨 - 활용 현황 : ’23년 출시 이후 2개월 내 100개 이상의 정부 기관에서 활용하기 시작했으며, ’24년 2분기 기준 약 5만 명의 공무원이 활용 < 싱가포르 챗봇 비서 ‘Pair’ 서비스 > 2) (싱가포르, ’24) 새로운 도서관 경험을 제공하는 ‘StoryGen’ - 국립도서관위원회(NLB)의 ExperienceIT 이니셔티브에 따른, 사용자의 요구에 맞춰 책 내용을 생생히 재현하는 생성형 AI 서비스 - 개발 주체 : 국립도서관위원회 주도로 AWS와의 협업으로 개발되었으며, Amazon Bedrock을 기본모델로 사용한 것으로 알려짐 - 기능 및 특징 : 사용자 프롬프트를 기반으로 책의 내용에 기반한 텍스트와 이미지를 생성해 상호결합하여, 이용자에게 생생한 스토리 경험 제공 - 활용 현황 : 싱가포르 지역 도서관에서 언제든지 자유롭게 이용가능하며 아직 프로토타입 이나 향후 지속개발로 기능 확장이 기대됨 < 싱가포르 도서관 ‘StoryGen’ 서비스 > Part 2. 공공부문 초거대 AI 추진방향과 활용 사례 37 3) (영국, ’23) 주민 서비스를 혁신하는 AI 비서 ‘Darcie’와 ‘Ali’ - AI와 전화상담에 도입하여, 주민대응 및 고객서비스를 개선하고 지방정부 운영에 활용하여 비용절감 등에 기여한 서비스 - 개발 주체 : 영국 ‘더비 시 의회(Derby City Council)’가 주도적으로 추진해, 영국 공공 부문 AI 혁신 선도 기업 ICS.AI와의 협력으로 진행 - 기능 및 특징 : 대화형 AI와 고급 자연어 처리 기술을 도입하여 24시간 고객(주민) 친화적 서비스 제공 - 활용 현황 : ’23년 도입되어 첫 해 동안 50만 건 이상의 전화를 처리하고, ’24년 서비스 범위 확대(주요 서비스→전반적 서비스)를 위한 프로젝트에 착수 ※ 별도 직원의 개입 없이 접수된 문의 43%를 해결하여 직원들이 더 복잡한 문의에 집중할 수 있는 시간을 확보 < 영국 AI 비서 ‘Darcie’ 서비스 > 4) (영국, ’24) 정부 서비스 사용자 경험 개선을 위한 ‘GOV.UK Chat’ - 사용자 정보 접근성 향상과 상호작용 간소화를 위해 GOV.UK 콘텐츠에 기반한 자연어 질의응답 시스템을 실험하는 프로젝트 - 개발 주체 : 정부디지털청이 주도하여 오픈AI의 챗GPT 기술을 기반으로 개발하였으며 RAG 방식을 활용 - 기능 및 특징 : 사용자가 GOV.UK 웹페이지 내에 있는 콘텐츠에 일상적인 언어로 질문하여 필요한 정보를 찾을 수 있도록 기능 구현 - 활용 현황 : 1,000명을 대상의 비공개 테스트 수행 결과 약 70%의 사용자가 응답의 유용성을 인정하고 65%가 만족한 것으로 확인됨 < 영국 ‘GOV.UK Chat’ 서비스 > 공공부문 초거대 AI 도입 ･활용 가이드라인 38 5) (프랑스, ’24) 다양한 공공행정을 지원하는 ‘Albert’ - 공공서비스 현대화와 행정 절차 간소화를 위해 설계되어 자연어 이해를 통해 공공행정 효율성을 지원하는 비서 시스템 - 개발 주체 : 범부처 디지털 총괄국(DINUM)의 Etalab 부서에서 자체 개발하였으며, 프랑스 정부 인프라에서 호스팅 함 - 기능 및 특징 : 다양한 공공행정 분야에 활용될 예정이며, 올바른 정보 활용, 검증가능한 콘텐츠 생성, 온라인 요청 응답 등 가능 분 야 내 용 사법행정 - 사건을 분류하고 개별 상황에 더 잘 맞는 법원 판결 예시를 제공함으로써 판사의 의사결정(업무) 등을 지원 세금업무 - 세금 신고서나 차량 등록 신청 등을 간단히 처리할 수 있으며, 140,000건의 세금 사기 사례를 확인하여 4천만 유로를 회수 보건행정 - 의료정보를 직접 전송하여 상환 청구 등의 업무를 더 빠르고 효율적으로 처리할 수 있음 < 공공행정 분야별 ‘Albert’ 활용 예시 > - 활용 현황 : ’24년 4월 공식 출시되어 세무 행정을 비롯한 각 공공서비스 우선순위에 따라 점진적으로 확대 배치될 예정 6) (미국, ’23) 신속한 조달 프로세스를 위한 ‘Acqbot’ - AI를 통한 계약 프로세스 의사결정 지원 및 가속화 도구로, 최신 기술을 신속히 일선 공무원 에게 제공하고 배치하는데 기여 - 개발 주체 : 국방부 내 CDAO가 주도하는 트레이윈드 프로젝트의 일환으로 추진되었으며 현재 프로토타입으로서 지속 개발 수행 중 - 기능 및 특징 : LLM 및 알고리즘 기반으로 텍스트를 생성하는 챗GPT와 유사한 방식으로 작동하며, 계약문서 작성을 지원 7) (이탈리아, ’24) 지능형 가상비서를 통한 복지서비스 경험 개선 - 사회보장공단(INPS)은 포털 검색엔진에 기반하여 사용자가 찾는 서비스를 대화 형태로 제공하는 지능형 비서 서비스 제공 - 개발 주체 : MS Azure와 오픈AI의 협력을 통해 챗GPT의 기반이 되는 동일한 LLM 알고리즘을 가상 비서 서비스에 사용 - 기능 및 특징 : 대화 맥락을 기반으로 검색된 주제에 대해 사용자에게 답변을 제공하고, 검색 엔진에서 찾은 정보 소스를 활용하여 추가 정보 및 관련 조치를 취할 수 있는 링크 제공 - 활용 현황 : 가상 비서가 활용하는 정보를 지속적으로 업데이트 중이며, 과거 데이터를 현행화 하여 응답 품질을 높이는 한편, 연금 서비스 등에 적용하여 더 정확한 답변 제공을 모색하고 있음 ※ 이 밖에도 INPS는 ‘21년부터 Google BERT 모델 등을 활용하여 일반 시민들이 전송한 이메일을 자동 분류·처리하는 등 복지서비스에 AI 적용을 지속 모색 Part 2. 공공부문 초거대 AI 추진방향과 활용 사례 39 8) (대만, ’23) 치메이 병원 의료진을 위한 AI 코파일럿 - 대만의 만성적인 의료인력 부족 문제에 따라 의료진의 업무 효율성 향상 및 환자 돌봄 개선을 위해 AI 코파일럿 시스템 개발 - 개발 주체 : MS의 Azure 오픈AI 서비스를 기반으로 치메이 병원 수요에 맞게 업무 자동화 환경 구축 - 기능 및 특징 : 다양한 부서별 맞춤형 AI 코파일럿을 제공하여 의료 기록 요약, 보고서 생성, 환자 안전 모니터링 등 업무 지원 종 류 기 능 A+ Doctor 의사를 위한 의료 보고서 생성 A+ Nurse 간호사를 위한 교대 및 병상 이동 보고서 생성 A+ Nutritionist 영양사를 위한 식단 추천 A+ Patient Safety 낙상 위험 환자 식별 및 안전 조치 추천 A+ Pharmacy 약사를 위한 환자 정보 요약 및 약물 상호작용 확인 < 코파일럿 종류 및 기능 > - 활용 현황 : ’23년 11월부터 활용하기 시작하여 ’24년 5월 기준 약 3,500명의 의료진이 한 달 동안 약 36,000회 사용 ※ 약사 1인당 관리 환자 증가, 의료 보고서 생성 시간 절감, 병상 이동 문서화 시간 절감, 간호사 번아웃 정도 감소 등 AI 코파일럿 활용의 긍정적 효과 체감 9) (독일, ’24) 공공행정을 위한 LLM(‘LLMoin’) 개발 - 함부르크 시는 공공행정 업무의 효율성을 높이기 위해 자체 개발한 대규모 언어 모델(LLM)인 ‘LLMoin’을 시범적으로 도입하여 문서 요약, 연구 보조 등에 활용 - 개발 주체 : 함부르크 시가 주도하여 개발한 자체 언어모델로, 공공서비스 개선 프로젝트의 일환 - 기능 및 특징 : LLMoin은 문서 요약, 텍스트 생성, 연구 보조 및 전문가 모드 등 다양한 기능을 갖추고 있으며, 사용자는 ChatGPT와 유사한 인터페이스로 상호작용 가능 ※ 모델 기반: 독일의 Aleph Alpha사가 개발한 'Luminous' 언어 모델 - 활용 현황 : ’23. 12월 프로젝트 산출물 공개 후 ’24. 1월부터 시 행정 처리를 담당하는 100여 명 시청 직원 대상으로 시범 운영* 중 * 텍스트 요약, 연구 보조, 텍스트 생성, 전문가 모드 PART3 초거대 AI 도입 절차 공공부문 초거대 AI 도입 ･활용 가이드라인 42 3 초거대 AI 도입 절차 3.1 도입 원칙 및 고려사항 ● 공공부문에서 초거대 AI를 도입할 때는 ‘디지털플랫폼정부 실현계획(’23.4월)’에 따라 디지털플랫폼정부 정책방향과 연계하여 추진해야 함 - 이에 초거대 AI를 도입, 활용할 때 준수해야 할 원칙을 아래와 같이 제시함 디지털플랫폼정부 초거대 AI 도입 원칙 원칙 1 민간의 최신 기술을 적기에 도입하고 활용 - 민간의 우수한 클라우드 방식 도입을 우선 검토 - 민관 협력으로 인공지능 산업 생태계를 조성 원칙 2 행정 프로세스와 조직문화 혁신을 함께 수행 - 단순한 신기술 도입에 그치지 않고 업무재설계를 병행 - ‘폭포수(Water-fall) 방식’이 아닌 유연한 ‘애자일(Agile) 방식’을 통한 지속적 성능 개선 원칙 3 부처 간 칸막이를 없애고 하나의 정부를 구현 - 개별 구축은 지양하고 부처 간 데이터와 자원을 공유 ･결합 - 대국민 서비스는 부처가 한 팀이 되도록 상호 연계 ･협업 원칙 4 국가 안보와 국민 권리 보호를 보장 - 민감, 기밀 데이터의 외부 유출 방지 - 학습데이터 내 개인정보와 저작권 보호 원칙 5 ‘인공지능 윤리기준(과기정통부, ’20.12월)’을 준수 - ① 인권 보장, ② 프라이버시 보호, ③ 다양성 존중, ④ 침해 금지, ⑤ 공공성, ⑥ 연대성, ⑦ 데이터 관리, ⑧ 책임성, ⑨ 안전성, ⑩ 투명성 Part 3. 초거대 AI 도입 절차 43 ● 초거대 AI 기술은 현재에도 새로운 기술이 계속 등장하고 있으며 완성된 기술이 아니기 때문에 무분별한 도입에 주의해야 함 - 아래와 같이 기술의 한계와 위험성 등을 고려하고, 사전에 충분한 계획과 준비를 통해 성과를 창출할 수 있도록 추진해야 함 초거대 AI 도입시 사전 고려사항 ◈ 적용 대상 업무와 성과 목표를 명확히 정의 ● 활용 효과가 큰 영역(업무)을 식별하고, 사용자 요구사항을 바탕으로 적합한 생성형 인공지능 기술(제품)의 종류와 특성을 파악 ● 기대하는 결과물의 성능 수준에 따라 학습데이터의 규모와 학습(업데이트) 절차, 클라우드 인프라의 수준을 결정 ◈ 생성형 인공지능의 기술적 한계에 대한 인지 ● 학습데이터의 품질에 따라 편견, 오류의 발생 가능성을 확인하고 이를 보완할 수 있는 기술적, 관리적 조치 마련 ● 자동화 대상과 인간 의사결정 대상을 명확히 구분하고 이에 따른 업무 프로세스를 재정의 ◈ 생성형 인공지능이 가져올 위험을 이해하고 방지 ● 조직 내외의 민감정보, 개인정보 보호 대책 강구 ● 인공지능의 윤리성 확보를 위한 기술적, 제도적 조치 강구 ◈ 전사적 인공지능 거버넌스 정립 ● 명확한 역할과 책임을 부여한 의사결정 체계 확립 (데이터 관리, 보안 관리, 유지·운영관리, 교육 등) ● 조직 내 인공지능 역량 강화 및 업무 혁신 문화 조성 ◈ 인공지능 기반 조직 혁신 전략과 단계적 로드맵 수립 ● 단기에 성과를 도출할 수 있는 업무를 대상으로 시범 적용 및 검증·보완하고, 혁신적 가치가 높은 분야로 단계적 확산 공공부문 초거대 AI 도입 ･활용 가이드라인 44 [참고] OECD AI 원칙 ● OECD AI 원칙은 2019년에 최초 개발되어 2024년 5월까지도 업데이트되었으며, 윤리적인 AI 사용을 위한 정책개발에 활용되는 신뢰 가능한 AI 원칙임 표 13 O E C D A I P r i n c i p l e s 구 분 주 요 내 용 포용적 성장, 지속가능한 발전/복지 Inclusive growth, sustainable development and well-being - 신뢰가능한 AI가 개인, 사회, 지구 전체의 성장·번영에 기여하는 잠재력을 강조하며, 모든 이해관계자가 인류에 유익한 결과를 추구 하기 위해 책임있는 AI 관리에 적극적으로 참여할 것을 권장 ※ 인간 능력·창의성 증진, 소외계층 포용 강화, 경제적·사회적·성별 불평등 감소 등 공정성과 프라이버시를 포함한 인권 및 민주적 가치 Human rights and democratic values, including fairness and privacy - AI 시스템이 법치주의·인권·민주적가치·다양성을 존중할 수 있도록 설계되어야 하며 공정하고 정의로운 사회를 보장하기 위한 적절한 안전장치 고려 필요 ※ 차별금지·평등보장, 개인의 자유·존엄성·자율성의 존중, 프라이버시 및 데이터 보호, 다양성·공정성·사회 정의를 증진, 국제적으로 인정된 노동권의 보호 등 투명성 및 설명 가능성 Transparency and explainability - 이해관계자들이 AI 시스템의 작동방식을 이해하고 그 결과에 이의를 제기할 수 있어야 하며, AI 시스템의 능력과 한계에 대한 이해 촉진을 목표로 함 ※ AI 사용 여부 공개 , AI 시스 템 의 개 발·훈 련·운 영·배 포 방 식에 대한 이해 촉진 , 의미 있는 정보 제공 및 명확성 확보, AI 시스템 결과에 대한 설명가능성 제고 등 견고성, 보안 및 안전성 Robustness, security and safety - AI 시스템이 전체 수명주기 동안 견고하고 안전하며, 보안이 유지 되어야 함을 강조. 정상적인 사용, 예측가능한 사용·오용, 기타 부정적 조건에서도 정상적으로 기능함을 추구 ※ AI 시스템의 견고성·보안성·안전성의 확보, 데이터 무결성 강화, 과도한 위험 또는 원치 않는 행동 발생시 조치 메커니즘 구축 등 책무성 Accoutability - AI 관련 주체(개발·배포·운영 조직, 개인)는 AI 시스템의 올바른 기능과 OECD 가치에 기반한 AI 원칙의 준수에 대한 책임이 있음을 강조 ※ AI 시스템 생애주기 전반에 걸친 추적 가능성, 체계적인 위험관리 접근법의 적용, 책임 있는 기업의 행동 채택, AI 행위자 간 협력 강화, AI 시스템 위험 식별·대응 등 Part 3. 초거대 AI 도입 절차 45 3.2 도입 절차 ● 먼저, 대상 업무에 대한 추진현황, 목표와 문제점을 분석하고 정부의 정책 방향 및 신기술 적용에 따른 적합성, 기대효과 등을 고려하여 초거대 AI 도입을 결정함 ● 다음으로 기관에서는 기관별 데이터 학습 및 서비스 구현 등에 따라 변동되는 AI 자원*의 효율적인 확보‧관리방안 등이 포함된 초거대 AI 인프라 구축 방안을 마련해야 하며, ‘범정부 초거대 AI 공통기반 활용’, ‘자체 인프라 구축’ 및 ‘민간의 클라우드 서비스 활용’ 등이 있음 * AI 컴퓨팅장비(GPU 등), 공통‧분야별 데이터(학습용, RAG용), 공통 서비스, 개발‧운영환경 등 ● (범정부 초거대 AI 공통기반 활용) 정부의 공공AI 정책 방향과 보안 걱정없이 내부데이터 학습 및 경제성 확보 등을 위해 각 기관에서는 우선적으로 범정부 공통기반을 활용하여야 함 - 기관별 업무에 적합한 AI 모델을 선택할 수 있도록 검증된 민간의 AI 모델을 복수로 도입하여 각 기관에서는 쉽게 선택 활용이 가능함 - 기관 사용자에게 하나의 대화창(싱글-원-윈도우)을 통한 요청, 질의, 답변내용 확인 등의 서비스 이용 환경을 공통으로 제공 - 범정부 공통으로 활용할 수 있는 공통 서비스*는 기관 사용자 누구나 이용 가능 * 예) 내부 자료 검색, 공유형 문서(보도자료, 회의록 등) 제공, 보고형 문서(보고서, 업무계획, 사업계획서 등) 제공, 전문 통‧번역, 민원상담 서비스 등 - 또한, 기관에서는 기관별 자체 데이터를 결합한 특화된 AI 서비스 개발 및 기존 서비스(API 등) 연계가 가능하게 됨 ※ ‘범정부 초거대 AI 공통기반’ 구현‧운영에 따른 이후 도입 절차 및 고려사항은 향후 보완‧변경 예정임 ● (자체 인프라 구축) 기관별로 외교, 국방, 안보 등 업무의 특수성이 존재하는 경우에는 자체 AI 인프라 구축도 가능함 - 외교부 ‘지능형 외교안보 데이터 플랫폼’ 구축(’25~) 사례가 있음, 다만, AI 자원의 기관 간 공동 활용을 위해서는 ‘범정부 초거대 AI 공통기반’과 연계‧연동할 수 있는 설계 필요 ● (민간의 클라우드 서비스 활용) 기관의 초거대 AI 도입 대상 업무에 대한 데이터 보안등급이 ‘공개정보(O)’로 분류가 되는 경우 활용 가능함 - 다만, 내부 데이터 보안 및 기관 간 시스템 연계 등에 어려움이 있을 수 있으므로, 외부 인터넷 환경으로 데이터나 데이터 질의(query)가 연계되지 않는 설계가 가능할 경우 활용 공공부문 초거대 AI 도입 ･활용 가이드라인 46 ● 이후 도입을 위한 고려사항으로는 어떤 데이터로 초거대 AI를 학습시키고, 민감 데이터나 비공개 데이터가 학습 과정 중 외부 서비스 제공자(또는 모델)에 유출되지 않도록 설계하는 것이 중요함 ● 따라서 데이터의 보안등급에 따른 보안대책을 마련하고, 나머지 절차에 따라 초거대 AI 서비스의 구조와 도입 방식 등을 검토해야 함 그림 8 도입 절차 3.2.1 데이터 보안 등급 업무 중요도에 따라 기밀(Classified), 민감(Sensitive), 공개(Open) 등 3개 등급으로 분류하여 보안정책 적용 3.2.2 클라우드 구성 방안 클라우드 영역 및 규모 선정, 클라우드 도입유형 결정 등 클라우드 서비스 구성 3.2.3 데이터 학습 방식 파운데이션 모델, 파인튜닝된 모델, 사후 학습된 모델, RAG(검색증강생성) 기반 모델로 구분 3.2.4 서비스 도입 방식 디지털 서비스 구매 (클라우드 컴퓨팅서비스/융합서비스) 및 조달 용역발주 방식으로 추진 3.2.5 유지보수 및 운영 (Ops) 데이터 준비, 모델 구축, 초기 설정, 사전학습, 추가학습, 교육, 배포, 모니터링, 최적화 등의 운영 관리 및 거버넌스 체계 마련 등 4 성과 관리 AI 과제의 체계적인 성과 관리를 위해 성과지표 설정 및 관리 Part 3. 초거대 AI 도입 절차 47 3.2.1 데이터 보안 등급 ● 기관의 업무정보, 정보서비스 현황 식별‧분석 등의 기초정보를 토대로 도입 대상 업무정보에 대한 데이터 보안 등급을 기밀정보(C), 민감정보(S), 공개정보(O)로 구분할 수 있음 ● 업무 중요도에 따라 기밀정보(Classfied)·민감정보(Sensitive)·공개정보(Open) 등급으로 분류 - 업무정보의 등급 분류는 관련법령에 근거함. 기밀정보(C등급)와 민감정보(S등급)는 정보공개법, 공공데이터법, 보안업무규정 등을 근거로 각급기관이 지정한 비공개 정보에 해당 - 기밀정보(C)는 비밀, 안보·국방·외교·수사 등의 기밀정보와 국민 생활·생명·안전과 직결된 정보로써 정보공개법 제9조(비공개 대상 정보)의 제1호부터 제4호까지를 포함 - 민감정보(S)는 비공개 정보 등 개인·국가 이익 침해가 가능한 정보로써 정보공개법 제9조(비공개 대상 정보)의 제5호부터 제8호까지의 정보 및 로그, 임시백업 등의 기타 정보를 포함 - 공개정보(O)는 기밀정보(C) 및 민감정보(S) 이외의 모든 정보를 포함한다. 또한, 관련 법령 등에서 규정하는 요건을 조치한 비공개 정보와 기간의 경과 등으로 비공개 필요성이 소멸된 정보로 분류 그림 9 업무정보에 대한 C/S/O 분류 기준 * 출처 : 국가정보원 「국가 망 보안체계(National Network Security Framework, N2SF) 보안 가이드라인(Draft)」(’25.1월) ● 데이터 보안 등급 분류에 따른 위협 식별 및 보안대책 대상을 선정하고, 각각의 보안통제 항목의 선택, 구현계획 수립 등의 보안대책을 마련하여야 함 공공부문 초거대 AI 도입 ･활용 가이드라인 48 고려사항 ● 정부의 ‘국가 망 보안체계(N2SF) 도입’ 관련, 실례를 통해 정부·공공기관의 제도 이해도를 높이기 위해 ‘정보서비스 모델 해설서’ 마련(’25.1월) - 국가 망 보안체계 도입에 따른 정보서비스의 변화와 이에 맞춰 범용적으로 적용할 수 있는 위협 식별 및 보안 위협에 대응하기 위한 필수 보안 요구사항과 보안 통제 항목 제시 ● (업무 환경에서 생성형 AI 활용 관련 정보서비스 모델) 업무 단말에서 ChatGPT 등 국내·외 생성형 AI 서비스에 접속하여 업무 활용성을 높이는 데 필요한 요구사항 및 대책을 제시 - 단말은 기관 전산망 내 존재하는 인증·통제 서버를 통해 AI 서비스 활용을 사전에 승인 받은 후 보안 조치를 마쳐야 함 - AI 서비스 계정 정보는 업무 시스템 정보와 분리해 관리하고 계정별 접근 권한과 사용 이력도 별도로 추적·기록 ● (공공데이터의 외부 AI 융합 관련 정보서비스 모델) 인터넷망의 초거대 AI와의 융합을 통해 범정부 초거대 AI(PPP Zone)의 AI 모델 경량화, 파인튜닝, 오토 브라우징, 검색증강 생성 (RAG) 등을 수행하고 이를 활용하는 데 필요한 요구사항 및 대책을 제시 -N2SF 환경은 정보서비스 모델 내 대상이 처리할 수 있는 정보 등급을 제한하며, 기관은 본 서비스 모델을 활용하기 위해 도출된 보안 요구사항 및 통제 항목과 함께 식별된 보안 위협에 대응할 수 있는 보안대책을 적용 - 정보서비스 모델의 대상은 업무 단말(기관 전산망, 업무망 영역), 업무 단말(인터넷망 영역), 단말 및 사용자의 인증 보안, AI 서비스 접근을 통제하기 위한 인증·통제, AI 서 비 스 접 근 을 제 어 하 기 위 한 연 계 체 계 로 구 성 필 요 - 업무 단말에서 생성형 AI에 정보 입력 시 발생할 수 있는 정보 유출을 차단하기 위해 콘텐츠 필터링과 AI가 생성한 텍스트 또는 문서에 잘못된 결과물(악성 URL 등)로 인해 유해사이트로 접근하는 것을 차단하기 위한 보안 통제 항목 필요 * 출처 : 국가정보원 「국가 망 보안체계(National Network Security Framework, N2SF) 보안 가이드라인(Draft)」(’25.1월) Part 3. 초거대 AI 도입 절차 49 표 14 범정부 초거대 AI 정보서비스 보안 위협 대상 구분 보안위협 요소 단말 ① 업무 단말 (업무망 영역) 기밀 데이터 유출 악 성 코 드 감 염 소프트웨어 취약점 악용 비인가 사용자 접근 AI 결과 데이터 변조 ② 인증·통제 인 증 우 회 / 조 작 인 증 메 커 니 즘 무 력 화 시 도 다중요소 인증 미적용으로 권한 탈취 인 증 토 큰 , 쿠 키 재 사 용 을 통 한 권 한 상 승 데이터 무단 접근 데이터 변조 데이터 보관 관리 실패 악성 데이터 삽입 데이터 무결성 손상 연계 ③ 연계 (내부-외부) 전 송 경 로 변 조 단방향 전송 통제 실패 데이터 전송 경로 조작 암호화되지 않은 트래픽 프록시 우회 비인가 네크워크 연결 포트 스캐닝 및 침투 비인가 접근 시도 인 바 운 드 요 청 차 단 실 패 연계체계 경유 공격 ④ 데이터전송 콘텐츠 필터링 실패 정상 파일처럼 보이는 악성 파일이 필터링 우회 악성 콘텐츠 유입 * 출처 : 국가정보원 「국가 망 보안체계(National Network Security Framework, N2SF) 보안 가이드라인(Draft)」(’25.1월) 공공부문 초거대 AI 도입 ･활용 가이드라인 50 3.2.2 클라우드 서비스 구성 방안 ● 민간 클라우드 서비스 구성을 위한 도입 절차 1) 시스템을 운영할 클라우드 영역 및 컴퓨팅 리소스 규모를 선정함 - 데이터 및 시스템의 특성을 고려하여 클라우드 영역 및 LLM 도입위치 구분 - 데이터의 학습 방식과 컴퓨팅 리소스(CPU, GPU, 메모리, 스토리지) 등을 고려하여 인프라 규모를 결정 2) 클라우드 도입 유형에 따라 자원의 활용 방법을 검토하여 결정 - 도입하는 클라우드 자원을 기관 단독으로 사용하거나 타 기관과 공유하는지에 따라 자원 공유 방식을 결정 - 클라우드 자원의 통제 수준을 도입기관이 직접 물리적으로 통제하거나 위탁을 통해 관리하는지에 따라 통제 방식을 결정 Part 3. 초거대 AI 도입 절차 51 표 15 클라우드 서비스 도입 유형 구 분 주 요 내 용 퍼블릭 클라우드 (Public Cloud) - 클라우드 서비스 공급자가 서버 및 클라우드 리소스 제공 - 모든 기관 또는 사용자가 자원을 공유 프라이빗 클라우드 (Private Cloud) - 단일 조직에서 독점적으로 사용되는 컴퓨팅 리소스 제공 - 기관이 클라우드 자원의 통제권을 보유 멀티 클라우드 (Multi Cloud) - 여러 퍼블릭 클라우드를 함께 쓰는 방식 - 안정성 확보를 위한 클라우드 분산 운영이 필요한 조직에 적합 3) 이용 중인 정보자원이 있을 경우 전환･재구축 방안을 검토하여, 신규 시스템에 필요한 정보자원 규모 산정에 함께 고려함 4) CSAP 인증 등에 기반한 보안성, 비용 효율성, 안정성, 향후 확장성 등을 고려하여 클라우드 컴퓨팅 서비스를 선정함 ● 모델 구성 방법에 따른 유의사항 - 파인튜닝과 사후학습 모델은 추가적인 컴퓨팅 자원이 필요함 - 데이터 추가학습 시 데이터의 유출을 방지할 수 있도록 보안에 유의해야 함 고려사항 ● 민간 클라우드 서비스(IaaS, PaaS, SaaS) 도입의 필요성 - 새로운 인프라와 LLM을 구축하는 것이 아닌 민간에서 이미 개발된 LLM을 클라우드 영역내에 도입함으로써 모델 개발에 필요한 시간과 컴퓨팅 리소스를 절감할 수 있음 - 입찰 용역 방식은 시스템 단위로 개발되어 기능별 재사용 및 고도화에 한계가 있는 반면, 이미 상용화된 서비스는 그대로 구매하여 서비스 적시 도입에 따른 파급효과와 공공시스템의 효율성을 높일 수 있음 ● 멀티 클라우드 방식 - LLM의 종류와 위치, 망 보안정책에 따라 멀티 클라우드의 구성도 가능 - 공개 데이터로 학습된 LLM으로 공통부분을 담당하고, 비공개 데이터로 학습된 sLLM을 따로 구성하여 멀티 클라우드로 구성할 수도 있음 - 기관의 특성과 용도에 맞는 LLM을 선택하듯 클라우드도 복수의 벤더를 선택하여 적합한 제품으로 구성할 수 있음 공공부문 초거대 AI 도입 ･활용 가이드라인 52 3.2.3 데이터 학습 방식 ● 데이터 학습 방식에 따른 LLM 유형은 크게 파운데이션 모델, 파인튜닝된 모델, 사후학습된 모델, RAG(Retrieval-Augmented Generation, 검색 증강 생성) 기반 모델로 구분할 수 있음 그림 10 학습방식에 따른 LLM 유형 ① 파운데이션 모델 - 추가학습을 하지 않고 범용 LLM을 그대로 사용하는 모델 - GPT, BERT 등 LLM의 사전학습(Pre-trained) 모델로 추론 속도, 리소스 측면의 제약이 없을 때 사용할 수 있음 - 대규모 말뭉치로 사전학습 되어 일반적인 작업에 사용 가능하며, 추가학습없이 다양한 자연어 생성 작업을 할 수 있음 - (장점) API로 연결하면 서비스(텍스트 생성, 번역, 요약, 질의 응답 등)를 바로 사용할 수 있고, 별도의 학습 과정이 필요하지 않아 추가 비용이 필요 없음 - (단점) 특정 용도에 최적화되어 있지 않아 전문성을 갖기에는 성능적 한계가 있음 Part 3. 초거대 AI 도입 절차 53 ② 파인튜닝된 모델 - 문장 요약, 분류, 감정 분석 등 구체적인 작업 수행을 위해서 작업과 관련된 데이터로 파인튜닝 작업을 수행한 모델 - 모델의 전문성 확보를 위해 특별히 선별된 데이터로 파라미터의 미세조정을 수행함 - (장점) 특정 데이터를 추가로 학습시켜 사용자의 요구에 최적화된 성능을 기대할 수 있음 - (단점) 파운데이션 모델을 파인튜닝을 하는데 필요한 컴퓨팅 리소스, 인력, 시간이 투입 되어야 하므로 추가 비용이 필요함 ③ 사후학습된 모델 - 기술, 법률, 특허 등 최신 정보를 활용하는 모델로 사용하기 위해 사후학습을 수행한 모델 - 모델의 최신성과 전문성 확보를 위해 대량의 데이터로 추가 학습하며, 파운데이션 모델에서 학습된 지식을 보존하면서 파운데이션 모델 자체를 고도화하는 방식임 - (장점) 대량의 데이터로 추가 학습된 모델은 보다 전문성 있는 성능을 기대할 수 있음 - (단점) 파운데이션 모델을 대량의 데이터로 추가 학습시키는데 상당한 시간이 필요하고, 파인튜닝보다 많은 컴퓨팅 리소스가 필요함 ④ RAG(Retrieval-Augmented Generation, 검색 증강 생성) 기반 모델 - 기존 모델을 추가 학습하지 않고, 보유 데이터 기반 검색을 활용하여 최신 정보 반영 - 사전 학습된 LLM이 정적인 데이터만 활용하는 것과 달리, 기업 및 기관의 내부 데이터베이스, 공공데이터 등을 연계하여 보다 정확하고 신뢰할 수 있는 답변 제공 - (장점) 모델을 직접 업데이트하지 않아도 최신 정보로 업데이트 가능 - (단점) 검색된 정보의 신뢰성이 보장되지 않을 경우, 부정확한 응답 가능성 존재 고려사항 ● 파인튜닝된 모델이나 사후학습된 모델은 추가학습을 위해 추가적인 데이터 준비와 학습을 위한 데이터 전처리 과정이 필요 ● 추가학습된 모델은 목표한 성능을 갖추었는지 검증과 최신성이 중요한 도메인의 경우 주기적인 모델 업데이트가 필요함 ● RAG 기반 모델은 모델 자체를 재학습하지 않으므로, 최신 정보 반영이 가능하나 활용 데이터의 신뢰성을 보장해야 하므로 백터DB 등 관리가 중요 공공부문 초거대 AI 도입 ･활용 가이드라인 54 ● LLM 유형 결정을 위한 순서 표 16 LLM 유형별 주요내용 구 분 주 요 내 용 파운데이션 모델 사용 목적 일반적인 목적으로 사용하는 유형 학습 데이터 자체 보유 데이터가 없어도 사용 가능 작업 유형 텍스트 생성, 문장 완성 등 질의 응답 능력을 기반으로 하는 작업 학습시간･ 컴퓨팅자원 추가적인 데이터 수집과 학습 과정이 없기 때문에 빠르게 구축 및 사용 가능 파인튜닝된 모델 사용 목적 문장 분류, 감정 분석 등 구체적인 작업 학습 데이터 특정 작업과 관련된 소량의 데이터 확보 필요 작업 유형 특정 작업과 관련된 문맥이나 패턴 이해를 기반으로 하는 작업 학습시간･ 컴퓨팅자원 주기적인 추가학습 인프라가 필요하므로 파운데이션 모델보다 상대적으로 많 은 자 원 을 소 요 사후학습된 모델 사용 목적 최신 정보와 성능을 필요로 하는 전문 작업 학습 데이터 최신성, 전문성과 관련된 대량의 데이터 확보 필요 작 업 유 형 파 운 데 이 션 모 델 을 최 신 화 , 전 문 화 한 다 양 한 작 업 학습시간･ 컴퓨팅자원 대규모의 추가적인 학습 인프라가 필요하므로 파운데이션 모델이나 파인 튜닝보다 상대적으로 많은 자원을 소요 RAG 기반 모델 사용 목적 최신 정보를 검색·활용하여 답변 제공 학습 데이터 모델 자체 학습 없이 보유 데이터를 활용하여 최신 데이터 반영 작업 유형 최신 데이터를 활용한 최신 정보 생성, 질의응답, 요약, 검색 결과 기반의 문서 작성 등 학습시간･ 컴퓨팅자원 모델 자체를 학습하지 않으므로 학습 시간이 소요되지 않으며, 보유 데이터의 신뢰성 확보가 중요 - LLM은 사용 목적을 명확히 하는 과정을 통해서 유형을 결정함 - 적용하고자 하는 업무의 목적과 개선할 기능, 수준을 설정하고 작업 유형별로 상세화하여 초거대 AI를 도입할 수 있는 부분을 찾음으로써 어떠한 유형의 LLM을 활용할 수 있는지 결 정 할 수 있 음 Part 3. 초거대 AI 도입 절차 55 고려사항 ● 제공하고자 하는 서비스에 따라 적합한 LLM 유형을 선정 - 국내 초거대 AI 서비스에는 다양한 LLM, sLLM이 존재하고, 기업마다 제공하는 모델의 규모·성능·특성이 다름 - 모델 선택을 위해서는 가장 먼저 초거대 AI 도입 목적 등 용도를 분명히 하고, 기관의 업무적 특성과 가용한 자원의 크기를 고려하여야 함 - LLM과 sLLM은 양자택일의 문제가 아니라 공통부분은 LLM을 이용하고, 분야별로 특화된 부분만 sLLM을 이용하는 하이브리드 형태로의 구성도 가능함 ● 학습을 위한 데이터셋 구축 준비 - 말뭉치(Corpus), 지도형 미세조정(SFT, Supervised Fine Tuning), 보상 모델(RM, Reward Model) 등 데이터셋을 구축하여 사전학습 및 미세조정 진행 - 내부 데이터의 학습 및 사용자 질의에는 비공개 데이터의 유출 방지를 위해 적합한 보안대책을 수립하여야 함 - 모델의 성능 향상과 최신 정보 및 정책적 여건 반영을 위해서는 일정한 주기로 추가 학습 진행을 고려하여야 함 - 개정 법률 등과 같은 데이터는 시간에 따라 기존 학습데이터와 모순된 정보를 가질 수 있으므로 시간정보와 연동한 학습 필요 - 데이터의 학습 기간에만 사용되는 고성능 연산 자원과 운영을 위해 필요한 상시자원을 구분하여 효율적인 인프라를 구성 운영해야 함 ● RAG기반 모델 마련을 위한 고려 사항 - RAG 모델의 성능은 검색 성능을 담당하는 벡터 데이터베이스의 구축에 크게 영향을 끼치므로 기관의 업무 특성과 검색 패턴을 분석하여 최적의 DB를 선정해야 함 - 구축 단계에서부터 데이터 수집-전처리-인덱싱-배포의 프로세스를 체계화하여 운영 단계에서의 유지관리 용이성 확보 필요 - 데이터의 변경 주기가 짧거나 정책 문서처럼 최신성이 중요한 데이터의 경우, 업데이트 주기를 사전에 정의하고, 증분 업데이트 방식을 통해 성능 저하 방지 공공부문 초거대 AI 도입 ･활용 가이드라인 56 3.2.4 서비스 도입 방식 ● 데이터 보안 등급부터 학습비용, 사용료, 운영비 등 기관의 상황을 고려하여 서비스 구매 방식과 조달 발주 방식으로 초거대 AI 도입을 추진할 수 있음 표 17 도입 방식별 주요내용 구 분 서비스 구매 방식 조달 발주 방식 정의 완성된 서비스를 원하는 만큼 이용 일반경쟁 입찰절차에 따라 용역계약 추진 절차 디지털서비스 검색 → 적합한 서비스 선택 → 계약조건 협의 →계약 및 납품 조달요청 → 구매규격 사전공개 → 입찰 공고 → 낙찰자 선정 → 계약 및 납품 차이점 계약 이용 중심 신속한 계약 절차 수의계약, 카탈로그 계약 등 가능 기업의 서비스를 심사‧등록 후 이용 ↔ ↔ ↔ ↔ 용역 소유 중심 긴 공고기간 및 계약 절차 경쟁 입찰 계약 기업이 요구사항에 맞는 서비스를 제안 ● ‘서비스 구매 방식’이란 계약에만 수개월이 소요되는 정부 계약 방식을 개선하여 적합한 서비스를 신속하게 도입할 수 있는 디지털서비스 전문계약제도를 말하는데, 기술이 급변하는 초거대 AI 활용에 유용한 방식으로 디지털서비스 이용지원시스템(www.digitalmarket.kr) 또는 디지털서비스몰(digitalmall.g2b.go.kr)을 통해 이용 가능함 ● 디지털서비스 이용지원시스템에서는 클라우드컴퓨팅서비스, 클라우드지원서비스, 융합서비스 등 3가지 유형으로 간소화된 계약 절차를 통해 공급업체·수요기관의 편의성을 제공 표 18 디지털 서비스 유형별 주요내용 구 분 주 요 내 용 클라우드 컴퓨팅서비스 SaaS, PaaS, IaaS와 같은 형태로 클라우드컴퓨팅을 활용 하여 상용으로 타인에게 정보통신자원을 제공하는 서비스 클라우드 지원서비스 클라우드 지원, 컨설팅, 운영관리, 마이그레이션 등과 같은 형태로 클라우드컴퓨팅서비스를 지원하는 서비스 융합서비스 다른 기술·서비스와 클라우드 컴퓨팅기술을 융합한 서비스 Part 3. 초거대 AI 도입 절차 57 ● 디지털서비스를 제공하는 기업은 아래와 같은 심사신청 및 선정 절차를 거쳐 서비스를 등록하고, 수요자는 시스템의 검색을 통해 서비스를 구매할 수 있음 그림 11 디지털서비스 구매절차 ● ‘조달 발주 방식’의 용역계약을 추진하면서 일부 단위 기능을 제공하는 독립된 모듈 형태의 서비스만 구매하는 방식으로도 가능 표 19 추진절차별 주요 검토사항 단계 추 진 절 차 세 부 절 차 구현 (y) 제안요청서 작성 - 요구사항 정의 - 대기업 참여제한 여부 확인 - 보안성 검토 - 소프트웨어 영향평가 - 적정사업기간 산정 - 사전협의 - 법제도/AI 윤리 검토 - 공공소프트웨어 과업심의위원회 경쟁입찰 발주 및 선정 - 사전규격 공개 - 입찰 공고 - 제안사 평가 및 선정 - 기술 협상 - 계약 사업관리 - 분석/설계 - 구현/테스트 - 검사/준공 운영 예산 요구 운영 (y+1) 운영사업 발주/선정 운영 및 지속적 고도화 공공부문 초거대 AI 도입 ･활용 가이드라인 58 3.2.5 유지보수 및 운영(Operations) ● LLM을 효율적으로 운영하기 위해서는 데이터 관리와 유지보수 및 운영방안이 필요함 - 주요 내용으로 데이터 준비, 모델 구축, 초기 설정, 사전학습, 추가학습, 교육, 배포, 모니터링, 최적화 등 포함되고, 데이터 보호 및 할루시네이션(환각) 예방조치 등도 필요 - 또한 LLM을 사용하는 전 과정에서 사용자의 피드백을 통해 파라미터를 재조정하고, 강화 학습을 하는 등 모델의 성능 개선을 추진 - 강화학습 등을 통한 지속적인 모델 관리와 유지보수 및 운영을 위한 예산확보도 필요 - 효과적인 성능 개선과 지속적인 기술 고도화를 위해서는 민간 전문가와의 협력체계 구성도 필요 ● 초거대 AI를 효율적으로 활용하기 위해서는 데이터를 지속해서 관리할 조직과 이를 위한 거버넌스적 체계 마련이 필요함 - 내부적으로는 언어 모델의 규모와 비용 대비 성능 최적화를 위해 운영 중 발생하는 신규 데이터를 활용할 수 있도록 체계를 구성하는 것이 매우 중요함 - 외부적으로도 초거대 AI를 활용하면서 생길 수 있는 편향, 할루시네이션(환각), 악용 등 사회적·윤리적 문제에 대응하기 위해서도 필요함 - 서비스 사용자와 제공자 간의 책임 소재를 명확히 하고 서비스 품질을 보장받기 위해서 구체적으로 측정 가능한 목표치 설정이 필요함 ● 효과적인 운영을 위해 정책 기획, AI 기술, AI 윤리, 정보보안으로 부서별 역할을 나눌 수 있으며 조직 구성에는 기관의 특성을 반영함 표 20 초거대 AI 관련 거버넌스 구성안 구 분 주 요 내 용 기획총괄 부서 - 거버넌스 및 조직 구성 - 도입 비용 및 유지보수·운영 예산 수립 - 추진 체계(PDCA) 및 성과 관리 인공지능 기술 부서 - 데이터 관리 및 파라미터 설정 - 데이터 학습 방법 수립(사전학습, 추가학습 등) 및 모델 성능 점검 - 서비스 버전 관리 및 배포 - 서비스 모니터링(사용 인원, 사용횟수, 트래픽, 효과성 등) 인공지능 윤리 부서 - 편향·환각·거짓정보 등 위험성 대응 - 법·제도적 이슈 진단 - 사용 지침 수립 및 사용자 교육 정보보안 부서 - 정보보호, 취약점 분석 - 클라우드 연계 및 보안성 검토 Part 3. 초거대 AI 도입 절차 59 LLM 서비스 레벨 목표(SLO) 예시 구 분 주 요 내 용 BLEU (Bilingual Evaluation Understudy) ● 사람이 직접 번역한 문장과의 정확도 비교를 통한 품질 측정 응답 시간 (Response Time) ● 사용자 질의에 대한 LLM 응답 속도에 대한 목표 - 예) 문답 서비스의 90% 이상이 7초 이내 제공 - 예) 추론 서비스의 90% 이상이 10초 이내 제공 가용성 (Availability) ● LLM 서비스 가용/접근 가능 시간에 대한 목표 지표 - 예) 월 가용성 99.99% 데이터 보안 (Data Security) ● 사용자 데이터와 LLM 학습 데이터의 암호화/접근통제 수준 명시 윤리강령 준수 (Ethics Compliance) ● 편향 및 위험의 검증 절차 ● 제한 준수 규정 모 델 업 데 이 트 주 기 (Model Update Cycle) ● 정기 모델 업데이트 주기 ● 모델 향상 주기 책임과 보상 체계 (Accountability & Compensation) ● 서비스 문제 발생 시 책임 소재 및 보상 체계 사용자 수용능력 (User Capacity) ● 동시 접속 가능한 최대 사용자 수 기술 지원 (Technical Support) ● 기술 문의에 대한 지원 채널 제공 ● 지원 시간 및 초기 응답 시간 목표 사 용 데 이 터 보 고 (Usage Data Report) ● 사용량 및 성과 추이 데이터에 대한 정기 보고 해지 정책 (Termination Policy) ● 계약 해지 시 데이터 처분, 모델 이전 등에 대한 정책 법적 준수 사항 (Legal Compliance) ● LLM 서비스의 법률 및 규제 준수에 대한 보장 공공부문 초거대 AI 도입 ･활용 가이드라인 60 3.3 초거대 AI 도입 체크리스트 ● 행정·공공기관에서 초거대 AI를 공공부문에 도입할 경우 아래 예시의 도입 체크리스트를 참고하여 각 기관의 상황에 맞도록 활용하도록 제시함 0 . 초 거 대 A I 도 입 결 정 및 인 프 라 구 축 방 법 결 정 ☞ 3.1 도입 원칙 및 고려사항(P.42~44) 참조 0 . 1 초 거 대 A I 도 입 여 부 결 정 - 대상 업무의 추진현황, 목표 및 문제점 분석 □ - 문제해결을 위한 신기술 활용 방안에 대한 적합성 검토 □ - 신기술 도입에 따른 기대효과 및 성과(정량·정성) 분석 □ - 국정과제 등 정부의 정책 방향 검토 □ 0.2 초거대 AI 인프라 구축방법 결정 - 범정부 초거대 AI 공통기반 활용 □ - 자체 인프라 구축 □ - 민간의 클라우드 서비스 활용 □ 1 . 도 입 업 무 의 보 안 등 급 검 토 ☞ 3.2.1 데이터 보안 등급(P.47~49) 참조 - 기관의 업무정보, 정보서비스 현황 식별·분석 등 기초정보 수집 □ - 업무 중요도에 따라 3개 등급(기밀, 민감, 공개)으로 분류 □ - 서비스 환경 전체를 대상으로 위협 식별 및 보안대책 대상 선정 □ - 보안통제 선택, 구현계획 수립 등 보안 대책 수립 □ - C/S/O 등급분류, 위협식별 등 적절성 평가·조정 □ - 국가정보원 보안성 검토 □ 2. 클라우드 구성 방안에 따른 검토 ☞ 3.2.2 클라우드 서비스 구성 방안(P.50~51) 참조 - 클라우드 영역 및 인프라 규모 선정 검토 □ - 클라우드 도입 유형 결정(퍼블릭, 프라이빗, 멀티 클라우드) 검토 □ - 사업 추진방향(보유 자원과 신규 자원의 전환·재구축 등) 검토 □ - 클라우드 벤더사의 제공 서비스(보안성, 비용효율성, 안정성, 확장성 등) 검토 □ Part 3. 초거대 AI 도입 절차 61 3 . 데 이 터 학 습 방 식 에 따 른 L L M 유 형 결 정 ☞ 3.2.3 데이터 학습 방식(P.52~55) 참조 3 . 1 L L M 사 용 방 식 결 정 - 추가학습 없이 범용 LLM을 그대로 사용 □ 파운데이션 모델 (→ 체크리스트 3.2로 이동) - 기관의 정제된 일부 데이터로 추가학습 □ 파인튜닝 (→ 체크리스트 3.3로 이동) - 대량의 신규 데이터를 추가학습 □ 사후학습 (→ 체크리스트 3.4로 이동) - 추가 학습 없이 보유데이터 활용 □ RAG 기반 모델 (→ 체크리스트 3.5로 이동) 3.2 파운데이션 모델 - 대상 업무의 특성을 반영한 LLM 선정(파라미터 규모, 속도, 정확도 등) 여부 □ - 기관의 업무적 특성과 가용한 자원(인프라, 이용료 등) 파악 □ 3.3 파인튜닝 □ - 업무 특성을 반영한 LLM 선정(파라미터 규모, 속도, 정확도 등) 여부 □ - 기관의 업무적 특성과 가용한 자원(인프라, 이용료 등) 파악 □ - 추가학습을 위한 데이터 준비 여부 □ - 파라미터의 미세조정 및 기대 성능 모니터링 검토 □ - 데이터 유출 방지 및 보안 대책 마련 검토 □ - 모델 버전 관리 및 배포 방안 마련 검토 □ - 추가학습을 위한 컴퓨팅 자원 확보 검토 □ 3.4 사후학습 - 업무 특성을 반영한 LLM 선정(파라미터 규모, 속도, 정확도 등) 여부 □ - 기관의 업무적 특성과 가용한 자원(인프라, 이용료 등) 파악 □ - 추가학습을 위한 데이터 준비 여부 □ - 파운데이션 모델 고도화 및 기대 성능 모니터링 검토 □ - 데이터 유출 방지 및 보안 대책 마련 검토 □ - 모델 버전 관리 및 배포 방안 마련 검토 □ - 추가학습을 위한 컴퓨팅 자원 확보 검토 □ 3.5 RAG 기반 모델 - 업무 특성을 반영한 LLM 선정(파라미터 규모, 속도, 정확도 등) 여부 □ - 기관의 업무적 특성과 가용한 자원(인프라, 이용료 등) 파악 □ - 백터 DB 구성을 위한 데이터 확보 □ - 검색결과 신뢰성 확보 및 기대 성능 모니터링 검토 □ - 데이터 유출 방지 및 보안 대책 마련 검토 □ - 백터 DB 업데이트 및 배포 방안 마련 검토 □ 공공부문 초거대 AI 도입 ･활용 가이드라인 62 4 . 서 비 스 도 입 을 위 한 방 식 결 정 ☞ 3.2.4 서비스 도입 방식(P.56~57) 참조 4.1 기관 및 업무 성격을 고려한 도입 방식 결정 - 완성된 서비스를 원하는 만큼 이용 □ 서비스 구매 방식 (→ 체크리스트 4.2) - 일반경쟁 입찰절차에 따라 용역계약 □ 조달 발주 방식 (→ 체크리스트 4.3) 4.2 서비스 구매 방식 - 계약제도 등록 및 요건 확인 □ - 제품 커스터마이징 여부 및 수의계약 확인 □ 4.3 조달 발주 방식 - 요구사항을 반영한 사업계획서 산출 검토 □ - 보안성 검토 등 사전절차 이행 검토 □ - 조달 요청을 통한 경쟁입찰 추진체계, 공고기간 등 확인 □ 5 . 유 지 보 수 및 운 영 ( O p s ) 방 식 검 토 ☞ 3.2.5 유지보수 및 운영(P.58~59) 참조 - 데이터 관리(강화학습, 파라미터, 배포 등)를 위한 운영 조직 구성 검토 □ - 언어 모델의 규모, 비용, 성능 최적화를 위한 시스템 모니터링 검토 □ - 지속적인 모델 관리와 유지보수 및 운영을 위한 예산확보 방안 검토 □ - 정보보호 및 취약점 분석 등 보안성 검토 □ - 사용 지침 수립 및 교육 등 내적 운영 방안 수립 검토 □ - 법‧제도적, 사회적 이슈 등 외적 요인 검토 □ - 인공지능 윤리 기준(편향·환각·거짓정보 등 위험성 대응 등) 검토 □ - 서비스 레벨 목표(SLO) 항목 검토(요구사항 및 목표 품질 등) □ 6 . 성 과 관 리 ☞ 4. 공공부문 AI 성과관리(P.64~76) 참조 - 성과목표 설정 및 지표 개발 수립 검토 □ - 성과관리 도구 및 프로세스(조직, 절차 등) 마련 검토 □ - 중장기 성과 관리 및 환류 체계 수립 검토 □ P a r t4 . 공 공 부 문 A I 성 과 관 리 63 4 공공부문 AI 성과 관리 ※ 디지털플랫폼정부위원회에서 진행한 「공공부문 AI 도입 해외 동향 및 국내 공공부문 도입에 대한 성과평가 방법론 연구(’24)」를 정리한 자료임 PART4 공공부문 AI 성과 관리 공공부문 초거대 AI 도입 ･활용 가이드라인 64 4 공공부문 AI 성과 관리 ※ 디지털플랫폼정부위원회에서 진행한 「공공부문 AI 도입 해외 동향 및 국내 공공부문 도입에 대한 성과평가 방법론 연구(’24)」를 정리한 자료임 4.1 성과 관리 필요성 ● 공공부문의 ‘AI 과제’는 기존의 ‘정보화 사업’과는 예산·규모 등의 측면에서 차이를 보이며, 특히 초거대·생성형 AI 기술의 활용으로 사회 현안을 창의적이고 새로운 방식으로 해결을 기대 - ‘AI 과제’에 초거대 AI 등 신기술 도입은 그 자체가 목적이 아니라, 사회 현안의 해결과 같은 정부 사업의 효율·효과적인 목적 달성에 기여하기 위함임 - 장애인 의사소통 지원을 위한 생성형 AI와 LLM, 멀티모달 활용 과제는 기존 정보화 사업으로는 달성하기 어려웠던 혁신적인 문제 해결법을 보여주는 ‘AI 과제’ 대표 사례임 ● ‘AI 과제’는 초거대·생성형 AI 기능·서비스를 통해 직접적인 산출물을 제공한다는 측면에서 기존 정보화 사업과는 구분되는 특징이 있고, 또한 불가피하게 고비용의 인프라가 수반됨 - 따라서, AI 기능·서비스에 대한 성과관리 외에도 이를 구현하기 위한 AI 학습데이터 및 모델 등 인프라 수준을 측정하고 관리하여야 하며, 이를 위해 다음과 같이 ‘AI 과제 생애주기’ 개념을 도입함 표 21 AI 과제 생애주기 설명 구분 초기 → → → → → → → → → → 성숙 AI 과제 생애주기 “AI 프로젝트” (구축·PoC단계) “AI 서비스” (운영단계) 내용 및 특징 AI 학습데이터 및 모델 등 인프라 정부사업목표 달성을 위한 AI 산출물 ● 공공부문의 ‘AI 과제’의 최종 목표인 ‘공공AI 3대 전략 목표*’ 달성을 위한 성과를 적절하게 창출하고 있는지에 대한 측정·평가 및 유지·관리의 필요성이 대두됨에 따라 - 기존 정보화 사업에 활용되는 지표와는 달리, ‘AI 과제’ 특성을 반영한 새로운 성과지표 Pool과 이를 뒷받침할 프레임워크를 통해 성과평가 방법론을 마련함 * 공공AI 3대 전략목표 : ① 공공서비스 개선, ② 행정서비스 향상, ③ 사회현안의 해결 P a r t4 . 공 공 부 문 A I 성 과 관 리 65 AI 과제 최종목표 [1] 공공서비스 개선 [2] 행정서비스 향상 [3] 사회현안의 해결 = 투입지표(공통) 과정지표(공통) - 전문인력 투입 수 - 인프라 구축 비용 - AI 모델 복잡도 지수 - 데이터 품질 점수 -A I 윤 리 준 수 지 수 -구 축 률 - 모델성능 - 데이터 품질 개선도 - 알 고 리 즘 최 적 화 횟 수 - 보안 취약점 개선율 AI 서비스 지능형 정보처리 업무 자동화 대화형 서비스 모니터링·알람 산출지표(고유) 결과지표(고유) - 정보 분석 정확도 -데 이 터 처 리 량 - 데이터 통합 성공률 - 인사이트 도출 건수 -정 보 요 약 품 질 - 정보 활용 적시성 개선도 - 분석 결과 활용 비율 증가율 - 데이터 기반 의사결정 비율 증가율 - 부서 간 정보 공유 및 협업 증진도 - 예측 정확도 개선율 - 의사결정 처리 건수 - 의사결정 소요 시간 -시 스 템 안 정 성 - 판정 일관성 지수 - 의사결정 설명 가능성 점수 - 업무 처리 시간 단축률 - 의사결정 비용 절감률 - 업무 처리 자동화율 - 인적 자원 재배치 효율성 - 데이터 기반 의사결정 비율 - 처리된 상담 건수 - 평균 상담 처리 시간 - 질의 응답 정확도 - 상담 만족도 점수 - 첫 응답 해결률 - 상담에 대한 사용자 만족도 - 상담 서비스 접근성 향상률 - 상담 처리 시간 단축률 - 상담 서비스 운영 비용 감소율 - 상황 인식 대응 정확도 - 모니터링·알림 건수 - 알림 전달 시스템 응답 시간 - 처리 가능한 데이터 소스 수 -오 탐 지 율 - 알림 우선순위 정확도 -알 림 정 확 도 - 이상 징후 조기 발견율 - 사용자 만족도 개선률 - 상황 인식 추천 비율 - 위험 상황 대응 시간 감소율 그림 12 공공부문 AI 프로젝트 성과지표 Pool 개념도 (예시) 공공부문 초거대 AI 도입 ･활용 가이드라인 66 4.2 AI 성과지표 프레임워크 ● 공공부문 AI 과제의 성과관리를 위한 성과지표 개발의 기본 틀로써 로직 모형과 AI 기능 분류에 기반한 프레임워크를 마련함 ● (로직모형) 가로축은 「정부업무 성과관리 운영지침」 에 따라 보편적으로 사용되는 ‘투입-과정- 산출-결과’의 단계를 배치함 - ‘투입-과정-산출-결과’로 이어지는 AI 과제의 생애주기를 통해 ‘공공서비스 개선, 행정효율성 향상, 사회현안의 해결’이라는 최종목표에 도달하거나 기여해야 함을 제시 그림 13 공공부문 AI 과제 성과지표 프레임워크 로직모형 투입 과정 산출 결과 영향 논 리 적 연 결 성 확 보 AI 기능 분류 각 단계별 AI 특성을 반영한 성과지표를 배치 최종 기대효과 지능형 정보처리 자동화 업무지원 대화형 서비스 모니터링· 알람 성과지표 성과지표 성과지표 성과지표 공공서비스 개선 행정효율성 향상 사회현안의 해결 (공통지표) (공통지표) ⋮⋮ ⋮⋮ ⋮⋮ ⋮⋮ 구축·PoC 단계 운영 단계 - AI 과제의 생애주기를 고려해 ‘투입-과정-산출-결과’ 지표를 다음과 같이 정의함 표 22 AI 과제에 대한 지표 유형별 정의 구 분 정 의 투입지표 - AI 시스템 개발·운영을 위해 투입되는 데이터, 컴퓨팅 자원, 인력 등 자원량 지표 과정지표 - AI 시스템 개발·운영 과정에서의 중간 산출물이나 진행 상황을 나타내는 지표 산출지표 - AI 시스템 구축 완료 후 나타나는 1차적 산출물을 나타내는 지표 결과지표 - AI 시스템 도입을 통해 나타나는 궁극적인 효과나 공공부문에 대한 영향 지표 P a r t4 . 공 공 부 문 A I 성 과 관 리 67 ● (AI 기능 분류) 세로축은 4가지 기능 분류로 사업관리 주체가 구축·운영에 적절한 지표를 설정할 수 있도록 성과지표 Pool을 제시하였음 - 4가지의 기능 분류는 2장의 <해외 주요국 공공부문 AI 서비스 기능 분류>의 13가지 분류에 근거하며, 국내 추진 중인 AI 과제에 성과지표로 적용될 수 있음 - AI 과제의 최종 기대효과와 기능별 특징을 고려하여 실용성과 직관성이 담보된 프레임워크의 분류를 통합·조정함 그림 14 AI 기능 분류 통합조정 현황 공공부문 초거대 AI도입 활용 가이드라인(6개) 해 외 사 례 검 토 를 통 해 세부적으로 확대·조정(13개) AI 성과지표 프레임워크(4개) 질의 응답 정보매칭·추출 정보분석·전환 예측·계획 식별·분류 언어·문서처리 판정·의사결정 서비스 연계·처리 기획·창작 상담 번역 추천·제안 모니터링·알람 통합플랫폼 지능형 정보처리 자동화 업무지원 대화형 서비스 모니터링·알람 분석 활용 문서 작성 기획 창작 상담 지원 서비스 처리 - AI 기능 분류 4가지는 대부분의 AI과제에 활용될 수 있도록 AI 과제 목표달성을 위한 기능별 특징을 고려하면서도 3대 전략목표와의 관련성을 고려하여 도출함 ∙ (지능형 정보처리) 공공부문의 대규모 데이터를 수집‧분석하여 행정 업무와 정책적 의사결정 등을 지원하는 서비스 * 핵심기능: 공공정보 검색 및 추출, 행정데이터 분석, 정책 패턴인식, 행정예측 및 추론, 부처간 정보 연계 등 ∙ (자동화 업무지원) 공공행정 업무 프로세스를 자동화하고 공무원 혹은 공공기관 종사자의 의사결정을 지원하여 행정업무 효율성을 제고하는 서비스 * 핵심기능: 공문서 자동 생성, 행정업무 자동화, 정책판단지원, 민원 자동처리, 행정서비스 연계 등 공공부문 초거대 AI 도입 ･활용 가이드라인 68 ∙ (대화형 서비스) 자연어 기반 상호작용을 통해 공공서비스를 제공하고 민원을 해결하는데 도움을 주는 서비스 * 핵심기능: 민원상담 서비스, 실시간 행정응답, 다국어 행정지원, 맞춤형 정책 안내, 대민 소통 강화 등 ∙ (모니터링·알람) 공공부문 실시간 데이터를 분석하여 사회 안전·재난·위험 등의 이상 징후를 감지하고 선제적으로 이를 알람으로 제공하는 서비스 * 핵심기능: 실시간 위험 모니터링, 사회안전 감지, 재난알림 발송, 상황 분석 및 대응, 범정부 정보 공유 등 - 위의 4가지 AI 기능 분류는 성과지표 개발 프레임워크의 기반이 되기 때문에 각 기능별로 공공AI 3대 전략목표와의 관련성을 고려하였음 AI 기능 공공서비스 개선 행정효율성 향상 사회현안의 해결 지능형 정보처리 - 정보 접근성 향상 - 데이터 품질 개선 - 정보 활용도 증대 - 데이터 기반 의사결정 - 업무 처리 효율화 - 정보 통합 관리 - 사회문제 예측·대응 - 위험 요소 조기 발견 - 정책 효과성 분석 자동화 업무지원 - 민원처리 신속화 - 서비스 응답성 향상 - 행정 서비스 표준화 - 업무 생산성 향상 - 인적 오류 감소 - 자원 활용 최적화 - 행정 투명성 제고 - 정책 집행 일관성 - 공정성 확보 대화형 서비스 - 서비스 만족도 향상 - 24/7서비스 제공 - 맞춤형 응답 제공 - 업무 부담 감소 - 반복 업무 자동화 - 상담 효율성 증대 - 정보 격차 해소 - 서비스 접근성 개선 - 사회적 포용성 강화 모니터링 ·알 람 - 실시간 정보 제공 - 위험 예방 강화 - 상황 인지 향상 - 감시 업무 자동화 - 즉각적 대응 체계 - 자원 운영 최적화 - 사회 안전망 강화 - 재난 대응 고도화 - 위험 관리 체계화 표 23 AI 기능별 특징에 따른 최종 기대효과 관련성 P a r t4 . 공 공 부 문 A I 성 과 관 리 69 4.3 AI 성과지표 Pool ● 4.2의 AI 성과지표 프레임워크에 기반하여 AI 프로젝트(구축·PoC단계)가 AI 서비스(운영단계)로 구현되기까지의 “성과측정 도구”로써 기능할 수 있도록 AI 성과지표 Pool을 마련함 - AI 과제 전 생애주기에 걸친 성과지표 Pool로써, 투입지표, 과정지표, 산출지표, 결과지표 등 단 계 별 로 지 표 를 마 련 - 투입지표와 과정지표는 모든 분야에서 지표가 유사하고 범용적으로 사용 가능하므로 공통 활용이 가능한 ‘공통지표’로 제시 - 산출지표와 결과지표는 분야별로 제시하였고, 반드시 한 분야에 국한하여 사용해야 하는 것은 아니지만 AI 기능별 특징과 달성 목표 등을 고려해 선택하는 ‘개별지표’로 제시 투입지표 과정지표 산출지표 결과지표 공통지표 Pool (선택) 공통지표 Pool (선택) AI 기능 분류 지능형 정보처리 자동화 업무지원 대화형 서비스 모니터링·알람 - 기능별 개별지표 Pool (선택) - 공공서비스 개선 맞춤 지표 행정효율성 향상 맞춤 지표 사회현안의 해결 맞춤 지표 구축·PoC 단계 운영 단계 그림 15 AI 성과지표 프레임워크 개념도(1) ● AI 과제 발주기관과 수행기관 간 합의를 통해 각 단계별로 중점 관리되어야 하는 성과지표를 선정함으로써 사업 목표 달성에 기여 가능함 - 또한 사업수행 및 성과관리 시 실용적인 가이드로 기능할 수 있는 성과지표로도 활용할 수 있을 것으로 기대 * 성과관리 시 실용적인 가이드로 가능한가 하는 것은, 구축‧PoC 단계의 AI 프로젝트가 실제 AI서비스로 운영되는 AI 과제의 생애주기에서 각 단계별 성과가 AI 과제의 최종 기대효과를 실제로 달성할 수 있도록 유지‧관리될 수 있도록 발주기관과 수행기관 간의 커뮤니케이션 도구로서 가능할 수 있음을 의미 공공부문 초거대 AI 도입 ･활용 가이드라인 70 그림 16 AI 성과지표 프레임워크 개념도(2) AI 과제 투입지표 과정지표 산출지표 결과지표 과제1 성과지표 성과지표 성과지표 성과지표 성과지표 성과지표 성과지표 성과지표 성과지표 성과지표 성과지표 성과지표 성과지표 성과지표 성과지표 과제2 성과지표 성과지표 성과지표 성과지표 성과지표 성과지표 성과지표 성과지표 성과지표 성과지표 성과지표 성과지표 성과지표 성과지표 성과지표 구축·PoC 단계 운영 단계 국내 다양한 AI 과제 성과를 성과지표 프레임워크 속에서 체계적으로 관리하여 각 사업별 목표를 효율·효과적으로 달성할 수 있도록 안내하는 역할 수행 >> AI 과제 목표달성 지표 Pool을 통한 체계적인 성과관리로 AI 과제별 목표 달성 공공서비스 개선 행정효율성 향상 사회현안의 해결 공공부문 AI 과제 성과지표 시범평가 ● ’24년도 공공 초거대 AI 서비스 개발 8개 과제를 대상으로 시범평가를 수행하면서, 기업별 담당자 대면 인터뷰를 통해 각 AI 과제별로 목표 달성을 위해 단계별로 중점 관리되어야 하는 성과지표를 선정하였음 - 아래 예시와 같이, AI 과제별 ‘대표 AI 기능’과 ‘사업목표(기대효과)’를 중심으로 생애주기 단계별로 중점적으로 관리해야 할 성과지표를 도출함 그림 17 AI 성과평가 프레임워크에 기반한 시범평가 결과 해석 (예시) ☞ 공공부문 AI 과제 성과평가 방법론(프레임워크·성과지표)는 이미 추진된 AI 과제에 대한 실제 성과평가에 직접 적용 가능할 뿐만 아니라, 향후에 AI 프로젝트 계획 수립 단계에서도 중요 고려 사항이 될 것으로 기대 ● (향후 계획) 중장기적으로 AI 사업의 특수성, 기술 성숙도, 도메인 특징, 규모 등을 고려하여 성과지표 Pool을 고도화할 필요가 있음 P a r t4 . 공 공 부 문 A I 성 과 관 리 71 AI 기능 분류 [4가지] 해외사례 AI 기능 분류 [13가지] 계 공통지표 (구축·PoC단계) 개별지표 (운영단계) 투입 지표 과정 지표 산출 지표 결과지표 소계 (산출 + 결과) 공공서비스 개선 행정효율성 향상 사회현안의 해결 지능형 정보처리 정보매칭·추출 45* 10 10 12 5 4 4 25 정보분석·전환 46* 12 4 5 5 26 예측·계획 43* 11 4 4 4 23 식별·분류 44* 12 4 4 4 24 통합플랫폼(공통) 44* 12 4 4 4 24 소계 142** 59 21 21 21 122 자동화 업무지원 판정·의사결정 45* 12 4 5 4 25 서비스 연계·처리 40* 10 3 4 3 20 기획·창작 42* 10 4 4 4 22 통합플랫폼(공통) 44* 12 4 4 4 24 소계 111** 44 15 17 15 91 대화형 서비스 상담 46* 13 5 4 4 26 번역 44* 12 5 4 3 24 추천·제안 47* 12 6 5 4 27 언어·문서처리 55* 18 6 7 4 35 통합플랫폼(공통) 44* 12 4 4 4 24 소계 156** 67 26 24 19 136 모니터링· 알람 모니터링·알림 43* 11 4 4 4 23 통합플랫폼(공통) 44* 12 4 4 4 24 소계 67** 23 8 8 8 47 합계 416*** 10 10 193 70 70 63 396 (통합플랫폼 중복 제외) 344 10 10 157 58 58 51 324 표 24 AI 기능분류에 따른 AI 성과지표 Pool 현황 (단위 : 개) * 13가지 기능분류의 계는 투입지표(10개), 과정지표(10개)를 기능 각각에 포함하여 계산함(개별 파악 용이) ** 13가지 기능분류의 소계는 분류별 중복 계산된 투입지표(10개), 과정지표(10개)를 한 번만 포함(소계 파악 용이) *** 합계는 소계에서 중복 계산된 투입지표(10개), 과정지표(10개)를 한 번만 포함하였음(합계 파악 용이) 공공부문 초거대 AI 도입 ･활용 가이드라인 72 AI 기능 분류 투입지표 (공통) 과정지표 (공통) 산출지표 결과지표 4가지 분류 13가지 분류 공공서비스 개선 행정효율성 향상 사회현안의 해결 지능형 정보 처리 (1~4) 1. 정보매칭· 추출 - 전문인력 투입 수 - 인프라 구축 비용 - 학습데이터 - AI 모델 복잡도 지수 - 데이터 품질 점수 - AI 개발 환경 성숙도 - A I 윤 리 준 수 지 수 - AI 전문인력 역량 지수 - 데이터 보안 투자 비율 - AI 모델 업데이트 주기 - 구축률 - 모델성능 - 데이터 품질 개선도 - 모델 복잡도 증가율 - 테스트커버리지 확대율 - 알고리즘 최적화 횟수 - 협업 효율성 지수 - 윤리적 검토 이행률 - 외부 전문가 자문 반영률 - 보안 취약점 개선율 - 검색 정확도 - 평균 검색 응답 시간 - 비정형 데이터에서의 정보 추출 정확도 - 일일 처리 가능 쿼리 수 - 시스템 오류율 - 새로운 데이터 소스 통합 시간 - 정보 매칭 정확도 - 다국어 지원 범위 - 정보 요약 품질 - 실시간 업데이트 빈도 - 개인화 수준 - 데이터 소스 다양성 - 판례 검색 정확도 향상률 - 허위 정보 확인 속도 향상률 - 고객 문의 응답 시간 감소율 - 정보 접근성 개선도 - 사용자 만족도 개선율 - 문헌 검색 시간 단축률 - 정보 공개 요청 처리 시간 감소율 - 의사결정 시간 단축률 - 업무 생산성 향상률 - 사기 탐지 정확도 개선율 - 정보 연계 활용도 - 오류 및 불필요한 절차 감소율 - 정보 활용 다양성 지수 2. 정보분석· 전환 - 처리된 정보 양 - 정보 분석·전환 속도 - 생성된 보고서·요약 건수 - 정보 소스 다양성 지수 - 정보 시각화 및 대시보드 제공 건수 - 데이터 통합 성공률 - 인사이트 도출 건수 - 예측 모델 정확도 - 실시간 데이터 처리 비율 - 데이터 품질 개선율 - 자동화된 보고서 생성 비율 - 다국어 분석 지원 범위 - 정보 활용 적시성 개선도 - 정보 분석 결과에 대한 이용자 신뢰도 - 사용자 만족도 개선율 - 정보 접근성 향상도 - 분석 결과 활용 비율 증가율 - 반복적 정보 분석 작업 자동화율 - 정보 분석 시간 단축률 - 업무처리 시간 단축률 - 의사결정 시간 단축률 - 부서 간 정보 공유 및 협업 증진도 - 데이터 기반 의사결정 비율 증가율 - 예측 정확도 개선율 - 이상 징후 조기 발견율 - 정책 효과성 향상률 3. 예측·계획 - 데이터 소스 다양성 지수 - 예측 시나리오 생성 수 - 변수 통합 지수 - 실시간 데이터 통합률 - 예측 정확도 개선율 - 계획 최적화 수준 - 예측 리드타임 - 시뮬레이션 처리 속도 - 예측 모델 적응성 지수 - 계획 실행 가능성 점수 - 다중 시나리오 비교 분석 능력 - 예측 정확도 향상률 - 선제적 위기 대응 증가율 - 시민 만족도 개선율 - 예측 리드타임 개선율 - 대응 시간 단축률 - 자원 활용 최적화율 - 비용 절감률 - 업무 처리 자동화율 - 정책 시나리오 다양성 지수 - 환경 영향 개선 지수 - 예측 모델 적응성 점수 - 사회적 영향력 지수 표 25 AI 성과지표 Pool 총괄표 P a r t4 . 공 공 부 문 A I 성 과 관 리 73 AI 기능 분류 투입지표 (공통) 과정지표 (공통) 산출지표 결과지표 4가지 분류 13가지 분류 공공서비스 개선 행정효율성 향상 사회현안의 해결 4. 식별·분류 - 전문인력 투입 수 - 인프라 구축 비용 - 학습데이터 - AI 모델 복잡도 지수 - 데이터 품질 점수 - AI 개발 환경 성숙도 - A I 윤 리 준 수 지 수 - AI 전문인력 역량 지수 - 데이터 보안 투자 비율 - AI 모델 업데이트 주기 - 구축률 - 모델성능 - 데이터 품질 개선도 - 모델 복잡도 증가율 - 테스트커버리지 확대율 - 알고리즘 최적화 횟수 - 협업 효율성 지수 - 윤리적 검토 이행률 - 외부 전문가 자문 반영률 - 보안 취약점 개선율 - 데이터 처리량 - 실시간 처리 응답시간 - 다중 객체 동시 식별 능력 - 오탐지율 - 미탐지율 - 클래스별 정확도 - 새로운 클래스 학습 속도 - 환경 변화 적응성 지수 - 데이터 품질에 따른 성능 변화율 - 설명 가능성 점수 - 다중 모달리티 통합 정확도 - 실시간 업데이트 적용 속도 - 대상 식별률 - 신원 확인 정확도 증가율 - 클래스별 정확도 - 사용자 만족도 개선율 - 검사 시간 단축률 - 이상 객체 탐지 시간 단축률 - 업무 처리 자동화율 - 데이터 품질에 따른 성능 변화율 - 이상 징후 조기 발견 향상도 - 환경 변화 적응성 지수 - 다중 모달리티 통합 정확도 - 실시간 업데이트 적용 속도 자동화 업무 지원 (5~7) 5. 판정·의사 결정 - 의사결정 처리 건수 - 의사결정 소요 시간 - 시스템 안정성 - 변수 선택률 - 예측 신뢰도 - 판정 일관성 지수 - 의사결정 설명 가능성 점수 - 인적 개입 필요 비율 - 다중 기준 충족도 - 이의제기 비율 - 판정 처리 용량 확장성 - 판정 기준 업데이트 주기 - 의사결정 정확도 향상률 - 판정 일관성 지수 - 의사결정 설명 가능성 점수 - AI시스템 신뢰도 향상률 - 인적 판정 오류 감소율 - 의사결정 시간 단축률 - 의사결정 비용 절감률 - 업무 처리 자동화율 - 인적 자원 재배치 효율성 - 데이터 기반 의사결정 비율 - 복합 요인 고려 능력 향상도 - 예외 상황 대응 정확도 - 정책 목표 달성 기여도 6. 서비스 연계·처리 - 연계 처리된 업무/민원 건수 - 연계 처리 소요 시간 - 자동화된 프로세스 비율 - 서비스 연계 성공률 - 데이터 통합 정확도 - 사용자 개입 필요 횟수 - 실시간 처리 비율 - 서비스 연계 다양성 지수 - 에러 복구 시간 - 사용자 만족도 점수 - 서비스 연계 처리 정확도 개선율 - 사용자 만족도 개선율 - 서비스 접근성 향상 지수 - 연계 처리 시간 단축률 - 업무 처리 자동화율 - 비용 절감률 - 데이터 통합 성공률 - 서비스 연계 다양성 지수 - 실시간 처리 비율 - 오류 발생률 감소율 공공부문 초거대 AI 도입 ･활용 가이드라인 74 AI 기능 분류 투입지표 (공통) 과정지표 (공통) 산출지표 결과지표 4가지 분류 13가지 분류 공공서비스 개선 행정효율성 향상 사회현안의 해결 7. 기획·창작 - 전문인력 투입 수 - 인프라 구축 비용 - 학습데이터 - AI 모델 복잡도 지수 - 데이터 품질 점수 - AI 개발 환경 성숙도 - A I 윤 리 준 수 지 수 - AI 전문인력 역량 지수 - 데이터 보안 투자 비율 - AI 모델 업데이트 주기 - 구축률 - 모델성능 - 데이터 품질 개선도 - 모델 복잡도 증가율 - 테스트커버리지 확대율 - 알고리즘 최적화 횟수 - 협업 효율성 지수 - 윤리적 검토 이행률 - 외부 전문가 자문 반영률 - 보안 취약점 개선율 - 자료·콘텐츠 제작 건수 - 자료·콘텐츠 맞춤화 건수 - 자료·콘텐츠 시각화 및 동영상화 건수 - 아이디어 생성 다양성 지수 - 콘텐츠 품질 점수 - 사용자 피드백 반영률 - 실시간 콘텐츠 업데이트 빈도 - 크로스 도메인 아이디어 생성 비율 - 콘텐츠 재사용성 지수 - AI 생성 콘텐츠 채택률 - 자료·콘텐츠에 대한 이용자 만족도 - 자료·콘텐츠에 대한 이용자 참여도 - 콘텐츠 품질 점수 - 사용자 맞춤화 정확도 - 자료·콘텐츠 제작 비용 절감률 - 자료·콘텐츠 제작 시간 단축률 - 업무 생산성 향상률 - 자동화된 보고서 생성 비율 - 자료·콘텐츠 홍보 효과 - 정책 시나리오 다양성 지수 - 사회적 영향력 지수 - 크로스 도메인 아이디어 생성 비율 대화형 서비스 (8~11) 8. 상담 - 처리된 상담 건수 - 평균 상담 처리 시간 - 동시 처리 가능한 사용자 수 - 인간 상담원 연결 요청 비율 - 지원되는 상담 주제 - 질의 응답 정확도 - 상담 만족도 점수 - 첫 응답 해결률 - 상담 세션 지속 시간 - 키워드 인식 정확도 - 상담 내용 요약 정확도 - 다국어 지원 정확도 - 상황 인식 대응 정확도 - 상담에 대한 사용자 만족도 - 상담 서비스 접근성 향상률 - 사용자 질의 해결 향상률 - 상담 정확도 향상률 - 사용자 맞춤화 정확도 - 상담 처리 시간 단축률 - 상담 서비스 운영 비용 감소율 - 업무 처리 자동화율 - 의사결정 시간 단축률 - 상담 내용 요약 정확도 - 다국어 지원 정확도 - 상황 인식 대응 정확도 - 상담 세션 지속 시간 9. 번역 - 처리된 번역 문서 수 - 평균 번역 처리 시간 - 실시간 음성 번역 지연 시간 - 실시간 번역 요청 처리 건수 - 헬프데스크 문의 및 해결 건수 - BLEU 점수(Bilingual Evaluation Understudy) - 도메인별 번역 정확도 - 다국어 지원 범위 - 용어 일관성 점수 - 문맥 이해 정확도 - 사용자 피드백 반영 속도 - 번역 메모리 활용률 - 번역 품질 일관성 향상률 - 다국어 문서 처리 능력 증가율 - 다국어 콘텐츠 생산량 증가율 - BLEU 점수 - 사용자 만족도 개선율 - 외부 번역 의뢰 비용 절감률 - 번역 작업 시간 단축률 - 업무 처리 자동화율 - 데이터 기반 의사결정 비율 증가율 - 전문 용어 번역 정확도 향상률 - 문맥 이해 정확도 향상률 - 문화적 감수성 반영 지수 P a r t4 . 공 공 부 문 A I 성 과 관 리 75 AI 기능 분류 투입지표 (공통) 과정지표 (공통) 산출지표 결과지표 4가지 분류 13가지 분류 공공서비스 개선 행정효율성 향상 사회현안의 해결 10. 추천· 제안 - 전문인력 투입 수 - 인프라 구축 비용 - 학습데이터 - AI 모델 복잡도 지수 - 데이터 품질 점수 - AI 개발 환경 성숙도 - A I 윤 리 준 수 지 수 - AI 전문인력 역량 지수 - 데이터 보안 투자 비율 - AI 모델 업데이트 주기 - 구축률 - 모델성능 - 데이터 품질 개선도 - 모델 복잡도 증가율 - 테스트커버리지 확대율 - 알고리즘 최적화 횟수 - 협업 효율성 지수 - 윤리적 검토 이행률 - 외부 전문가 자문 반영률 - 보안 취약점 개선율 - 일일 평균 추천·제안 제공 건수 - 추천 다양성 - 추천 정확도 - 추천 반응률 - 실시간 추천 처리 속도 - 개인화 수준 지수 - 추천 카테고리 커버리지 - 상황 인식 추천 비율 - 신규 아이템 노출 비율 - 장기 사용자 만족도 변화율 - 추천 설명 가능성 점수 - 교차 도메인 추천 성공률 - 추천·제안에 대한 이용자 만족도 - 추천·제안에 대한 이용자 참여도 - 추천·제안 채택률 - 이용자 유지율 - 사용자 맞춤화 정확도 - 시민 만족도 개선율 - 업무 처리 시간 단축률 - 오프라인 상담·문의 감소율 - 사용자의 의사결정 시간 단축률 - 자동화된 추천 비율 - 데이터 기반 의사결정 비율 증가율 - 정책 시나리오 다양성 지수 - 크로스 도메인 추천 성공률 - 사회적 영향력 지수 - 장기적 사용자 행동 변화율 11. 언어· 문서처리 - OCR 처리 문서 수 - 음성-텍스트 변환 시간 - 자동 분류 문서 수 - 실시간 음성 인식 지연 시간 - 실시간 자막 생성 시간 - 자연어 처리 정확도 - 문맥 이해 정확도 - 문서 처리량 - 평균 문서 생성 시간 - 사용자 작업 개입 횟수 - 시스템 응답 시간 및 처리 속도 - 다국어 처리 능력 지수 - 전문 용어 인식 정확도 - 문서 요약 품질 점수 - 문서 포맷 변환 정확도 - 감정 분석 정확도 - 문서 무결성 검증 비율 - 실시간 번역 정확도 - 공공 문서 접근성 향상률 - 자막 서비스 품질 개선율 - 자막 서비스 제공 범위 확대율 - 생성된 문서에 대한 사용자 만족도 - 다국어 처리 능력 향상률 - 문맥 이해 정확도 향상률 - 기록 및 전사 시간 단축률 - 문서 디지털화 처리량 증가율 - 문서처리 자동화율 - 문서 생성 시간 단축률 - 사용자 인터페이스 사용 편의성 점수 - 업무 처리 시간 단축률 - 오류 및 불필요한 절차 감소율 - 전화 통화 내용 자동 기록 정확도 향상률 - 공공 데이터 텍스트 분석 처리 속도 향상률 - 법률 용어 정확성 개선율 - 데이터 보안 사고 발생 건수 공공부문 초거대 AI 도입 ･활용 가이드라인 76 AI 기능 분류 투입지표 (공통) 과정지표 (공통) 산출지표 결과지표 4가지 분류 13가지 분류 공공서비스 개선 행정효율성 향상 사회현안의 해결 모니 터링· 알람 (12) 12. 모니터링 ·알람 - 전문인력 투입 수 - 인프라 구축 비용 - 학습데이터 - AI 모델 복잡도 지수 - 데이터 품질 점수 - AI 개발 환경 성숙도 - A I 윤 리 준 수 지 수 - AI 전문인력 역량 지수 - 데이터 보안 투자 비율 - AI 모델 업데이트 주기 - 구축률 - 모델성능 - 데이터 품질 개선도 - 모델 복잡도 증가율 - 테스트커버리지 확대율 - 알고리즘 최적화 횟수 - 협업 효율성 지수 - 윤리적 검토 이행률 - 외부 전문가 자문 반영률 - 보안 취약점 개선율 - 모니터링·알림 건수 - 알림 전달 시스템 응답 시간 - 처리 가능한 데이터 소스 수 - 처리 가능한 데이터 처리량 - 오탐지율 (False Positive Rate) - 미탐지율 (False Negative Rate) - 알림 우선순위 정확도 - 시스템 가동률 - 데이터 업데이트 주기 - 사용자 설정 알림 비율 - 알림 조치 완료율 - 알림 정확도 - 이상 징후 조기 발견율 - 사용자 만족도 개선율 - 상황 인식 추천 비율 - 위험 상황 대응 시간 감소율 - 오탐지율 감소율 - 실시간 대응 능력 향상률 - 에러 복구 시간 - 모니터링 대상 위험 유형 확대 정도 - 예방적 조치 효과성 - 통합 모니터링 효율성 - 장기적 위험 예측 정확도 공통 13. 통합 플랫폼 (공통) - 일일·월간 활성 사용자 수 - AI 기능별 사용 빈도·비율 - 동시 사용자 처리 능력 - 오류 및 버그 발생 빈도 - 플랫폼을 통해 제공되는 총 서비스 수 - 데이터 통합 성공률 - 실시간 데이터 처리 속도 - 크로스 도메인 분석 건수 - API 호출 성공률 - 사용자 정의 대시보드 생성 수 - 예측 모델 정확도 개선율 - 데이터 보안 사고 발생 건수 - 플랫폼 사용자 만족도 - 플랫폼 기능 활용률 - 서비스 연계 성공률 - 사용자 맞춤형 알림 정확도 - 업무 프로세스 개선율 - 의사결정 속도 향상률 - 데이터 통합 성공률 - 실시간 처리 비율 - 부서 간 협업 효율성 증가율 - 예측 정확도 개선율 - 이상 징후 조기 발견율 - 사회적 영향력 지수 PART5 부 록 공공부문 초거대 AI 도입 ･활용 가이드라인 78 5 부 록 5.1 공공 AI 서비스 실증 세부 현황 ※ 디지털플랫폼정부위원회(www.dpg.go.kr), 한국지능정보사회진흥원(www.nia.or.kr) 누리집 내 별첨 자료 참고 Part 5. 부 록 79 5.2 해외 AI 활용 사례 인벤토리 ※ 디지털플랫폼정부위원회(www.dpg.go.kr), 한국지능정보사회진흥원(www.nia.or.kr) 누리집 내 별첨 자료 참고 < 해외 AI 활용 사례 인벤토리 (예시) > 공공부문 초거대 AI 도입 ･활용 가이드라인 2.0 2025년 4월 발행 발 행 처 : 디지털플랫폼정부위원회 지 원 기 관 : 한국지능정보사회진흥원 제·개정 이력 일 자 내 역 ’24. 4. 발간 공공부문 초거대 AI 도입·활용 가이드라인 ’25. 4. 개정 공공부문 초거대 AI 도입·활용 가이드라인 2.0 ※ 이 가이드라인은 디지털플랫폼정부위원회 및 한국지능정보사회진흥원의 허락 없이 무단으로 가공할 수 없습니다.