NIA, 'LLM 기반 생성AI 공공기관 도입 방안 세미나' 개최

[지디넷코리아]

한국지능정보사회진흥원(NIA, 원장 황종성)이 ‘LLM 기반 생성형 AI의 공공기관 도입방안 세미나’를 18일 대구 본원에서 개최했다.

한국과학기술기획평가원(원장 정병선, 이하 KISTEP)이 참여해 거대언어모델(LLM) 기반 초거대 AI의 공공기관 구축 방법에 대한 다양한 이슈를 다뤘다. 챗GPT 열풍으로 대규모 언어모델 기반의 초거대 AI에 대한 관심이 급증함에 따라 공공기관에 생성형 AI 구축방법에 대한 다양한 이슈가 존재, 이에 대한 해결방안을 모색하기 위해 마련했다.

세미나에서 KISTEP은 선도적으로 적용하고 있는 LLM 기반 생성형 서비스 개발 경험사례를 중심으로 장단점 및 앞으로의 제언을 소개했다. 특별강연을 한 정병선 KISTEP 원장은 거대언어모델 AI의 오픈소스 기술혁신 필요성과 융합이 가져올 긍정적 효과를 강조했다. KISTEP은 기관 내부에서 LLM 기반 지능형 검색, 문서 분류, 동향과 이슈 탐색 및 분석, 내용요약, 질의응답 등 직원들의 실제 업무 효율화 기여하고 있는 사례를 소개하는 한편 오픈소스 한국어 LLM 모델 필요성을 비롯한 고성능 GPU 컴퓨팅 자원 부족, 전문인력 부족, 멀티모달 부재 등의 한계점도 언급했다.

또 세미나에서 NIA는 초거대 AI 기반 디지털플랫폼정부 구현을 위한 전담기관으로서 생성형 AI를 공공부문에 적용하기 위한 정보 정확성 한계, 내부정보 유출 가능성 검토, 자체 생성 AI 모델 개발을 통한 기술 자립 가능성 등을 중점적으로 살폈다.

NIA 황종성 원장은 “언어모델 경량화, 성능향상을 통해 조만간 공공기관의 지식을 활용한 특화모델 LLM, 온프레미스(사내 시스템) 서비스를 가능하게 하는 혁신이 촉발할 것으로 전망한다”면서, “이번 세미나를 통해 파인튜닝 학습데이터 및 컴퓨팅 자원의 필요성을 다시 한번 인식했고, 향후 초거대 AI 정책수립에 반영할 계획”이라고 밝혔다.