생성형AI 쓸까말까? 망설인 기업들…"지원 서비스가 답"

등록 2023.12.10 08:01:00수정 2023.12.10 08:17:29

생성형AI 도입 원하는 기업 많지만

전문인력, 비용 부족으로 부담느껴

업무에 쉽게 활용 B2B 서비스 출시

[서울=뉴시스] 인공지능(AI). (사진=뉴시스 DB). photo@newsis.com

[서울=뉴시스] 인공지능(AI). (사진=뉴시스 DB). [email protected]

[서울=뉴시스] 배민욱 기자 = 지난해 말 챗GPT가 출시된 이후 전 세계적으로 생성형AI(인공지능) 수요 열풍이 불고 있다. 회사 내부에 생성형AI를 도입하려는 기업들의 수요도 많아지고 있다.

하지만 기업들의 망설임도 존재하고 있다. 비용 부족과 운용·관리의 어려움 때문이다. 이 같은 기업들에 생성형AI 도입을 지원하는 서비스도 속속 등장하고 있다. 더 쉽고 자유롭게 생성형AI를 업무에 활용할 수 있는 서비스 제공에 나선 것이다.

10일 관련 업계에 따르면 HR(인적자원) 테크기업 원티드랩은 구독형 생성형AI 개발툴인 '원티드 LaaS(LLM-as-a-Service)'을 선보였다. 생성형AI 기반의 서비스를 개발하고자 하는 기업들을 지원하기 위해서였다.

원티드 LaaS는 올해 초부터 생성형AI를 활용한 서비스를 개발·운영해온 원티드랩이 그 과정에서 쌓은 노하우를 담아 기업들을 위해 출시한 B2B(기업간거래) 서비스다.

기업들은 원티드 LaaS 사용 시 다양한 종류의 LLM(대규모언어모델)을 하나의 완성된 서비스처럼 쉽게 사용할 수 있다. 또 ▲서비스 개발 시간 단축 ▲프롬프트 버전·로그와 사용량 관리 ▲운영시 개발 리소스 절감 등의 효과를 얻을 수 있다.

원티드 Laas를 활용하면 3일 이내에 필요로 하는 생성형AI 서비스 개발이 가능하다. 일반적인 경우 하나의 생성형AI 서비스를 개발하는 데 최소 2주간의 시간이 소요된다고 한다. 개발 시간이 5분의 1수준으로 줄어든다.

프롬프트 개발을 위한 다양한 기능도 제공된다. 프롬프트 내 입력한 변수를 자동 인식해 프리셋 API(응용프로그램 인터페이스)로 즉시 배포가 가능하다. 만들어진 프리셋은 버전관리와 프리셋별 토큰 사용량까지 효과적으로 모니터링할 수 있다.

생성AI 프롬프트는 지속적인 보완이 중요하다. 원티드 LaaS는 프롬프트 변경 시 즉시 서비스에 반영된다. 프롬프트 보완·개발·배포로 이어지는 추가 과정 없이 실시간 대응이 가능하다.

LG CNS의 'DAP 젠(Gen)AI'는 AI서비스, 프롬프트, LLMOps(대형언어모델 운영) 등 3대 모듈을 통합 제공하는 기업용 생성형AI 플랫폼이다. 기업은 이 플랫폼을 통해 생성형AI 서비스의 기획부터 개발·운영까지 가능하다. 다양한 LLM을 활용해 복잡한 영역의 서비스까지 만들 수 있다.

또 AI프롬프트에는 인공지능이 정교한 답변을 할 수 있도록 명령하는 '프롬프트 엔지니어링'이 탑재돼 있다. 이를 활용하면 마케팅 문구와 같이 목적에 어울리는 결과를 얻을 수 있는 새로운 프롬프트를 만들 수 있다. 'LLM옵스'를 활용하면 다양한 오픈소스 LLM을 파인튜닝(Fine-tuning·미세조정)도 가능하다.

SK C&C가 개발한 AI 기반 기업보고서 제작 솔루션도 있다. 보고서 종류를 지정하면 AI가 해당 기업의 특성을 담은 일반 보고서를 제작한다. 시장 현황이나 마케팅 동향 등 필요한 분석 분야를 지정할 수 있다. 기업 경영자(C레벨) 눈높이에 맞춘 프레젠테이션이나 문서까지 만들어 준다.

특히 보고 관련 데이터는 모두 기업 내부에 처리 보관된다. 정부 유출 위험도가 낮아진다. 외부 생성형AI를 사용하지만 API형태로 호출해 필요한 데이터만 확보한다. 외부에서는 해당 데이터가 어떻게 활용되는지 알 수 없다.

SK C&C는 국내외에서 쏟아지는 시장분석 리포트 등에 대해 고객이 원하는 핵심 내용만 요약해 알려주는 AI 간편 보고서도 준비 중이다.

업계 관계자는 "생성형AI가 필요하지만 전문 인력과 비용이 부족해 도입을 포기하는 기업들이 있다"며 "앞으로도 생성형AI 도입을 지원하는 서비스들이 계속해서 등장할 것"이라고 말했다.

◎공감언론 뉴시스 [email protected]