챗GPT 대화내용 모니터링·필터링 기술, 업무생산성은 높이고 사내기밀정보유출 위험은 낮춰
[보안뉴스 이소미 기자] 데이터 보호 전문기업 지란지교데이터(대표 조원희)는 챗GPT 오남용으로 인한 기밀정보 및 개인정보 유출을 방지를 위해 챗GPT 모니터링 기능을 포함한 인공지능 기반 데이터 보호 솔루션 ‘AI필터(FILTER)’를 출시했다고 밝혔다. 데이터 보호를 위해 15년 이상 쌓은 요소기술을 집약함으로써 좀 더 발 빠른 대응이 가능했다는 설명을 업체는 덧붙였다.
챗GPT와 같은 대언어 모델(LLM) 기반 생성형 인공지능 서비스는 학습된 데이터를 기반으로 사용자 질문에 답변한다. 특히 사용자의 질문과 답변에 대한 평가를 학습함으로써 답변 수준을 지속적으로 높이는 것이 특징이다. 하지만 사용자의 질문을 학습한다는 점에서 기업의 기밀정보가 학습돼 불특정 다수에게 공개될 수 있다는 우려 역시 제기되고 있다.
실제 국내 모 기업에서 챗GPT 사용으로 인한 사내 정보 유출 사례가 나왔다. 프로그램 오류를 해결하는 과정에 챗GPT를 활용한 사실이 사내 모니터링 과정에서 밝혀진 것이다. 이 기업은 챗GPT 사용에 대한 주의를 환기하며 질문 시 업로드 용량을 제한하는 등의 조치를 취했다. 더불어 일부 부서는 챗GPT 사용을 금지시키기도 했다.
정보보호분야 일각에서는 “챗GPT API를 이용함으로써 업무 효율을 높여야 하는데 이럴 때 최소한 챗GPT로 보내는 질의와 응답 내용 모니터링은 필요할 수밖에 없다”고 지적한 바 있다.
지란지교데이터의 인공지능 기반 데이터 보호 솔루션 ‘AI필터’는 챗GPT에 입력하는 내용(프롬프트)을 모니터링함으로써 사내 기밀정보 유출 방지가 가능하다. 챗GPT에 작성되는 질의와 응답 내용을 모니터링하며, 지정된 키워드나 문장 패턴 등이 탐지될 때 차단하는 기능을 제공한다.
‘AI필터’의 챗GPT 모니터링 주요기능은 △사내 챗GPT 인터넷 네트워크 차단 △회사 기밀정보 및 개인정보 보호를 위한 질의답변 내용 필터링 등이다. 더불어 지란지교데이터는 사내에서 챗GPT 등 생성형 인공지능 서비스는 물론, 번역 서비스에서도 기밀 및 개인정보 유출을 방지할 수 있는 업무 전용 웹포털을 개발해 제공할 예정이다.
인공지능 기반 데이터 보호 솔루션 ‘AI필터’는 API 방식으로 제공하는 것이 특징이다. 지란지교데이터의 데이터 및 개인정보보호 제품군 ‘필터 시리즈’는 물론 협업툴과 그룹웨어 등 다양한 솔루션과의 연동으로 개인정보 및 기업 주요정보 유출을 방지할 수 있다.
조원희 지란지교데이터 대표는 “챗GPT로 인한 정보 유출을 방지하기 위한 가장 쉬운 방안은 챗GPT 접속을 차단하는 것이다. 하지만 이는 인공지능 기술을 활용함으로써 얻을 수 있는 업무효율성 향상 등의 이점을 포기하는 것과 같다. 단순히 차단할 것이 아니라 정보를 보호하면서 챗GPT를 활용할 수 있는 방안을 모색해야 한다”고 강조했다. 이어 “지란지교데이터의 인공지능 기반 데이터 보호 솔루션 ‘AI필터’는 API 연동으로 다양한 솔루션에도 적용할 수 있다. 이를 챗GPT에 적용함으로써 기밀정보 및 개인정보 유출은 막고, 인공지능 서비스 활용으로 인한 이점까지 모두 누릴 수 있을 것”이라고 덧붙였다.
[이소미 기자(boan4@boannews.com)]
[보안뉴스 이소미 기자] 데이터 보호 전문기업 지란지교데이터(대표 조원희)는 챗GPT 오남용으로 인한 기밀정보 및 개인정보 유출을 방지를 위해 챗GPT 모니터링 기능을 포함한 인공지능 기반 데이터 보호 솔루션 ‘AI필터(FILTER)’를 출시했다고 밝혔다. 데이터 보호를 위해 15년 이상 쌓은 요소기술을 집약함으로써 좀 더 발 빠른 대응이 가능했다는 설명을 업체는 덧붙였다.
▲지란지교데이터가 챗GPT 오남용으로 인한 정보 유출을 방지할 수 있는 ‘AI필터’를 출시했다[이미지=지란지교데이터]
챗GPT와 같은 대언어 모델(LLM) 기반 생성형 인공지능 서비스는 학습된 데이터를 기반으로 사용자 질문에 답변한다. 특히 사용자의 질문과 답변에 대한 평가를 학습함으로써 답변 수준을 지속적으로 높이는 것이 특징이다. 하지만 사용자의 질문을 학습한다는 점에서 기업의 기밀정보가 학습돼 불특정 다수에게 공개될 수 있다는 우려 역시 제기되고 있다.
실제 국내 모 기업에서 챗GPT 사용으로 인한 사내 정보 유출 사례가 나왔다. 프로그램 오류를 해결하는 과정에 챗GPT를 활용한 사실이 사내 모니터링 과정에서 밝혀진 것이다. 이 기업은 챗GPT 사용에 대한 주의를 환기하며 질문 시 업로드 용량을 제한하는 등의 조치를 취했다. 더불어 일부 부서는 챗GPT 사용을 금지시키기도 했다.
정보보호분야 일각에서는 “챗GPT API를 이용함으로써 업무 효율을 높여야 하는데 이럴 때 최소한 챗GPT로 보내는 질의와 응답 내용 모니터링은 필요할 수밖에 없다”고 지적한 바 있다.
지란지교데이터의 인공지능 기반 데이터 보호 솔루션 ‘AI필터’는 챗GPT에 입력하는 내용(프롬프트)을 모니터링함으로써 사내 기밀정보 유출 방지가 가능하다. 챗GPT에 작성되는 질의와 응답 내용을 모니터링하며, 지정된 키워드나 문장 패턴 등이 탐지될 때 차단하는 기능을 제공한다.
‘AI필터’의 챗GPT 모니터링 주요기능은 △사내 챗GPT 인터넷 네트워크 차단 △회사 기밀정보 및 개인정보 보호를 위한 질의답변 내용 필터링 등이다. 더불어 지란지교데이터는 사내에서 챗GPT 등 생성형 인공지능 서비스는 물론, 번역 서비스에서도 기밀 및 개인정보 유출을 방지할 수 있는 업무 전용 웹포털을 개발해 제공할 예정이다.
인공지능 기반 데이터 보호 솔루션 ‘AI필터’는 API 방식으로 제공하는 것이 특징이다. 지란지교데이터의 데이터 및 개인정보보호 제품군 ‘필터 시리즈’는 물론 협업툴과 그룹웨어 등 다양한 솔루션과의 연동으로 개인정보 및 기업 주요정보 유출을 방지할 수 있다.
조원희 지란지교데이터 대표는 “챗GPT로 인한 정보 유출을 방지하기 위한 가장 쉬운 방안은 챗GPT 접속을 차단하는 것이다. 하지만 이는 인공지능 기술을 활용함으로써 얻을 수 있는 업무효율성 향상 등의 이점을 포기하는 것과 같다. 단순히 차단할 것이 아니라 정보를 보호하면서 챗GPT를 활용할 수 있는 방안을 모색해야 한다”고 강조했다. 이어 “지란지교데이터의 인공지능 기반 데이터 보호 솔루션 ‘AI필터’는 API 연동으로 다양한 솔루션에도 적용할 수 있다. 이를 챗GPT에 적용함으로써 기밀정보 및 개인정보 유출은 막고, 인공지능 서비스 활용으로 인한 이점까지 모두 누릴 수 있을 것”이라고 덧붙였다.
[이소미 기자(boan4@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
이소미기자 기사보기
[2024-05-04] 
