(서울=뉴스1) 신은빈 김민재 기자 = 중국 스타트업 딥시크가 추론 인공지능(AI) 모델 '딥시크-R1'을 공개한 뒤 AI 기술 경쟁이 치열해졌지만, 정치적 검열 등 영향으로 특정 분야에서는 AI가 제대로 된 대답을 내놓지 못하고 있다.
일부 AI 챗봇에 정치적 인물·사안 관련 질문을 하자 답변을 회피하거나 언어에 따라 답을 달리했다.
6일 정보기술(IT) 업계에 따르면 구글의 AI 챗봇 제미나이는 정치적 인물 관련 질문을 할 경우 "선거와 정치적 인물 답변은 할 수 없다"고 안내한다.
실제로 제미나이의 최신 무료 모델인 '2.0 플래시'(2.0 Flash)에 "윤석열 대통령이 2월 4일 헌법재판소의 탄핵 심판 5차 변론기일에 참석해서 한 주요 발언을 정리해달라"고 명령하자 "잘못된 정보를 고의로 제공하는 일은 절대 없겠지만 저도 실수를 할 수 있다. 기능을 개선하는 동안에는 구글 검색 이용을 권장한다"는 대답이 돌아왔다.
직접적인 정보를 묻지 않고 우회적인 방식으로 질문을 해도 마찬가지였다.
"윤 대통령 경호처에서 근무했는데 체포 저지에 참여했다. 처벌받을 가능성이 있냐"고 묻자 선거·정치와 관련됐다는 이유로 답을 거부했다.
제미나이의 정치 답변 거부는 유료 버전 '어드밴스드'(Advanced)의 모든 모델에서 동일하게 나타났다.
최신 버전인 2.0 플래시는 물론 심층 답변에 특화된 '1.5 프로 위드 딥 리서치'(1.5 Pro with Deep Research), '2.0 엑스페리먼털 어드밴스드'(2.0 Experimental Advanced), 옛 버전 '1.5 프로'(1.5 Pro)와 '1.5 플래시'(1.5 Flash) 등 모델 5종 모두 윤 대통령의 내란죄 처벌 가능성을 묻는 우회 질문에 답하지 않았다.
이외에도 윤 대통령이 현재 머무르는 곳, 윤 대통령이 누구인지 등 '윤석열'이란 글자만 포함되면 객관적인 사실을 물어도 답변을 거부했다. 대한민국 대통령이 누구냐는 질문에도 답하지 않았다.
이재명 더불어민주당 대표, 조 바이든 전 미국 대통령 등 다른 정치적 인물도 결과는 같았다. 다만 도널드 트럼프 미국 대통령이 누군지 물었을 때는 질문 형태에 따라 지난 정보를 답하거나 답변을 거부하는 등 엇갈린 대답을 내놨다.
구글은 지난해 제미나이의 이미지 생성기가 제2차 세계대전에 참전한 독일 군인 이미지를 흑인 남성과 아시아 여성으로 표현하는 역사 오류를 일으키자 서비스를 일시 중단했다. 이후 제미나이의 대화형 서비스 챗봇에 정치 관련 질문을 못 하도록 규제한 것으로 알려졌다.
딥시크-R1 역시 정치 질문에는 쉽게 답을 내놓지 못했다.
중국어와 영어로 "현재 중국의 지도자가 누구인가"라고 물으면 "질문에 대답할 수 없다"는 답변이 나온다. 한국어로 물으면 시진핑 주석이라고 답한다.
이는 중국의 생성형 AI 검열 정책 영향으로 보인다. 학습 데이터는 검열과 관계없이 수집했지만 중국어와 영어에서 중국 정치 관련 답변을 막은 것으로 풀이된다.
중국은 2023년 8월 15일부터 '생성형 AI 서비스 관리 잠정 방법'을 적용하고 있다. 규제는 AI 서비스가 사회주의 핵심 가치를 반영하고, 국가 권력·사회주의 체제 전복 등 내용을 포함하지 않아야 한다고 규정한다.
글로벌 기업들은 AI의 신중하고 정확한 답변을 위해 기술을 고도화하고 있지만 그 과정은 까다로울 것으로 보인다.
AI 오픈소스 플랫폼 허깅페이스의 연구원인 사샤 루 루치오니 박사는 외신을 통해 "(역사와 정치 등 분야는) 어떤 답변을 생성하는 게 맞는지 판단하는 것 자체가 간단하지 않다"며 "AI 윤리 전문가들은 지난 수년간 해결 방법을 연구하고 있다"고 말했다.
bean@news1.kr
