카카오 AI 앱 '카나나', 개인정보위 '사전적정성 검토' 통과

정신아 카카오 대표가 지난해 10월 경기 용인시 카카오AI캠퍼스에서 열린 카카오 개발자 컨퍼런스 '이프카카오 2024'에서 신규 AI 서비스 '카나나'를 발표하고 있다.ⓒ카카오

카카오의 인공지능(AI) 비서 서비스인 '카나나'가 개인정보보호위원회(개인정보위)의 '사전적정성 검토제'를 통과했다.

개인정보위는 지난 12일 전체회의를 열고 카나나에 대한 사전적정성 검토 결과를 심의·의결했다고 13일 밝혔다. 카카오는 지난해 12월 10일 카나나 서비스에 대한 사전적정성 검토를 개인정보위에 신청했다.

사전적정성 검토제는 사업자가 AI 등 신기술이나 신서비스를 기획하고 개발하는 단계에서 기존 법해석·집행 선례만으로는 명확한 개인정보 보호법 준수방안을 찾기 힘든 경우, 개인정보위와 협력해 법 적용방안을 마련하는 제도다. 검토에서 적정 판단이 나면 추후 관련 행위가 발생했을 때 법적 조치가 취해지지 않는다.

검토제가 서비스 출시에 필수적인 과정은 아니나 카카오는 선제적으로 관련법을 준수하는 수준의 개인정보 안전조치 방안을 적용하기 위해 정부에 검증을 요청했다.

카카오는 안전장치(가드레일) 역할의 AI 모델이 탑재돼 악의적인 이용자가 타인의 개인정보를 캐내기 위해 유도 질문을 하면 차단하거나, 언어모델이 생성하는 답변을 통해 타인의 개인정보(전화번호, 이메일 등 식별성이 높은 정보)가 노출되지 않도록 검수할 계획이다.

또 개인정보위와 협의해 ▲암호화 등 기술적 보안조치 강화 ▲외부모델 처리데이터 보호 강화 ▲내부 학습에 이용시 별도 추가적 안전조치 운영 ▲내부 관리체계 강화 등 안전 조치 방안을 마련했다.

카카오는 카나나가 하나의 대화방에서 알게 된 참여자 개인정보를 다른 대화방에서 발설하지 않도록 기술적 안전장치를 강화한다. 또 이용자 대화 데이터를 자사 거대언어모델(LLM) 학습데이터로 활용하려면 카나나 이용자로부터 별도 동의를 받도록 하는 절차를 마련한다.

오픈AI가 대화 데이터 중 고유식별정보나 계좌, 카드번호 등 식별성 강한 개인정보를 알아볼 수 없도록 암호화 처리도 진행한다. 카나나는 카카오 자체 LLM을 주로 활용하고 오픈AI의 GPT 모델을 보완적으로 활용한다. 오픈AI와의 위수탁 계약에 데이터를 오픈AI의 사업 목적으로 활용되지 않도록 해야 한다는 조건도 담기로 했다.

이번 사전적정성 검토제 통과로 카나나 앱 베타 버전은 상반기 중 무난히 출시될 것으로 점쳐진다. 정신아 카카오 대표는 지난달 4일 카카오와 오픈AI의 공동 기자간담회에서 상반기 중 일반인 대상 베타 테스트를 진행, 연내 정식 버전을 출시할 계획이라고 밝힌 바 있다.