NAVER AI Safety Progress Report 2026
NAVER AI Safety Progress Report 2026
AI는 정보를 제공하는 단계를 넘어 사용자를 대신해 행동하는 에이전트로 발전하고 있으며, 하나의 서비스 안에서 여러 모델과 도구가 결합되고 있습니다. 그만큼 AI가 사람과 사회에 미치는 영향도 넓고 복합적으로 변화하고 있습니다. 특히 2026년 1월 인공지능기본법이 시행되면서, 법이 정한 최소 기준 위에서 각 서비스가 마주하는 위험을 기업이 스스로 정의하고 관리하는 일이 더욱 중요해졌습니다.
동일한 모델이라도 어떤 서비스에서 어떻게 활용되는지에 따라 위험의 유형과 요구되는 안전의 수준이 달라지기에, 수천만 명이 매일 이용하는 서비스를 운영하는 네이버는 모델을 넘어 서비스 단위로 안전 관리의 범위를 넓혔습니다. AI를 잘 만드는 일을 넘어 AI를 안전하게 서비스하는 일까지를 스스로의 과제로 삼아 온 것입니다. 네이버는 AI Safety를 혁신을 제한하는 조건이 아니라, 더 많은 사람이 AI를 믿고 활용할 수 있도록 하는 혁신의 기반으로 보고 있습니다.
『NAVER AI Safety Progress Report 2026』은 네이버의 AI Safety 원칙과 체계가 실제 서비스 현장에서 어떻게 작동하는지를 처음으로 정리해 공개하는 문서입니다. 이번 리포트는 네이버의 AI Safety 거버넌스와 프레임워크, 현장에서의 실천, 대표 사례, 그리고 국내외 협력을 다음과 같이 담았습니다.
Governance & Framework: 서비스 중심 AI Safety Framework, NAVER ASF 2.0과 실행 체계 CHEC 2.0
네이버는 2021년 '네이버 AI 윤리 준칙'을 시작으로, AI 안전을 선언에 머무르지 않고 구체적인 기준과 실행 체계로 발전시켜 왔습니다. 2024년 프론티어 AI 모델의 위험을 다룬 NAVER ASF Beta를 거쳐, 2026년 7월에는 관리의 범위를 모델에서 사용자와 서비스로 넓힌 NAVER ASF 2.0을 공개했습니다.
NAVER ASF 2.0은 위험을 정의·분류하고, 식별·평가하며, 관리·개선하는 세 가지 축으로 구성되며, 이 원칙과 기준이 서비스 현장에서 실제로 작동하도록 잇는 전사 실행 체계가 CHEC 2.0(AI 윤리·안전 자문 실행 체계)입니다. CHEC 2.0은 서비스의 기획 단계부터 출시 이후 평가까지 전 주기에 걸쳐 작동하며, 서비스 부서와 전담 조직인 AI Safety Center가 함께 참여합니다.
이 체계는 한 번의 점검으로 위험을 완전히 없애기보다, 예방하고 조기에 발견해 대응하고 개선하는 여러 겹의 안전장치를 서비스 전 주기에 쌓아 가는 방식으로 작동합니다. 네이버는 이를 뒷받침하기 위해 2026년 3월 AI 리스크 관리 기능을 AI Safety Center로 재편하고, 실무 조직에서 전담 조직, 이사회로 이어지는 3계층의 관리·감독 체계를 마련했습니다.
Safety in Practice: 가드레일, 안전성 평가, 사용자 커뮤니케이션
생성형 AI는 같은 질문에도 매번 다른 답을 내놓을 수 있어, 출력의 경계를 미리 정하는 일이 안전의 출발점이 됩니다. 네이버는 AI 서비스에서 발생할 수 있는 위험을 유형별로 촘촘하게 분류·식별하는 체계를 두고, 항목마다 위험의 성격에 맞는 대응 원칙을 연결했습니다. 예를 들어 건강이나 법률처럼 전문적 판단이 필요한 질문에는 단정적인 답 대신 한계를 함께 안내하고, 위기에 놓인 사용자의 질문에는 답변을 거절하기보다 전문 기관의 도움을 안내합니다.
안전성 평가는 서비스의 응답을 유해성과 사용성 두 관점에서 함께 살펴봅니다. 위험한 내용을 걸러내는 동시에 사용자에게 필요한 답변까지 막지는 않도록 균형을 맞추어, 안전을 이유로 서비스의 유용함이 줄어들지 않게 하는 데 목적을 두었습니다.
또한 AI 쇼핑 에이전트와 네이버 날씨 세이프티처럼 생성형 AI가 적용된 서비스에서는, 그 결과물이 AI로 생성되었다는 사실과 한계를, 형식적인 고지에 그치지 않고 사용자가 실제로 이해할 수 있도록 눈높이에 맞춰 안내하고 있습니다.
Case Study: CHEC 2.0의 주요 사례, AI탭
하루 수천만 명이 사용하는 검색 서비스에 생성형 AI를 더하는 일은 기술 혁신이자 동시에 안전 관리의 과제입니다. 네이버는 대화형 AI 검색 서비스 'AI탭'을 설계 단계부터 출시 이후 운영에 이르기까지 서비스 부서와 AI Safety Center가 한 팀으로 함께 만들었습니다. 서비스의 특성과 이용 맥락에 맞는 위험 분류 체계와 안전 정책을 함께 설계하고, CHEC 2.0의 자문 과정을 거쳐 점검했습니다.
검색창을 8년 만에 개편해 2026년 6월 정식 출시한 AI탭은 한 달이 되지 않아 누적 사용자 1,000만 명을 넘어섰습니다. 출시 이후에도 사용자 피드백을 반영해 안전 정책을 지속적으로 개선하고 있으며, 이는 사용자가 안전을 따로 의식하지 않더라도 서비스 경험 안에 안전이 자연스럽게 녹아들도록 하려는 과정입니다.
Working Together: 함께 만들어 가는 AI Safety, 연구 및 협력
AI Safety의 기준은 네이버 혼자 만들 수 있는 것이 아닙니다. 네이버는 학계와의 공동 연구는 물론 유관 기관, 외부 전문가, 국제기구와의 협력을 통해 지식과 고민을 나누며 AI Safety의 기준을 함께 만들어가고 있습니다.
네이버 AI Lab이 KAIST와 함께한 레드팀(공격자의 관점에서 취약점을 미리 찾아내는 안전성 검증) 연구는 ICML 2026에서 발표됐고, 이 논문은 전체 채택 논문 가운데 상위 약 2.2%에 주어지는 스포트라이트에 선정되었습니다. 또한 NAVER ASF 2.0 초안 단계에서 서울대 인공지능 정책 이니셔티브(SAPI)의 자문을 받았고, 고려대 인공지능안전연구센터 특별 세미나와 인공지능안전연구소가 주관한 제2회 인공지능 안전 서울 포럼(SFASS 2026) 등에서 그 방향과 현장 경험을 국내외 전문가들과 나눴습니다. 인공지능안전연구소가 발간한 『국제 AI 안전 보고서 2026』 한국어판에는 다국어 환경에서의 안전성 평가와 레드팀 활동 등 네이버의 노력이 소개되었습니다.
리포트에는 네이버 AI Safety의 방향을 짚은 유봉석 CRO(최고 책임경영 책임자)와 원성재 AI Safety Center 센터장의 발간사, 그리고 인공지능안전연구소 김명주 소장의 추천사도 함께 실렸습니다.
이번 리포트는 NAVER ASF 2.0에서 약속한 '경험과 노하우의 공유'를 실천하는 첫걸음입니다.
네이버는 무엇을 시도했고 그 과정에서 무엇을 배웠는지를 기록하고 공개함으로써 스스로를 점검하고, 사회와 함께 더 나은 답을 찾아가겠습니다. 앞으로도 AI가 사람을 위한 일상의 도구로 발전할 수 있도록 끊임없이 질문하고, 점검하고, 개선하며 그 과정을 공유하겠습니다.
전문은 첨부된 PDF에서 확인하실 수 있습니다.
