logo

네이버는 ASF Beta에서 정의한 악용 위험을 AI 서비스 내에서 발생할 수 있는 위험으로 구체화하여 분류했습니다. 이를 바탕으로 사용자, 사회 구성원, AI 서비스 생태계를 보호 대상으로 보고, 개별적인 보호 가치를 정의한 AI 위험 분류 체계를 적용하고 있습니다.

AI 위험 분류 체계 (AI Risk Taxonomy)
네이버는 「네이버 AI 윤리 준칙」에서 언급한 사용자의 가치를 크게 세 가지로 구체화하여 보호하고자 하며, 구체적으로는 AI Safety에 대한 사전과 사후 영향 평가를 통해 지속적으로 안전성을 높여 나가고자 합니다.

네이버는 AI 위험 분류 체계를 통해 사전에 정의한 위험과 서비스를 기획, 개발, 운영해 가는 과정에서 발생하거나 발생할 수 있는 위험을 체계화하면서 서비스 내에서 발생할 수 있는 위험을 식별합니다.

AI 영향 평가 매트릭스 (AI Impact Assessment Matrix)
AI 영향 평가 매트릭스는 AI 서비스의 생애주기 전반을 고려하여, 해당 AI 서비스가 높은 위험에 해당하는 특수 영역인지 일반 영역인지를 먼저 구분합니다. 그리고 일반 영역에 해당하는 서비스는 다시 활용 범위가 넓은 경우와 좁은 경우로 나누어, 보호 대상과 보호 가치에 미치는 영향 수준을 고려해 안전 조치를 결정합니다.

안전성 평가
AI 위험 분류 체계를 통해 사전에 정의된 위험과 서비스를 운영해 가는 과정에서 발생할 수 있는 위험을 식별한 후, AI 서비스에 대한 안전성 평가를 실시합니다.

사용자 커뮤니케이션
네이버는 누구나 편리하게 AI를 활용할 수 있도록 하면서 일상에서 AI의 활용이 있는 경우 사용자에게 그에 대한 합리적인 설명을 하기 위한 책무를 다하고 있습니다.

네이버 AI 윤리·안전 자문 실행 체계 (CHEC 2.0)
ASF 2.0을 구성하면서 AI 모델과 서비스에 대한 안전성 그리고 인공지능 생성물에 대한 사용자 커뮤니케이션을 강화해, AI 윤리와 함께 AI Safety에 대한 사항을 점검하는 「네이버 AI 윤리·안전 자문 실행 체계 (Consultation on Human-centered AI's Ethics and Safety Considerations, 'CHEC 2.0')」를 마련했습니다.

CHEC 2.0은 개별 서비스 부서에서 AI Safety를 실행할 수 있도록 가이드를 제공하면서, 사회에서 요구되는 AI Safety의 수준을 반영하기 위해 서비스 부서와 AI Safety Center가 협업하는 전사적 실행 체계입니다.

ASF 2.0은 기존의 AI Safety 거버넌스 구조를 고도화하여 AI Safety 3계층(layer) 관리 감독 체계를 구축했습니다. 이와 함께 학계, 정부 기관, 국내외 AI 안전 네트워크와 협력하며, 외부의 다양한 시각을 ASF에 반영하고 있습니다.

네이버의 AI Safety에 대한 경험과 노하우는 다양한 결과물로 정리하여 사용자와 사회 구성원과 함께 공유해 나가고자 합니다.

네이버는 이러한 과정에서 축적된 경험이 단순히 한 기업의 자산으로 남는 것이 아니라, 사회 구성원 모두의 자산이 될 수 있도록 노력하겠습니다.

네이버는 AI 기술이 우리의 삶을 편리하게 만들어 줄 수 있지만, 세상의 다른 모든 것처럼 완벽할 수 없다는 점을 인식하고 있습니다. 네이버는 AI가 사람을 위한 일상의 도구가 될 수 있도록 지속적으로 살펴보며 개선해 나가겠습니다.