책임 중심 AI는 윤리적 고려사항을 최우선으로 하면서 거버넌스와 관리·감독 체계를 내재화하여 AI 시스템을 설계·개발·배포·활용하는 것을 의미합니다. 책임 중심 AI는 단순한 규제 준수를 넘어, 기업의 기하급수적인 성장을 촉진하는 촉매제가 될 수 있습니다. 초기 단계부터 책임 중심 AI 원칙을 내재화한 조직은 더욱 확신을 갖고 AI를 확대 적용하고 혁신을 가속화할 수 있으며, 투명성과 공정성을 바탕으로 시장에서의 차별화를 이룰 수 있습니다.
윤리적 AI와 책임 중심 AI의 차이점은 무엇인가요?
윤리적 AI와 책임 중심 AI는 밀접하게 연관되어 있으나 서로 다른 개념입니다. 윤리적 AI는 AI 기술이 갖는 윤리적 함의에 초점을 맞추며, 무엇이 옳고 그른지 판단하는 기준을 제시합니다. 반면 책임 중심 AI는 한 걸음 더 나아가 거버넌스, 관리∙감독 및 리스크 완화를 포함하는 포괄적인 프레임워크를 제시합니다. 또한 AI를 투명하고 공정하며 책임있게 운영함으로써 윤리적 활용을 지원할 뿐만 아니라 조직이 지속가능한 경쟁우위를 확보하도록 지원합니다.
AI 시스템의 개발부터 운영까지 전 과정에서 책임 주체와 역할이 확실히 정의되어 있으며, AI의 영향과 생성된 결과물에 대한 책임도 명확하게 규정됩니다.
EY의 약속:
EY는 명확한 책임 체계를 내재화하고 비즈니스 목표 달성을 지원할 수 있도록 AI 시스템을 설계하고 구축합니다. 또한 피드백 제공 기회와 적절한 설명, 이의 제기를 위한 명확한 절차를 마련합니다. EY의 AI 기술은 EY 행동강령(EY Code of Conduct)에 명시된 가치에 부합하며, 사람이 수행하는 적정 수준의 관리∙감독 및 통제 하에 운영됩니다.
AI 시스템에서의 데이터 활용은 허용된 권한과 범위 내에서 이루어지며, 기업 및 개인 정보의 기밀성을 유지하고 윤리적 원칙을 반영합니다.
EY의 약속:
EY는 AI 시스템을 구동하는 데이터와 생성된 콘텐츠를 보호하기 위해 확고한 원칙을 적용하고 있습니다. 데이터 보호는 책임 중심 AI 프레임워크의 핵심 요소로, 단순한 컴플라이언스를 넘어 AI 시스템의 설계·개발·배포·활용 전 과정에 내재화되어 있습니다.
AI 시스템은 이해관계자의 기대에 부합해야 하며, 목표하는 수준의 정확성과 일관성을 지속적으로 유지해야 합니다.
EY의 약속:
EY는 신뢰할 수 있는 AI 시스템 구현을 지원하기 위해 노력하고 있습니다. EY는 혁신적이며 신뢰 가능한 AI 시스템을 구축하기 위해 적정 수준의 모니터링, 보고 및 개입 체계를 통합하고 있습니다. 이를 통해 AI 시스템이 비즈니스 목표 달성을 지원하는 과정에서 일관되고 안전하게 작동할 수 있도록 보장합니다.
AI 시스템과 이를 통해 처리되는 입력 및 출력 데이터는 무단 접근으로부터 보호되며, 데이터 변조 및 적대적 공격에 대응할 수 있는 복원력을 갖추고 있습니다.
EY의 약속:
EY는 AI 시스템의 보안과 안전을 최우선으로 고려합니다. 이를 위해 개발 과정 전반에서 AI 시스템으로부터 발생할 수 있는 리스크와 AI 시스템에 대한 위협에 대응하기 위해 모범 사례와 가이드라인을 준수합니다. 또한 기술 발전과 변화하는 위협 환경에 발맞춰 AI 시스템과 결과물을 보호할 수 있도록 AI 보안 리스크 관려 체계를 지속적으로 점검하고 고도화하고 있습니다.
AI 시스템의 목적, 설계 방식 및 영향에 대한 적정 수준의 정보를 제공하여, 최종 사용자를 포함한 이해관계자들이 AI 시스템과 그 결과물을 이해하고 평가하며 올바르게 활용할 수 있어야 합니다.
EY의 약속:
투명성은 EY의 AI 기술 개발 및 도입 과정에서의 핵심 원칙입니다. EY는 AI 시스템 학습에 사용되는 데이터는 물론, AI의 목적, 한계 및 활용 조건에 대해 적정 수준의 명확성을 제공하는 것이 중요하다고 인식합니다. 또한 다양한 이해관계자의 필요에 따라 기술 문서 및 사용자 지침을 쉽게 확인할 수 있도록 지원합니다. EY는 투명성을 바탕으로 인간의 주체적인 판단과 의사결정을 지원합니다. 이를 통해 AI 시스템이 충분한 정보를 바탕으로 책임감 있게 활용되고, 윤리적·전문적 기준에 부합하는 환경 조성에 노력하고 있습니다.
AI 시스템의 의사결정 기준과 결과물이 운영자에 의해 합리적으로 이해되고, 검토·검증될 수 있도록 적정 수준의 설명을 제공합니다.
EY의 약속:
EY는 적정 수준의 설명가능성을 통해 AI 기술과 사용자 간의 간극을 해소할 수 있도록 지원합니다. 또한 각 AI 시스템의 특성과 요구사항에 부합하도록 의사결정이 이루어지는 방식을 명확하고 구체적으로 설명하여, 사용자가 오류를 식별하고 검토하며 수정할 수 있도록 지원합니다. 이를 통해 책임성과 투명성 기반의 AI 활용 문화를 조성하고자 합니다.
AI 시스템과 결과물의 설계 및 활용이 긍정적이고 포용적인 사회적 가치 창출로 이어질 수 있도록, 영향을 받는 모든 이해관계자의 요구사항을 고려합니다.
EY의 약속:
공정성은 EY의 가치와 목적의 중심에 있습니다. EY는 AI 시스템과 그 결과물이 불공정하거나 차별적인 결과를 지속적으로 초래하지 않도록, AI의 주기 전반에 걸쳐 편향을 식별하고 완화하기 위한 선제적인 조치를 취하고 있습니다. 또한 EY는 다양성·형평성·포용성(DE&I) 원칙에 따라 AI 개발 과정 전반에 걸쳐 다양한 이해관계자의 참여를 유도하고 있습니다. 이를 통해 잠재적 리스크를 폭넓게 평가하고 공정성에 대한 접근 방식을 지속적으로 점검하여, 선도적인 모범 사례에 부합하도록 노력하고 있습니다.
AI 시스템과 그 결과물의 설계, 개발, 활용은 관련 법률, 규제 및 전문 기준을 준수합니다.
EY의 약속:
EY는 AI를 책임감 있게 설계·개발·배포·활용하기 위해 노력하며, 새로운 규제 환경에 선제적으로 대응하는 동시에 현행 규제를 준수하고 있습니다. 또한 기술과 규제가 지속적으로 발전하는 가운데 사회·규제·윤리 영역에서 새롭게 부상하는 이슈를 모니터링하고, 이를 AI 시스템의 거버넌스 및 운영 프로세스에 반영하고 있습니다.
AI 주기 전반에 걸쳐 기술이 미치는 영향을 고려하여 개인과 사회, 경제, 그리고 환경의 지속가능한 발전과 웰빙 증진을 추구합니다.
EY의 약속:
EY는 AI 시스템의 개발 및 도입 과정 전반에 지속가능성 관점을 반영하고 있으며, 고객의 AI 관련 업무를 수행하는 과정에서도 이를 중요하게 고려하고 있습니다. 또한 지속가능한 AI 구현과 AI를 활용한 지속가능성 증진을 위해 정부, 표준화 기구, 비정부기구(NGO), 학계 및 산업계와 협력하며 정책 수립과 공동 표준 개발에 기여하고 있습니다.
