MS, “규제가 AI 기술 발전에 지침 될 수도”

1%, 7%, 12%, 35%. 각각 백인 남성, 백인 여성, 흑인 남성, 흑인 여성이 안면인식 소프트웨어를 사용했을 때 인식 오류율이다. 인공지능(AI) 학습에 사용되는 안면인식 데이터가 백인 남성 위주로 편향됐다는 점이 기술적 차별을 낳았다.

미국 아마존이 개발한 AI 고용 시스템은 소프트웨어 개발자나 기술직군에서 여성 지원자를 배제했다. 아마존은 지난 10년간 회사에 접수된 입사 지원서를 기초로 훈련 데이터를 구축했는데, 당시 지원자 대부분이 남성이었던 점을 반영해 데이터 편향이 발생한 탓이다.

지난해 AI 분야에서 논란이 된 부분은 기술에 내재된 차별 가능성이다. 기술은 중립적이라는 말이 무색하게 다양한 부작용들이 불거져 나왔다. AI 기술의 부작용에 대한 우려가 늘면서 자성의 목소리도 커졌다. 글로벌 IT 기업들은 ‘윤리적 AI’를 강조하기 시작했다. 마이크로소프트는 이 분야에서 선두주자다. 2016년부터 ‘AI 디자인 원칙’과 ‘AI 윤리 디자인 가이드’를 공개하며 윤리적 AI의 필요성을 주장해왔다. 써니 박 마이크로소프트 아태본부 정책협력법무실 지사장은 <블로터>와의 서면 인터뷰를 통해 “AI를 개발 또는 활용하는 기업들이 투명한 원칙을 가지고, 바른 방향성을 제시해야 한다”라고 강조했다.

| 써니 박(Sunny J. Park) 마이크로소프트 아태본부 정책협력법무실 지사장

지속가능한 기술을 위한 전제

박 지사장은 현재 한국과 아시아태평양(APAC) 지역 마이크로소프트 법무정책을 총괄하며, 사이버 보안, 개인 정보 보호 및 디지털 저작권 보호 등 다양한 이슈를 담당하고 있다. 박 지사장은 마이크로소프트가 윤리적 AI를 강조하는 이유에 대해 “AI는 분명 사회가 직면한 많은 문제, 과제들을 해결할 수 있는 잠재력을 갖추고 있는 건 분명하지만, 그 잠재력을 발휘하려면 대규모의 데이터를 수집, 합산하고 공유해야 하고, 그 과정에 보안, 프라이버시, 투명성 등의 윤리적 문제가 가장 밑바탕이 되어야 한다”라며 기술의 발전에 따른 책임을 강조했다.

또 “AI 역시 다른 기술과 마찬가지로 신뢰할 수 있어야 하며, 그 어떤 고객도 신뢰하지 못하는 기술이나 제품을 사용하지 않는다”라고 덧붙였다. 기술의 지속 가능성을 위해 신뢰가 전제돼야 한다는 설명이다. 이와 같은 이유에서 윤리적 AI가 이윤을 추구하는 비즈니스 목표와 상충하지 않는다고도 주장했다. 박 지사장은 마이크소프트의 클라우드 및 AI 서비스 ‘애저’의 매출 성장 배경에 윤리적 AI가 한 축으로 자리 잡고 있다고 전했다.

정부 규제의 필요성

테크 기업이 윤리적 AI를 강조하며 자체 규범을 마련하는 건 하나의 트렌드로 자리 잡았다. AI 무기 개발 논란을 겪은 구글은 2018년 6월, AI 기술이 무기 개발이나 감시 도구로 쓰이지 않도록 하며 인종과 성적, 정치적 차별을 결정하지 않도록 하겠다는 내용을 담은 7대 윤리 지침을 내놓았다. 국내 기업 중에는 카카오가 ‘알고리즘 윤리 헌장’을 지난해 1월 발표했다. 하지만 기업의 자율 규제에는 한계가 있다는 지적도 끊이지 않는다.

이에 대해 박 지사장은 “기술 규제와 관련하여 테크 기업들이 전적으로 결정권을 가져야 한다는 소수의 의견도 있지만, 정부를 비롯한 다양한 기관 및 이해관계자들이 함께 모여 적합한 규제를 논의해야 한다고 생각한다”라며 정부 규제의 필요성을 말했다.

실제로 지난해 마이크로소프트는 자사 안면 인식 소프트웨어의 편향성을 인정하고 미국 정부에 안면 인식 소프트웨어 사용에 대한 규제를 촉구했다. 브래드 스미스 마이크로소프트 사장은 지난해 12월 “정부가 2019년부터는 안면인식 기술에 관한 법률을 마련하는 게 중요하다”라며 “우리가 행동하지 않으면 이제 막 시작되는 안면인식 기술이 사회적 문제를 악화시키는 방향으로 가는 걸 5년 뒤에나 깨닫게 될 것”이라고 정부의 안면인식 기술 규제를 촉구하는 연설을 했다.

| 조이 부올라미니 MIT 미디어랩 연구원이 진행한 기술 알고리즘에 내재된 편견을 찾아내는 ‘젠더 쉐이드’ 프로젝트

박 지사장은 “현재 (안면인식) 기술은 특히 여성과 유색인종에 대한 오류율을 보이고 있어, 편견과 차별 방지 차원에서 기술의 정확성과 공정성을 입증할 수 있는 기준이 필요하다”라며 “안면 인식 기술의 잠재적 문제에 대한 보호장치 없이는 기술의 남용을 통제할 시기를 놓칠 수 있기에, 연구와 토론을 넘어 행동을 취해야 할 때라고 강조하고 있다”라고 밝혔다.

규제가 AI 기술 발전을 저해할 수 있다는 주장에 대해서는 “규제가 AI 기술 발전을 저해하는 것이 아니라 오히려 방향성을 설정해주는 지침이 될 수도 있다”라고 답했다. 박 지사장은 “우리 모두가 프라이버시에 대해 다시 한번 생각하는 계기를 마련한 것도 GDPR이라는 규제의 등장이 한몫했다”라면서도 “동시에 적절하지 않은 규제로 인해 기술의 혜택을 활용하지 못하는 경우가 발생하는 것도 사실이며 적절한 규제와 활성화가 동시에 이루어져야 한다고 생각한다”라고 전했다.

윤리적 AI 위해 인간의 개입 필요

데이터 활용과 보호의 딜레마에 대해선 ‘데이터 주권’을 강조했다. 박 지사장은 “데이터의 주권은 사용자에게 있고, 사용자의 데이터 프라이버시 역시 하나의 인권으로 간주해야 한다”라며 “사용자가 자신의 개인정보가 어디에 어떻게 활용되고 있는지가 투명해야 하고, 어떤 정보를 기업이 활용하고 있는지를 알아야만 한다”라고 의견을 전했다.

마이크로소프트가 데이터 편향성을 줄이기 위해 어떤 노력을 기울이고 있는지 묻는 질문에는 자체적으로 ‘AI 윤리 위원회(AI and Ethics in Engineering and Research, AETHER)’를 꾸리고 있다고 답했다. 박 지사장은 “이미 편견이 자리 잡은 사회에서 쌓인 데이터를 활용하면 다시 편견으로 가득한 데이터가 재생될 뿐이니만큼, 모든 개발과 연구 과정에 편향성을 최소화하기 위해 사람이 개입하여 바로잡을 수 있도록 노력을 기울이고 있다”라고 밝혔다.