[디지털 이코노미] AI 안면인식기술 지닌 MS가 규제를 요청한 사연은

디지털 경제 읽기
(8) 디지털경제와 규제

비인권국가 기술 수출 요청에
남용방지 위한 원칙 필요하듯
적절한 규제는 기업활동 안전판

기술발전에 맞게 규제 선진화를

사실 규제를 원하는 주체는 기업이다. 규제가 마치 기업의 자유로운 활동을 방해하는 요인처럼 여겨지지만, 현실에서 규제는 안정적인 기업활동을 가능케 하는 안전망 역할을 하기 때문이다. 문제는 낡은 규제다. 기술의 발전과 이로 인한 새로운 제품과 서비스 그리고 사회·경제가 변화하는 상황에 적응하는 못하는 규제를 대신할 새로운 규제가 필요하다. 이 역시도 기업들의 적극적인 노력이 필요하다. 제도가 시장을 앞서간 사례는 많지 않다. 원칙 있는 혁신제도가 시장을 따라가지 못하는 것은 흠결이 아니라 어쩌면 당연한 일이다. 법과 제도의 예측 가능성은 안정적인 사회 유지에 필수조건이기 때문이다. 새롭고 사회 전반에 도움이 되는 변화라 할지라도 오랜 기간 축적된 기존 사회기반을 무시할 수는 없는 일이다. 혁신의 대가로 안정을 포기할 경우 더 큰 혼란을 초래할지도 모른다. 물론 그 반대도 성립하지 않는다. 안정의 대가로 혁신을 포기한다면 성장을 경험할 수 없다. ‘혁신의 제도화’를 통한 원칙 있는 변화가 필요한 이유다.

마이크로소프트의 고민도 여기에 있었다. 그들은 1990년대 반독점 소송을 경험하면서 기술과 제도 발전의 균형이 얼마나 중요한지 이해하고 있었다. 시작 단계부터 규제를 고민하지 않으면 나중에는 기업의 사회적 책임과 시장에서의 성공 사이에 선택을 강요받는다는 것을 깨달은 것이다. 이는 정부에 규제를 요청하는 행동으로 이어졌다. 인공지능(AI) 안면인식 기술이 대표적이다. 기업이 정부에 특정 제품을 규제해달라는 요구를 이상하게 여기는 사람들도 많았다. 실리콘밸리에서는 관련 기술이 다른 기업보다 뒤처져 경쟁자들의 속도를 늦추려는 의도로 규제를 원한다는 소문마저 퍼졌다.

하지만 당시 마이크로소프트의 안면인식 기술은 세계 최고 수준이었다. 2018년 미국표준기술연구소가 테스트한 결과 마이크로소프트의 알고리즘은 모든 항목에서 최고 수준에 가까웠다. 그들이 정부에 규제를 요청한 것은 최소한의 원칙이 필요하다고 판단한 결과였다. AI 안면인식 솔루션의 수출 문제는 이러한 판단을 내리게 된 중요한 계기였다. 특정 국가는 마이크로소프트에 AI 안면인식 기술 솔루션의 판매를 요구했다. 요청한 국가의 정부는 독립된 사법부가 없고, 인권 존중이라는 측면에서 문제가 많았던 국가였다. 실제로 해당 정부는 수도 전역에 AI 안면인식 기술이 탑재된 카메라를 설치할 목적에서 구입을 원했다. 마이크로소프트는 해당 국가의 모든 사람이 정부에 의해 추적당할까 두려워 판매를 거부했다. 이후 사내 AI 윤리위원회에서는 전 세계 자유와 민주주의를 지속적으로 감시하는 독립 감시단체인 ‘프리덤 하우스’가 지적한 국가에 안면인식 기술 사용 범위를 제한하라고 권고했다. 기술과 제도의 선순환문제는 관련 기술에 대한 규제가 없었던 탓에 마이크로소프트 혼자만의 노력으로는 실질적인 영향력이 거의 없다는 점이다. AI를 기반으로 하는 다른 수많은 기술과 마찬가지로 안면인식 역시 데이터양이 많을수록 개선된다. 이는 초기에 최대한 많은 계약을 체결하려는 인센티브가 되고, 경쟁이 심화될수록 사회 전반에 기술에 대한 우려는 커지게 될 것이다. 그리고 그 시점에 가면 기업의 이윤창출 활동을 가로막는 무리한 규제가 뒤따를 수밖에 없게 된다. 기술과 제도의 악순환이 시작되는 것이다.

기술과 제도가 서로를 자극하며 발전했던 사례는 많다. 자동차산업의 경우 20세기 내내 규제와 경쟁해온 대표적인 분야다. 그 결과 오늘날 모든 사람이 안전벨트를 매야 하고, 에어백 설치가 의무화되며 모든 기업이 연비를 높이려는 노력을 기울이고 있다. 규제에 대한 균형 있는 접근이 소비자와 생산자 모두에게 건전한 역학관계를 창출한 것이다. 비슷한 사례는 항공분야, 식품, 제약분야에서도 찾아볼 수 있다. 최소한의 규제와 합리적인 규제

김동영 KDI 전문연구원

규제가 필요하다는 것과 어떤 형태의 규제가 가장 합리적인지 여부는 별개의 문제다. 새로운 기술과 제도가 균형을 맞추기 위해 필요한 것은 가장 합리적인 규제가 아니라 선제적인 규제다. 마치 기업들이 완성된 제품을 출시하기 전에 신제품의 초기 버전을 만들어 최대한 많은 검증을 한 뒤 제품을 출시하듯 초기 버전의 규제가 필요한 것이다. 모든 질문에 대한 완벽한 답을 찾을 때까지 기다리는 것이 아니라 중요한 질문에 대한 믿을 만한 답을 얻었다고 생각되면 이를 바탕으로 일단 행동해야 한다는 것이다. 일단 시작해야 피드백을 받을 수 있고, 이 과정이 쌓여 합리적인 완성품이 나올 수 있다. 규제도 이와 다르지 않다. 이 과정에서 제도와 기술 간에 협력이 이뤄지고, 균형 있는 규제가 만들어질 수 있다. 이전의 어느 시대와도 비교할 수 없을 정도로 역동적인 디지털 경제 시대에는 정부가 기업을, 기업이 정부의 규제를 탓해서는 변화를 따라갈 수 없다. 기업과 정부가 서로를 이해하려는 적극적인 노력이 안정적이고 지속적인 혁신을 이어갈 수 있는 핵심 요인임을 잊지 않아야 할 것이다.