‘공정성, 신뢰성과 안전성, 개인정보보호, 포용성, 투명성, 책무성’. 마이크로소프트(MS)사가 인간에게 도움이 되는 기술을 개발하기 위해 세운 6가지 원칙이다. 마이크로소프트는 이같은 원칙에 부합하지 못하는 프로젝트를 윤리위원회 차원에서 중단시키기도 한다.

마이크로소프트 재롬 브리튼(Jarom Britton) 변호사(Regional Attorney – Health, Education & Public Sector, Asia)는 17일 청년의사가 연세암병원 서암강당에서 개최한 ‘Dementia & Technology’ 융합 컨퍼런스에서 ‘AI 시대의 윤리(Ethics in the Age of AI: Implications for Medical Research and Technology)’에 대해 발표하면서 이같이 말했다.

브리튼 변호사는 “인공지능(AI)의 전망이 밝다고 말하는 사람이 있는 반면, 인간을 위협하고 있다고 말하는 사람도 있다”며 “인간에게 도움이 되는 기술을 만드는 게 마이크로소프트의 목표”라고 강조했다.

브리튼 변호사는 “마이크로소프트는 6가지 원칙을 세웠다. 첫번째는 공정성인데 편견과 관련돼 있다”며 “얼굴을 인식하는 AI가 백인 남자는 정확하게 인식한 반면 흑인 여성은 제대로 인식하지 못하는 문제가 지적된 적이 있다. 데이터가 한쪽으로 편향돼 있어 결과에 영향을 미친 것이다. 이런 소프트웨어를 의료 영역에 적용했다면 큰 오류가 발생할 수 있다”고 지적했다.

브리튼 변호사는 이어 신뢰성과 안전성, 개인정보보호, 포용성, 투명성, 책무성의 중요성을 설명했다. 그러면서 “병원 안에 윤리위가 있듯이 마이크로소프트에도 윤리위가 있다. 이윤이 아닌 윤리적인 부분을 검토한다”고 말했다.

브리튼 변호사는 “회사 명성이나 이윤이 아닌 윤리적인 문제를 검토한다”며 “일부 프로젝트가 마이크로소프트의 가치관에 위배된다고 판단돼 중단되기도 했다. AI를 개발하는 모든 과정에서 인간이 중심을 차지해야 한다”고 강조했다.

그는 “AI와 인간은 협업해야 한다. 그리고 그 결과에 따라 의료 환경도 달라질 것이다. 웨어러블 디바이스가 개인의 건강 상태를 24시간 체크한다”며 “무궁무진한 가능성이 열려 있는 만큼 책임감 있는 활용이 필요하다”고 했다.

그는 “AI는 하나의 도구이다. AI가 모든 걸 다 해결해주는 만병통치약이라고 생각해서는 안된다”며 “컴퓨터가 무엇을 할 수 있는지를 생각하지 말고 인간을 위해 무엇을 해야 하는지를 생각해야 한다”고 말했다.