올해 국정감사에서 모 포털의 검색 알고리즘 조작 논란이 국정감사장을 뜨겁게 달궜다. 내용은 모 포털에서 쇼핑 검색 결과를 자사에 유리하게 조작해온 사실이 공정위 조사에서 드러나 시정명령과 과징금 조치를 받았으며 뉴스 알고리즘 조작 의혹도 받고 있다.
포털 사용자가 검색창에 특정 키워드를 입력했을 때 수천~수천억 개 웹페이지에서 검색된 자료를 이용자 목적에 따라 어떤 순서로 보여줄지 검색 알고리즘이 결정한다.
최근 이슈가 되고 있는 각종 포털, 즉 플랫폼의 알고리즘은 결국 사람이 만드는 것이다. 알고리즘은 이용자에게 가장 최적의 문제 해결을 제공하기 위해 공정해야 하는 것은 가장 중요한 원칙이다.
그러나 문제 해결을 위한 알고리즘들은 알고리즘의 개발자 혹은 플랫폼 서비스 회사의 주관이 들어 갈 수 밖에 없다. 알고리즘 개발이란 결국 문제 해결을 위한 판단 및 근거 등의 처리 순서를 사람이 정해놓는 것이다. 또한 사회 패러다임이 변하고, 서비스 환경이 바뀌면 알고리즘의 내용도 결국 사람이 개입되어 수정 및 보완을 해주어야 한다.
그러나 플랫폼 당사자 입장에선 수정 및 보완이지만 반대편에 있는 쪽에서 보면 이른바 ‘조작’ 시비에 휘말릴 수 있다.
우리가 일상생활에서 접하고 있는 해외 플랫폼 업체들인 유튜브, 넷플릭스 등의 콘텐츠 추천 알고리즘을 보면 각 개인의 선호도를 알려주는 역할을 하고 있지만 정치, 사회 부문에서 각 개인들을 확증편향적으로 몰아갈 수 있다.
확증편향적인 성향을 가진 알고리즘을 분석해보면 이용자는 자신의 가치관과 판단에 맞는 정보만 선별적으로 받아들이고, 다른 생각이나 정보는 배척하도록 하는 처리 순서가 되어있을 것이다.
가장 위험한 예측 중의 하나가 확증편향적인 알고리즘이 자신의 신념이나 선호에 맞는 것만을 받아들이고 그렇지 않은 것은 배척하게 하여 사회 분열을 조장할 수 있다는 것이다.
이 같은 문제점들을 해결하기 위해 사회적으로 영향이 큰 알고리즘의 경우 영업기밀 침해, 어뷰징(abusing, 인터넷 포털사이트에서 검색을 통한 클릭 수를 늘리기 위해 중복·반복기사를 전송하거나 인기 검색어에 올리기 위해 클릭 수를 조작하는 행위 등) 등의 부작용을 최소화하면서도 알고리즘의 기준과 원칙을 투명하게 검증할 수 있게 만들어야 한다는 목소리가 커지고 있다.
향후 알고리즘은 빅데이터를 기반으로 스스로 학습하는 인공지능 알고리즘(A.I Algorithm)으로 발전할 것이다. 그러나 인공지능 알고리즘도 트위터가 동시에 올린 흑인과 백인 중 주로 백인사진을 섬네일(thumb·nail, 이미지 축소판)로 채택해 인종편향 시비에 휘말리고, 구글 포토 인공지능 알고리즘은 흑인 여성을 고릴라로 분류하는 것 등은 빅데이터 학습 과정에서의 에러가 발생한 것이다. 인공지능 알고리즘의 확산이 사회적 차별을 반영하고 사회적 분열을 증폭할 가능성이 있음을 보여주고 있다.
인류는 일상생활에서의 편리함과 컴퓨터에 익숙해짐에 따라 더욱 더 인공지능 알고리즘에 종속될 것이다. 이제는 인공지능 알고리즘이 초래할 수 있는 사회적인 편향성과 불평등에 대해서 고민할 시점에 와있다.
