지금 우리가 이해하는 인공지능의 형태는 2010년대 이후 딥러닝(Deep learning) 분야로 기계학습이 진화하기 시작하면서부터 모양새를 갖추었다. 기계학습을 기반으로 한 현재의 인공지능 기술은 딥러닝을 통해 인간의 지능이 가진 여러 영역 중 ‘추론’과 ‘학습’을 자동화했다. 인간의 추론은 경험을 통해 확인된 정보를 이용해 논리적인 생각을 거쳐 결론을 도출한다. 인공지능의 경우 확인된 사실을 디지털 방식의 지식 표현으로 저장하면 데이터 내 규칙을 찾아 나름대로 논리적인 결론을 ‘추론’한다. 이 때, 규칙을 찾는 과정에 사람이 개입하지 않고 기계가 스스로 데이터들 간의 패턴을 인식하여 규칙을 찾아내는 것이 ‘학습’이다. 즉, 기계학습은 기계가 스스로 학습을 통해 데이터의 속성들이 갖는 패턴이나 일반화할 수 있는 요소를 찾아내는 것을 말한다. 기계학습과 딥러닝의 결합 이후 이 추론과 학습의 과정은 더욱 복잡하면서도 빨라졌다.

기계가 스스로 데이터의 규칙을 찾아 학습하는 과정에서 기계학습을 기반으로 한 인공지능 장치들은 인간이 가공하고 입력한 대량의 데이터를 빠르게 처리하고 계산하며 노이즈(noise)와 신호(signal)를 식별해간다. 노이즈와 신호를 식별하며 군집화, 분류, 차원 축소와 같은 수학적 기법을 통해 데이터에서 의미 있는 규칙성이나 관계를 찾는 ‘패턴식별(Patter discrimination)’은 컴퓨팅 문화의 기본이자 현재의 인공지능 기계 장치의 핵심 원리다. 이미지 인식, 음성 인식, 자연어 처리, 추천 시스템, 피싱 탐지 시스템 등 인공지능 서비스의 종류는 패턴 식별을 기본 원리로 삼아 어떤 종류의 데이터를 처리하고 계산하느냐에 따라 구분된다.

패턴 식별이 의존하는 논리는 섞여 있는 대용량의 데이터들 사이에서 ‘차이’를 찾아내어, 발견한 차이를 지칭할 범주를 만들고, 이 범주를 반복해서 다른 데이터의 분류에도 적용할 수 있도록 도구화하는 것이다. 이는 구성요소 간 유사성을 형성하는 방법이지만 동시에 구성요소와 범주 간 차이를 만들어 배제하는 작업이다.

먼저 패턴(pattern)이라는 단어가 함축하는 바는 데이터 속에 반복적으로 나타나는 특징이나 관계를 의미한다. 즉, 대용량의 데이터에서 반복되는 중요한 특징을 추출하여 군집화하고 분석한다. 패턴이 중요한 이유는 이를 바탕으로 새로운 데이터에 대한 예측을 수행하기 때문이다. 학습된 패턴을 바탕으로 새로운 데이터에 대한 예측이나 분류를 수행하는 것이다. 이 때 식별되지 못한 것은 의미가 없거나 존재하지 않는다. 또한 인공지능 기술의 패턴식별은 정보를 분류하는 필터를 도구화하고 자동화함으로써 기존의 분류체계를 구체화하기도 하고 또 다른 분류 논리를 만들어내면서 끊임없이 체계적인 불평등을 재생산할 가능성을 갖는다. 또한 식별(discrimination)이라는 단어는 역사적으로 인구를 관리하며 개인을 쉽게 파악할 수 있는 존재로 만들고자 고정된 분류 체계와 명확한 속성 정의에 따라 개인을 분류하고 차별하는 데 사용되어 온 바 있다. 즉, 19세기 말 인종주의적 이데올로기가 등장한 이후 인종, 성별, 성정체성, 종교, 계급 등의 사회적 범주에 따라 개인을 구별하고 배제하며 편견을 만들어 온 정치적인 단어인 것이다. 식별을 위한 분류의 근거는 언제나 생물학이나 문화를 근거삼아 본질을 규정하여 속성들 간 순서를 매기며 상대적인 폭력과 억압을 정당화했는데 이 과정이 인공지능 기술을 통해 자동화되는 측면이 있다.

대량의 데이터에서 의미 있는 정보와 폐기해도 상관없는 노이즈를 분류하는 과정은 결국 사회적 목적에 따라 쓸모가 인정된 데이터와 부적절하고 비합리적인 데이터를 단정 짓고 분류하는 과정이 포함되어 있으며, 이 때 식별되지 못한 것은 의미가 없거나 존재하지 않는다. 또한 인공지능 기술의 패턴식별은 정보를 분류하는 필터를 도구화하고 자동화함으로써 기존의 분류체계를 구체화하기도 하고 또 다른 분류 논리를 만들어내면서 끊임없이 체계적인 불평등을 재생산할 가능성을 갖는다.

작성자: 이정현(중앙대학교 인문콘텐츠연구소 HK연구교수)