‘책무성(accountability)’은 “당신이 하는 일에 대해 책임을 지고 그것에 대해 만족스러운 이유를 제시할 수 있다는 사실"로 정의된다(Cambridge Dictionary, 2022). 책무는 (1) "처리해야 할 의무가 있는 것"으로 정의되는 책임과 (2) 설명, 즉 "누군가가 명확하거나 이해하기 쉬운 것을 만들기 위해 제공하는 세부 사항 또는 이유"의 두 가지 구성 요소로 구성된다(Cambridge Dictionary, 2022). 특히 AI 시스템의 경우 이 두 가지 개념을 실현하는 것은 어려운 작업이다. 신경망과 같은 AI 시스템은 종종 블랙박스 시스템이기 때문에, 즉 입력과 출력 매개변수 간의 연결이 불투명하기 때문에 시스템이 특정 예측 또는 결론을 도출하는 방법에 대한 설명이 항상 명확하지는 않다. 이 문제는 복잡성이 증가함에 따라 알고리즘의 설명 가능성이 감소함에 따라 향후 더욱 심화될 수 있다. 또한 설명이 누락되면 책무 문제가 악화되어, 의사 결정 과정이나 실패 원인이 완전히 명확하지 않은 경우 의무를 결정하기 어렵다(Auxane Boch, Ellen Hohma:2).

디지털 기술이 발달하면서 비인간 존재자들의 행위성이 쟁점이 됨에 따라, 인공지능기술에 의한 비인간 행위자들의 작동의 결과에 대한 책임의 문제가 철학적 쟁점으로 부상한다. 우리는 인공적 도덕적 행위자들을 창조해야 하는가? 이에 관련하여 한편에서는 로봇 기술이 더욱 보편화되고 상호 작용하며 도덕적으로 많은 상황에 관여하게 될 것이라고 주장한다. 이러한 입장에서는 로봇을 의인화하는 경향과 더불어, 그것이 도덕적으로 보일 수 있는 상황을 만든다. 복잡한 도덕적 추론을 수행하는 강력한 로봇의 경우 프로그래머가 ‘어느 정도’ 책임이 있지만 완전히 그렇지는 않다고 보는 것이다. 한편, 도덕적 책임에 대해 논쟁할 때 인공적 행위자의 편에서 다른 노선을 취하는 경우도 있다. 이러한 입장에서는 도덕적 선택 의지가 개별 행위자에 국한되고 인간 기반이라는 전통적인 인간 중심적 접근 방식에 반대한다. 대신 그들은 분산된 도덕성-국지적 영역에서 국지적 에이전트들 사이의 시스템적 상호작용의 ‘보이지 않는 손’에서 나오는 전체적 도덕적 행위와 집단적 책임-은 탐구를 방해할 것이라 우려한다(Vincent Wiegel:216).

디지털 책무성은 바로 이러한 분산된 도덕성을 의미한다. 이는 루치아노 플로리디에 의해 주창되었는데, 그는 의도, 의식 및 기타 정신적 태도를 요구하는 도덕적 책임(moral responsibility)과 도덕적 책무성(moral accountability)을 구별하고, 도덕적 책무성의 내용을 ‘분산된 도덕성;으로 설명한다. 그는 인공지능의 책임을 책무성 개념으로 설명하면, 인간중심적이고 의인화된 태도를 피할 수 있다고 본다. 처벌과 보상(책임 지향 윤리)에 근거한 것이 아니라 도덕적 행위자성, 책무성에 근거한 윤리적 전망에 의존해야 한다는 것이다. 플로리디는 인공지능의 책임에 인간적 책임을 귀속하거나 반대로 어떤 책임성도 부여하지 않는 입장과 달리, 책임 대신 책무성 개념을 제안하는데, 그래야만 다음의 (ⅰ)과 (ⅱ)의 이분법에서 벗어날 수 있다고 본다: (ⅰ) 책임은 도덕적 선택 의지를 의미함-이는 규범적 행동을 의미함, (ⅱ) 책임은 비도덕적 선택 의지를 의미하지 않음-이는 규범적 조치를 의미하지 않음. 도덕적 책임이 없을 때에도 도덕적 책무성은 있을 수 있다. 도덕적 책임이 없고 도덕적 책무성만 있을 때도, 규범적 행위를 촉진하는 것은 완전히 이성적이다(Floridi:88).

참고문헌

Auxane Boch, Ellen Hohma, Rainer Trauth, “Towards an Accountability Framework for AI: Ethical and Legal Considerations”, Research Brief, IEAI, 2022.

Luciano Floridi, “Information ethics”, The Cambridge Handbook of Information and Computer Ethics, edited by Luciano Floridi, Cambridge University Press, 2010.

Vincent Wiegel, “The ethics of IT-artefacts”, The Cambridge Handbook of Information and Computer Ethics, edited by Luciano Floridi, Cambridge University Press, 2010.

작성자: 현남숙(성균관대학교)