20대 여대생을 표방한 이루다는 출시 3주 만에 이용자 80만 명을 돌파할 정도로 빠르게 인기를 끌었습니다. 사회적 거리두기가 장기화되고 코로나블루로 모두가 힘든 시기에 이루다는 많은 이들의 환영을 받았습니다. 그러나 유행의 속도만큼, 이루다는 단기간에 많은 사회 문제를 드러냈습니다.
논란의 시작은 사용자였습니다. 몇몇 사용자들은 이루다를 성희롱 대상으로 악용했고, 인터넷에는 이루다 성 노예 만들기라는 글이 퍼졌습니다. 이루다를 악의적으로 사용한 이들은 비난의 대상이 되어 갔고 이내 AI에게 성 착취를 논할 수 있는가가 쟁점이 되었습니다. 이후 이루다의 차별 및 혐오 표현이 도마 위에 올랐으나 논쟁의 쟁점은 변하지 않았습니다. AI에게 윤리적 가치라는 인간 고유의 가치를 요구할 수 있는 가였습니다.
그렇다면 우리는 어떤 잣대로 판단해야 하는 걸까요? AI를 단순히 기계로 볼 수 있을까요? 가까운 미래, AI는 인간과 비슷하거나 인간을 능가하는 지적 능력을 보여줄 것으로 보입니다. 그렇다면 인간과 비인간, 이분법적 경계가 희미해질 때 우리는 AI를 비인간으로 단정할 수 있을까요? 이에 대해선 치열한 철학적 고민이 요구됩니다. 하지만 이러한 변화 속에서 한 가지 분명한 것이 있다면, AI가 가져온 결과는 결국 인간의 자아상이라는 점입니다.
이루다의 목적은 외로움을 달래주는 친구 같은 AI였습니다. 그러나 누군가에겐 성 착취의 피해자였으며, 누군가에겐 자신의 정체성에 상처를 준 가해자였습니다. 혹자는 기계 따위에 성희롱을 논할 수 있으며, 한낮 기계의 반응에 인간이 상처받을 리 있느냐고 물을 것입니다. 하지만 칸트는 동물 학대가 곧 인간학대로 이어질 것이라 경고했으며, 유엔은 I’d Blush If I Could 보고서를 통해 인간이 AI와의 상호작용 방식을 내재화하는 것에 대한 우려를 표현했습니다. 그리고 *HCI 연구에서 주류 패러다임 중 하나인 CASA 패러다임은 인간이 컴퓨터를 사회적 대상으로 인식함을 주장합니다. 즉, 인간은 인간을 대하는 방식으로 컴퓨터와 상호작용합니다.
칸트와 유엔은 비인간을 대하는 방식이 곧 인간을 대하는 방식으로 이어질 것을 예측합니다. 그리고 CASA 패러다임을 통해 우리는 이미 인간을 대하는 방식으로 AI를 대하고 있다고 설명합니다. AI에게 인간과 같은 잣대로 판단할 수 있는가 논하기 전에 우리가 알아야 할 사실은, 인간이 AI를 착취하는 것이 곧 인간 착취의 결과이며 이것이 곧 인간사회에서의 착취를 강화하는, 악순환의 고리가 아닐까 생각합니다.
*HCI: Human Computer Interaction