논문 #2. 가상인간과의 교류: 로봇을 통한 사회적 반응 실험
논문: Yam, K. C., Goh, E.-Y., Fehr, R., Lee, R., Soh, H., & Gray, K. (2022). When your boss is a robot: Workers are more spiteful to robot supervisors that seem more human. Journal of Experimental Social Psychology, 102, 104360.
※해당 논문에서 다루는 Antropomorphism 개념은 논문 스터디 #1에서 설명을 진행했으니 참고하시면 도움이 될것 같습니다.
https://metawriters.tistory.com/16
논문 #1. 가상인간과 의인화 (Anthropomorphism)
논문: Epley, N., Waytz, A., & Cacioppo, J. T. (2007). On seeing human: A three-factor theory of anthropomorphism. Psychological Review, 114(4), 864–886. Anthropomorphism이란 의인화로 현재 번역되지만 애초에 이 개념은 신이 인간과
metawriters.tistory.com
로봇이 만약 언젠가 정말 내 상사가 된다면?
단순히 상상만 하던 상황을 파고들어 인간과 로봇의 관계를 ‘supervisor’이라는 환경을 가정한 상태로 살펴본 위의 논문에서는 오히려 의인화가 로봇이 사람에게 부정적인 피드백을 줄 때 훨씬 더 큰 적대감을 느끼게 한다고 주장한다.
다른 리서치에서는 오히려 컴퓨터나 로봇의 의인화가 사람 간의 긍정적인 교류를 유도하는 요소로 분석을 진행했지만 해당 페이퍼에서는 반대의 견해를 제시한 것이다.
이를 위해서 먼저 두 가지 개념 agency 와 experience를 설명한다.
- Agency는 우리가 생각하고, 계획하고 행동할 수 있는 의지를 뜻하고
- Experience는 우리가 긍정적/부정적인 감정의 동화를 통해 고통과 기쁨을 느낄 수 있는 능력을 의미한다.
논문의 저자는 다양한 배경 연구를 통해서 인간이 로봇을 적정한 agency와 아주 낮은 능력치의 experience를 보유하고 있는 대상으로 여긴다는 것을 명시한다.
즉 로봇은 생각은 할 수 있지만, 감정적으로 공감대를 형성하거나 신체적인 소통 방식을 온전히 받아들이지 못한다는 것이다.
의인화는 이러한 명시적 사실에 인간의 perception에 영향을 미쳐 로봇을 인지할 때 agency와 experience를 동시에 높이는 작용을 일으킨다. 해당 논문에서는 바로 이 ‘agency’에 집중하여 로봇 상사의 ‘의도성’에 대해 사람들이 어떻게 인지하는지를 주의 깊게 살펴보았다.
연구에서는 anthropomorphism적인 요소를 추가하기 위해 로봇의 스크린에 얼굴을 띄워 놓은 환경과 그렇지 않은 환경 두 가지에서 실험을 179명의 대학생들과 함께 진행했다.
의인화의 요소를 좀 더 세밀하게 조정하기 위해서 실험의 참여자들에게 두 로봇의 이름을 달리 붙였음을 명시하였다.
로봇 17541과 달리 얼굴이 있는 로봇은 폴이라는 이름을 부여하고, 기계의 음성이 아닌 실제 미국인 남성의 목소리로 대화를 진행했다. 결과적으로 의인화는 로봇 상사의 agency에 대한 인지력을 향상시켰다.
다른 말로 의인화 요소가 추가될수록 로봇 상사가 스스로 생각하고 계획하고 행동하는 능력을 지니고 있다는 사실에 대한 보다 확고한 믿음이 발생할수 있다는 것이다
이는 로봇 상사가 사람과 닮은 요소를 지닐수록 로봇이 하는 부정적인 피드백에 대해서도 ‘perception of abuse’, 내가 지금 혼나고 있다는 자각의 정도가 높아짐을 의미한다.
논문의 결론이 충분히 설득력이 있다고 가정하고 현실에 해당 논문의 결론을 대입해보자.
◈ AI영상 면접
이제는 많은 기업에서 실제 대면 면접을 보기 전에 AI 영상면접을 통해 지원자를 평가하는 트렌드가 증가하고 있다.
AI 영상면접의 경우 지원자는 자신을 평가하는 대상이 실제 사람이 아닌 'AI'라는 것을 온전히 인식하고 있는 상태이다.
그렇다면, 면접 후에 AI의 평가를 그 현장에서 음성으로 듣게 된다면 어떨까?
논문의 결과에 따르면 '의인화'의 요소 - 음성, 얼굴, 제스처 등이 추가가 된 상태라면 내 면접의 평가에 대한 부정적인 피드백이 있을 때 실제 면접관에게 같은 내용을 듣는 것보다 훨씬 부정적인 반응이 일어날 것이다.
현재 존재하는 많은 AI 영상면접에서는 다행히도 직접적으로 면접 지원자에 대한 평가를 오픈하지는 않고 있는 상황이다. 하지만 IF, 정말 만약에 내 점수가 공개되고 그에 대한 피드백을 필터링 없이 AI로부터 전달 받게 된다면 과연 정말 이성적으로 그 피드백을 온전히 받아들일 수 있을까?
◈ AI 채팅 서비스
다음으로 메타버스에 논문의 결과를 대입해보자.
앞으로 메타버스가 구현되기 위해서 필수적으로 고려되어야 하는 것이 'AI'와의 결합이다.
그 중에서도 AI와 챗봇의 결합은 메타버스 내 다양한 NPC 뿐만 아니라 새로운 아바타와의 상호작용에도 중요한 영향, 혹은 핵심 기술을 제공할 수 있는 비즈니스 영역이다.
스캐터 랩에서 발표한 '이루다'는 75만명의 유저를 거쳐간 AI - 가상인간 채팅 서비스였다. 하지만 이용자들이 루다와 대화를 나누는 과정에서 일부 혐오와 차별에 대한 발언이 목격되었고 스캐터 랩은 공식적인 사과와 더불어 작년 서비스를 중지하면서 결국 이루다 서비스는 우리의 기억 너머로 사라졌다.
왜 유저들은 이루다의 발언에 이토록 불편해하고 분노했을까?
단순히 이루다가 AI, 즉 데이터에만 기반한 챗봇이었다면 유저들의 반응이 과연 달랐을까?
이루다는 처음부터 20대 여성의 모습을 한 챗봇이라는 캐릭터를 가지고 이용자들의 앞에 나섰다. 단순히 'AI'가 아닌 '친구'가 될수 있는 챗봇이라는 컨셉이었기 때문에 유저들은 분명 기존의 AI와는 다른 방식으로 루다를 인식했을 것이다.
위 논문의 결론, 의인화가 더 많이 된 대상일수록 그 대상의 부정적인 피드백을 보다 적대적이게 받아들이게 된다 - 의 매우 적절한 예시가 바로 이루다 사례라고 생각된다.
논문의 시사점
다가올 미래에 우리가 AI와 로봇, 메타버스의 다양한 아바타들과 상호작용하는 날이 온다면 이들의 의인화의 정도에 대해서 어떤 상황을 가정하는 것이 가장 유리할 것인가?
AI와 대화를 자연스럽게 하는 순간에 그 AI는 어떤 모습이어야지 나와 가장 친밀하고 긍정적인 교류가 가능할 것이가?
다양한 질문을 던져볼 수 있는 배경을 마련해준 논문이라고 생각이 된다.