논문 #5. Machine Behavior
l Rahwan, I., Cebrian, M., Obradovich, N., Bongard, J., Bonnefon, J.-F., Breazeal, C., Crandall, J. W., Christakis, N. A., Couzin, I. D., Jackson, M. O., Jennings, N. R., Kamar, E., Kloumann, I. M., Larochelle, H., Lazer, D., McElreath, R., Mislove, A., Parkes, D. C., Pentland, A. ‘Sandy,’ … Wellman, M. (2019). Machine behaviour. Nature, 568(7753), 477–486.
해당 논문에서는 ‘Machine Behavior’ 즉 기계가 인간과 사회에게 어떤 영향을 어떤 방식으로 미칠수 있는지에 대한 우려를 제기하면서 AI로 움직이는 기계에 대해 연구한다.
인공 지능이 실체가 있는 기계와 결합이 되거나 AI의 알고리즘이 작동하는 순간 중요하지 않아서 그저 지나쳤던 계기들이 점점 중요해지고 사회에 큰 부분을 차지하는 영역으로 발전하고 있다고 저자는 설명하면서 기계와 AI 결합이 일어났을 경우에 기술적, 법적, 제도적 제약에 어떤 것이 있는지 탐구한다.
연구를 진행하는 방법으로는 ‘인간, 동물 행동 연구’의 방식을 따랐는데, 논문은 기계와 동물은 구분되면서도 큰 차이점을 지니고 있지만 ‘행동’의 메커니즘의 관점에서 본다면 유사한 점이 존재한다고 이야기한다. 이를 확인하기 위해서 기계 행동을 3가지의 스케일로 구분 지어서 실험을 진행했는데
1. 개별적 기계
2. 기계의 집단
3. 하이브리드 형태
이렇게 3가지 형태로 인간과 기계가 함께 있는 환경으로 나누어서 알고리즘과 상호작용의 영향을 살펴보았다.
먼저 개별적으로 기계를 살펴보는 실험에서는 기계의 지능에 초점을 맞추어 살펴보았는데
코드의 디자인이나 소스에 따른 반응에 집중했다.
여기서는 특정 알고리즘의 구현에 따라서 특정 기계에만 영향을 줄 수 있다는 가능성을 두어
2가지의 상황으로 다시 한번 구분 지어 실험을 진행하였다.
그 이유인즉슨, 기존에 진행되었던 within-machine behavior에서 기계는 코드에 따라서 ‘인지적’인 입장을 취한다는 주장이 존재했기 때문이다.
집단으로서 기계를 살펴봤을 때는 동물의 ‘무리’나 ‘떼’를 연상했을 때의 인사이트를 참고했다고 한다.
동물의 경우 환경적 특징이 결국 집단 내의 합의를 이끌어내는데 영향을 미친다는 연구들이 존재하는데
여기에서 만약 해당 환경이 동물이 아니라 기계라면,
다중 에이전트 환경에서의 계산이나 이론은 기계 행동에 어떤 영향을 미칠지를 살펴보는데 목적을 두었다.
예를 들어 금융 거래 환경에서는 사람보다 기계들이 먼저 트레이딩을 위한 정보에 반응하면서 서로의 반응을 기준으로 새로운 반응을 이끌어내는 현상이 발견되었다.
마지막으로 인간과 기계가 함께 존재하는 환경에서는 인간이 기계를 결정을 내리기 위한 보조 도구로 인식을 하는 방법과 기계의 알고리즘에 대해 어떤 선호도를 지니고 있는지 등 여러 연구 결과를 소개하며 결론적으로 지능형 기게는 인간의 행동에 변화를 일으킬 수 있으면 인간 역시도 AI 기계의 행동을 형성한다고 주장한다.