멀티에이전트 LLM 협의에서 숨은 앵커 발견하기

멀티에이전트 LLM 협의는 여러 에이전트가 여러 라운드에 걸쳐 답을 주고받으면서 추론 정확성을 높이는데, 이 논문은 이를 폐루프 동역학 시스템으로 모델링했어요. 각 에이전트가 집단 압력에 흔들리면서도 자신만의 숨은 앵커(내부 신념)를 유지한다는 걸 수학적으로 설명해요. 흥미로운 부분은 에이전트의 확신이 처음 시작점보다 높아질 수 있다는 건데, 이건 기존 합의 모델로는 설명 못 하던 현상이거든요. 세 가지 오픈소스 모델 계열에서 검증한 결과 모델마다 이 현상의 정도가 다르다고 합니다

멀티에이전트 협의의 작동 원리를 수학적으로 규명하면 프롬프트 설계나 에이전트 구성을 더 의도적으로 최적화할 수 있고, 특정 답변으로 유도되는 조작을 방지하는 안전장치도 마련할 수 있어요