
AI 기반 의사결정 지원 서비스의 인지적 멀티모달 인터페이스 디자인 요소 연구: 통신 도메인 요금제 선택 맥락을 중심으로
초록
연구배경 대규모 언어모델의 발전으로 의사결정 지원형 AI가 다양한 산업으로 확산되고 있으나, 텍스트 중심 상호작용으로 단계적 의사결정 흐름을 반영하지 못하고 인지적 부담을 높인다. 따라서 본 연구는 단계별 상호작용 기반 멀티모달 UX 설계와 효과를 검증하고자 한다.
연구방법 문헌 조사를 기반으로 의사결정 단계를 정의한 후, 문헌, 서비스 분석과 심층 인터뷰를 통해 단계별 인지 요구에 맞춘 멀티모달 프로토타입을 디자인했다. 이후 사용자 테스트로 효과성 및 만족도를 평가했다.
연구결과 제안된 멀티모달 인터페이스는 전반적 만족도, 멀티모달 적합성, 의사결정 지원 효과에서 유의하게 높은 평가를 받았다. 시각적 정보와 음성 설명의 병행은 정보 이해를 돕고, 판단 근거 제시는 신뢰와 확신을 높였으며, 시각적 상태 메시지와 햅틱 피드백은 의사결정 완료 인식을 명확히 해 행동 전환을 지원하였다.
결론 본 연구는 의사결정 인지 특성 기반 멀티모달 인터페이스를 제안하고, 그 효과를 실증적으로 검증하였다. 제안된 디자인은 복합 정보 비교와 판단 근거 이해, 선택 확신 형성을 효과적으로 지원하는 것으로 나타났다. 본 연구는 의사결정 지원형 AI 서비스에서 단계 기반 멀티모달 UX 설계의 필요성을 제시하며, 향후 의사결정 지원형 AI 서비스가 인지 구조에 적합한 상호작용 체계를 갖춘 통합 UX로 발전하는 데 기초적 설계 방향을 제공한다.
Abstract
Background With the advancement of large language models (LLM), decision-support artificial intelligence has spread across industries. However, decision-support AI text-based interactions fail to reflect stepwise decision processes, increasing cognitive load. This study aims to design stepwise, multimodal user experience (UX) and to evaluate its effectiveness.
Methods Based on a literature review, decision-making stages were defined, and a multimodal prototype was designed to match stage-specific cognitive demands using literature, service analysis, and in-depth interviews. Its effectiveness and user satisfaction were then evaluated through user testing.
Results The multimodal interface showed higher satisfaction, modality suitability, and decision-support effectiveness. Visual structuring with auditory explanations improved comprehension, explicit presentation of recommendation rationale increased trust, and visual plus haptic feedback clarified task completion, supporting action transition.
Conclusions Stage-based multimodal UX enhances decision-making support, addresses limitations of text-centered AI services, and provides guidance for cognitively aligned, integrated AI interfaces.
Keywords:
Decision-Support AI, Multimodal User Experience, Interaction Stages, User Experience, Human–AI Interaction, 색의사결정 지원형 AI, 멀티모달 사용자 경험, 상호작용 단계, 사용자 경험, 인간-AI 상호작용1. 서론
1. 1. 연구의 배경 및 목적
Hagos et al.(2024)은 자연어 처리 기술과 대규모 언어모델의 발전으로 사용자와 자연어로 상호작용하며 주어진 정보를 해석·비교하고 판단을 지원하는 AI 서비스가 다양한 산업 영역으로 확산되고 있음을 보고하였다. 이러한 의사결정 지원형 AI 서비스는 사용자가 이미 제공된 정보나 정형화된 콘텐츠를 기반으로 선택과 판단을 수행하는 상황에서, 정보 탐색과 비교, 이해를 지원하는 것을 주요 목적으로 한다. 통신, 금융, 공공, 커머스 서비스 등 다양한 서비스 영역에서 활용되고 있으며 공통적으로 정보 비교와 판단 중심의 의사결정을 지원한다는 특징을 가진다. 그러나 현재의 의사결정 지원형 AI 서비스는 범용적인 대화형 AI와 유사한 텍스트 입력과 응답을 중심 상호작용에 머무르고 있다. 사용자는 자신의 상황과 요구를 문장 형태로 정제하여 입력해야 하며, 시스템은 텍스트 나열이나 요약 위주로 정보를 제시한다. 이로 인해 사용자의 의사결정 과정에서 나타나는 탐색, 비교, 판단, 확정과 같은 단계적 인지 흐름이 충분히 반영되지 못하고, 과도한 텍스트 기반 상호작용으로 인해 인지적 부담이 증가한다. 특히 Klapp(1986)은 다수의 대안을 동시에 고려하는 상황에서 작업기억에 대한 부담이 크게 증가한다고 지적하였다. 그럼에도 불구하고 현재의 UI는 사용자의 의사결정 단계나 인지 상태에 따라 정보를 점진적으로 제시하거나, 선택 결과에 따른 상태 변화를 직관적으로 인식하도록 지원하는 데 한계를 보인다. 그 결과 사용자는 판단 과정에서 혼란을 느끼거나, 자신의 선택에 대한 확신을 형성하는 데 어려움을 겪게 된다. 이러한 한계를 보완하기 위해, Asakawa et al.(2002), Baldwin et al.(2012), Wilson et al.(2016)과 같은 연구자들은 시각·청각·촉각 등 다양한 감각 채널을 결합한 멀티모달 인터페이스에 주목하고 있다. Wickens(2008)는 서로 다른 감각 자원을 병렬적으로 활용할 경우 인지적 부하가 감소할 수 있음을 제시하였다. 이에 따라 멀티모달 상호작용은 정보를 다양한 채널로 분산하여 제시함으로써 정보 비교와 선택 판단 과정을 보다 효율적으로 지원할 수 있다. 그러나 기존 연구들은 의사결정 지원형 AI의 상호작용 구조와 멀티모달 UX를 개별적으로 다루는 경우가 많아, 실제 의사결정 과정의 단계적 흐름 속에서 각 모달리티가 수행해야 할 역할에 대한 통합적 논의는 충분히 이루어지지 않았다. 이에 본 연구는 고정된 정보와 콘텐츠를 기반으로 사용자의 판단을 지원하는 의사결정 지원형 AI 서비스를 대상으로, 단계적 상호작용 구조에 따른 사용자 경험을 분석하고, 각 단계의 인지적 특성에 부합하는 멀티모달 UX 디자인을 제안하며 그 효과를 검증하는 것을 목적으로 한다. 이를 위해 여러 도메인에서 관찰되는 의사결정 지원형 AI의 공통적 특성을 바탕으로, 하나의 대표 도메인을 선정하여 심층적으로 분석하고 설계·검증을 수행한다. 이를 통해 사용자의 의사결정 과정을 보다 자연스럽고 효율적으로 지원할 수 있는 멀티모달 의사결정 지원형 AI UX 설계 방향을 제시하고자 한다.
1. 2. 연구 프로세스
본 연구는 다음 Figure 1과 같이 진행되었다. 첫째, 서비스 분석을 통해 AI 서비스의 정보 전달방식과 멀티모달 상호작용을 분석하였다. 둘째, 문헌조사를 통해 의사결정 지원형 AI와 사용자 경험, 멀티모달 인터페이스 설계에 관한 기존 연구를 검토하고, 문제 해결 및 의사결정 과정에서 요구되는 핵심 UX 요소와 이론적 근거를 정리하였다. 셋째, 사용자 심층 인터뷰를 수행하여 실제 통신 도메인 내 의사결정 지원형 AI의 효과적인 정보 제공 방식과 바람직한 상호작용 형태에 대한 사용자 니즈를 파악하였다. 넷째, 앞선 분석 결과를 종합하여 멀티모달 인터페이스를 디자인하고, 의사결정 지원 상황에 적합한 상호작용 구조와 정보 제공 방식을 구체화하였다. 마지막으로, 제안된 디자인을 대상으로 사용자 테스트를 진행하여, 멀티모달 인터페이스가 의사결정 과정에서 사용자 이해도와 경험에 미치는 영향을 확인하였다.
2. 이론적 배경
2. 1. 의사결정의 단계
의사결정은 단일한 선택이 아니라, 문제를 인식하고 관련 정보를 해석·비교한 뒤 판단을 형성하는 연속적인 인지 과정이다. 초기 의사결정 이론과 이후의 문제 해결 및 소비자 행동 연구에서는 Table 1과 같이 의사결정 단계별로 요구되는 인지 활동과 정보 처리 방식이 다르다는 점을 강조한다. Simon(1959)은 문제 인식과 대안 설계, 선택이 기능적으로 분화된 절차적 구조를 이루며, 선택은 제한된 합리성하에서 ‘만족화(satisficing)’를 기준으로 이루어진다고 보았다. 반면 Newell과 Simon(1971)은 이를 문제 해결 이론으로 확장하여, 의사결정을 문제 공간의 탐색 과정으로 재정의하였다. 여기서 판단은 주어진 표상 구조와 휴리스틱 적용 방식에 따라 달라지는 결과로 이해된다. Dewey(1910)는 의사결정을 반성적 사고의 연속적 흐름으로 이해하였다. 그는 문제 인식-가설 설정-탐색 및 검증-평가를 제시하였으나, 정보 탐색은 가설 검증을 위한 사고 활동의 일부이며, 비교와 판단은 분리된 단계라기보다 사고 과정에 통합된 성찰적 활동으로 보았다. 이에 비해 Engel et al.(1978)은 소비자 맥락에서 문제 인식-정보 탐색-대안 평가-구매-구매 후 행동의 선형적 단계 모형을 제시하였다. 정보 탐색은 내부·외부 정보 획득의 독립 단계로, 대안 평가는 속성 간 비교를 통한 선호 형성 과정으로 구분되며, 판단은 평가 결과로 확정되는 태도 상태로 이해된다. 특히 Post-purchase behavior를 별도의 단계로 포함함으로써 선택 이후까지 모형 범위를 확장하였다는 점에서, 다른 연구자들과 구별된다. 한편 Payne et al.(1993)은 의사결정을 적응적 전략 선택 과정으로 재해석하였다. 이 관점에서는 사용자는 과업 복잡성, 시간 제약, 정확성 요구 수준에 따라 판단 전략을 조정한다. 따라서 단계는 고정된 절차가 아니라 전략 변화에 따라 유동적으로 재구성된다. Figure2와 같이 선행 연구에서 의사결정 과정은 연구마다 표현 방식은 다르지만, 핵심 단계가 반복적으로 나타난다는 공통점을 확인할 수 있다.
반면, 일부 연구자들은 선택 이후의 단계를 포함하여 의사결정을 보다 확장된 경험 과정으로 설명하였다. 예를 들어, Dewey(1910)의 evaluation 단계는 사고 과정 전반을 반성적으로 재검토하고 재구성하는 성찰 단계로, 선택 이후 학습과 인지적 수정까지 포함하며, Engel et al.(1978)의 Post-purchase behavior는 구매 이후 만족, 불만족, 재구매 의도 등 경험 축적과 태도 변화를 포함한다. 이러한 단계들은 시간 경과 이후 형성되는 경험적 반응과 관련되며, 인터랙션 설계가 직접 개입하여 통제할 수 있는 범위를 초과한다. Hassenzahl(2010)은 경험을 사용 전·중·후의 시간적 맥락 속에서 이해해야 한다고 보았고, Norman(2013)은 반성적 수준의 경험이 의미 형성과 장기적 평가와 관련된다고 설명하였다. 따라서 본 연구는 문제 인식 → 정보 탐색 및 비교 → 판단 형성 → 선택 단계를 하나의 통합된 의사결정 구조로 재구성하였다.
2. 2. 의사결정에서의 정보 인식과 선택 과정
의사결정 지원형 AI가 다루는 대부분의 판단 상황은 이미 정의된 정보와 선택지 중에서 적합한 대안을 선택하는 과제에 해당한다. Swait & Adamowicz(2001)와 Suomala(2020)는 이러한 의사결정을 정해진 정보(set of options)를 기반으로 한 선택 의사결정으로 설명하며, 이 과정에서 판단의 핵심은 정보의 양이 아니라 정보가 어떻게 인식되고 해석되는가에 있다고 보았다. Schneider & Shiffrin(1977), Downing(2000), Plebanek & Sloutsky(2019)는 제한된 인지 자원하에서 인간은 제공된 모든 정보를 동일하게 처리하지 못하며, 주의와 작업기억의 제약 속에서 선택적으로 정보를 활용하여 판단을 수행한다고 보았다. 이에 따라 사용자는 정보에 주의를 할당하고 의미를 부여하며 비교 가능한 형태로 재구성하는 과정을 거쳐 선택을 형성한다고 보았다. 선택 과정의 전개 양상과 관련하여, Kardes & Wyer(2020), Campitelli(2012)는 이러한 선택 과정이 대체로 정보 노출 → 주의 집중 → 정보 해석 → 비교 및 단순화 → 선택의 흐름으로 전개된다고 설명한다. Payne et al.(1993)은 의사결정 상황에서 사용자가 하나의 고정된 판단 전략을 사용하는 것이 아니라, 정보의 양과 복잡성에 따라 판단 전략을 유연하게 조정한다고 보았다. 사용자는 상황에 따라 하나의 대안을 중심으로 여러 속성을 종합적으로 검토하기도 하고, 특정 속성을 기준으로 여러 대안을 비교하는 방식을 선택한다. Timmermans(1993)와 Fasolo et al.(2007)은 정보가 많아질수록 중요 속성만을 중심으로 판단을 단순화하거나, 기준에 미달하는 선택지를 제거하는 휴리스틱을 활용된다고 보고하였다. 즉, 정보 비교 과정 자체가 인지적 부담을 관리하기 위한 전략으로 기능한다고 보았다.
Figure 3과 같이 정해진 정보 기반 의사결정에서 핵심적인 인지적 제약은 작업기억의 한계이다. 사용자는 여러 선택지와 속성을 동시에 유지하고 조작해야 하며, 이 과정에서 작업기억 부하가 증가한다. 특히 정보가 언어적으로 제시되거나 비교 구조가 명확하지 않을 경우, 사용자는 이전 정보를 잊거나 판단 기준을 일관되게 유지하지 못하는 문제를 경험하게 된다. 요금제, 구독 상품, 콘텐츠 추천과 같은 서비스 환경에서는 선택지가 이미 정의되어 있고, 각 선택지는 다수의 속성으로 구성되어 있다. 이때 사용자의 의사결정은 자신의 상황에 가장 적합한 대안을 고르는 적합성 판단에 가깝다. 사용자는 자신의 조건과 우선순위를 명확히 언어화하지 못한 상태에서도, 정보가 제시되는 구조와 비교 방식에 크게 의존하여 판단을 수행한다. 이러한 선행연구들을 종합하면, 정해진 정보 기반 의사결정에서 중요한 것은 정보가 인지적으로 접근 가능하고 비교 가능한 형태로 제시되는가에 있다. 이는 의사결정 지원형 AI가 사용자의 판단을 효과적으로 보조하기 위해, 정보 인식과 선택 과정의 인지적 특성을 고려한 상호작용 구조를 가져야 함을 시사한다. 본 연구는 이러한 이론적 배경을 토대로, 이후 절에서 현재 의사결정 지원형 AI 서비스의 한계를 분석하고, 멀티모달 UX가 정보 인식과 판단 과정에서 수행해야 할 역할을 논의한다.
2. 3. 의사결정 지원형 AI의 사례
의사결정 지원형 AI는 현재 다양한 산업 도메인에서 실제 서비스 형태로 구현되고 있다. 커머스·구독 서비스에서는 Amazon이 구매 이력과 탐색 행동 데이터를 기반으로 상품 추천 및 비교를 지원하며, 금융 도메인에서는 Betterment와 Wealthfront가 투자 성향과 목표를 기반으로 포트폴리오 추천을 제공한다. 인사채용 도메인에서는 HireVue, Greenhouse, Workday 등이 이력서 분석과 직무 적합도 평가를 통해 채용 의사결정을 지원한다. 도메인별로 취급하는 정보량과 의사결정 복잡도가 상이하며, AI의 개입 방식과 인터페이스 설계 요구도 달라진다. 이에 본 연구는 의사결정 지원 구조가 보다 명확하게 관찰되는 도메인을 중심으로, 실제 서비스의 의사결정 단계별 AI 개입 방식과 멀티모달리티 활용 특성을 분석하고자 하였다. 이를 위해 의사결정 지원형 AI가 적용되는 다양한 도메인을 정보량과 의사결정 복잡도라는 두 축을 기준으로 포지셔닝하였다.
그 결과, Figure 4와 같이 통신과 금융 도메인은 정보량이 많으며, 동시에 경제적 손실 및 장기적 계약 관계와 직결되는 판단이라는 점에서 의사결정 복잡도 또한 높은 영역에 위치한다. 또한 정해진 조건과 선택지 범위 내에서 요금·혜택·조건을 비교하는 의사결정이 반복적으로 발생하며, 사용자가 실제로 선택을 완료해야 하는 구조를 가진다는 점에서 의사결정 지원형 AI의 역할이 구조적으로 요구되는 영역이다. 따라서 통신 및 금융 도메인의 고객 지원형 AI 서비스를 분석 대상으로 선정하고 정보 탐색과 의사결정 과정에서의 상호작용 구조와 더불어, 시각·청각·촉각 모달리티 중 두 가지 이상이 결합되어 제공되는 멀티모달 UX 특성을 중심으로 분석을 수행하였다.
범용적인 대화형 AI 서비스의 경우, 문제 인식 단계에서는 질문 예시 제시나 입력 제안과 같은 방식은 사용자가 자신의 상황을 빠르게 문제로 정의하도록 돕는 역할을 하며, 음성 입력 시, 입력 상태를 시각적으로 피드백함으로써 입력 인식 여부를 명확히 인지할 수 있도록 한다. 또한 음성 중심 상호작용 상황에서 발화 종료나 중단 시 촉각 피드백을 제공함으로써 사용자가 대화의 흐름과 통제권을 유지할 수 있도록 설계되어 있었다. 정보 탐색 단계에서는 멀티모달리티가 주로 정보의 이해와 신뢰를 보조하는 수단으로 활용된다. 텍스트 설명과 함께 시각적으로 구조화된 카드 형태의 정보를 제공함으로써 정보의 신뢰성과 비교 가능성을 강화하는 방식이 나타난다. 그러나 이러한 범용 AI 서비스들은 판단 형성과 선택 단계로 갈수록 구조적 한계를 드러낸다. 제공되는 정보가 주로 텍스트 중심으로 구성되어 있어, 다수의 대안을 동시에 비교하는 상황에서는 정보 간 관계를 구조적으로 파악하기 어렵다. 또한 판단 형성 이후 최종 선택을 명확히 유도하거나, 선택 결과에 대한 확신을 강화하는 단계적 상호작용은 제한적으로 제공되는 경향을 보인다. 이로 인해 사용자는 정보 탐색 이후에도 자신의 판단이 어느 단계에 위치해 있는지, 의사결정이 실제로 완료되었는지를 명확히 인식하기 어렵다.
통신 도메인은 대표적 의사결정 과업인 요금제 변경 태스크를 중심으로 분석했다. 문제 인식 단계에서 요금제 사용량, 패턴에 대한 진단은 제공되지 않아 사용자는 요금제 변경의 필요성을 스스로 판단해야 한다. 멀티모달 사용 측면에서는 텍스트 키보드 입력 시 햅틱 및 청각 피드백을 제공하고, AI 응답 생성 중에는 로딩 상태를 시각적으로 표현함으로써 입력 및 처리 상태에 대한 인지를 돕는다. 또한 음성 입력은 지원하지만, AI의 응답은 텍스트 형태로만 제공되어 청각적 출력 모달리티는 제한적으로 활용된다. 정보 탐색 및 비교 단계에서는 각 요금제의 조건과 혜택이 개별적으로 제시되나, 요금제 간 핵심 차이점이나 사용자 상황에 따른 비교 요약은 구조화되어 제공되지 않는다. 응답 완료나 CTA 버튼 선택 시에도 별도의 청각·촉각 피드백이 제공되지 않아 의사결정의 완료 시점이나 상태 전환이 명확히 인식되지 않는 한계를 가진다. 이로 인해 사용자는 요금제 비교나 추천 결과를 확인한 이후에도 자신의 판단이 어느 단계에 위치해 있는지 명확히 인식하기 어렵다. 판단 형성 단계에서도 사용자의 실제 이용 데이터를 기반으로 적합한 요금제를 추천하거나 선택 기준을 명확히 제시하는 기능은 나타나지 않는다. 선택 단계에서는 AI가 요금제 변경 절차를 직접 연계하지 않고 별도의 화면으로 이동하도록 구성되어 있어, 최종 선택은 사용자의 추가 조작에 의해 완료된다. 이로 인해 의사결정의 단계적 전환과 완료 시점이 명확히 구조화되어 있다고 보기 어렵다.
금융 도메인은 대출받기 태스크를 중심으로 수행하였다. 해당 서비스는 대출 조건 조회 완료 시 촉각 피드백을 제공하여 탐색 단계의 종료를 인지하도록 지원한다. 또한 현재 조건에서 가능한 최대 대출 금액과 금융기관을 색상 및 로고 등 시각적 요소를 활용해 강조함으로써 문제 인식 단계에서 핵심 정보를 비교적 직관적으로 파악할 수 있도록 설계되어 있다. 그러나 정보 탐색 및 비교 단계에서는 입력 조건을 유연하게 수정하거나 추가 질문을 통해 다른 시나리오를 탐색하는 대화적 상호작용이 제한된다. 제시된 조건 내에서의 일회성 조회 흐름이 중심을 이루며, 복수의 대안을 구조적으로 비교하거나 조건을 재설정하는 기능은 충분히 제공되지 않는다. 판단 형성 단계에서도 사용자에게 적합한 상품을 추천하거나 선택 기준을 체계적으로 제시하는 기능은 제한적으로 나타난다. 선택 단계에서는 대출 신청 절차가 AI 상호작용 내에서 직접 완료되지 않고 별도의 입력 화면으로 전환되어 진행된다.
이를 종합해봤을 때, Table 2와 같이 범용적인 대화형 AI 서비스와 통신 및 금융도메인에서 공통적으로 멀티모달 피드백은 주로 입력 인지나 탐색 완료 시점에 집중되어 있다는 문제점을 지닌다. 특히 판단 형성 및 선택 단계와 같은 의사결정 후반부에서는 대안 간 비교, 근거 구조화, 결과 예측에 대한 지원이 상대적으로 미흡하며, 사용자가 스스로 정보를 재구성하고 결정을 내려야 하는 구조가 나타난다. 이와 같이 의사결정의 핵심이 되는 후반 단계에서 판단 지원과 멀티모달 상호작용이 부재할 경우, 인지적 부담이 가중될 수 있다. 이는 현재 의사결정 지원형 AI 서비스들이 의사결정의 단계적 인지 구조에 따라 모달리티의 역할을 체계적으로 설계하지는 못하고 있음을 시사한다.
2. 4. 의사결정 단계 내에서 멀티모달리티의 역할
선행연구에 따르면 의사결정 과정은 문제 인식, 정보 탐색 및 비교, 판단 형성, 선택의 단계로 구분되며, 각 단계마다 요구되는 인지적 활동과 정보 처리 방식이 상이하다. 이러한 단계적 의사결정 과정에서는 사용자가 처리해야 하는 정보의 양과 형태가 변화하며, 이에 따라 인지 자원의 부담 또한 단계별로 달라진다. Wickens(2008)는 다중자원 이론(Multiple Resource Theory)을 통해 인간의 인지 자원이 감각 모달리티(시각, 청각 등)와 정보 처리 코드(언어적, 비언어적)에 따라 부분적으로 독립된 자원 풀로 구성되어 있음을 제시하였다. 또한 Wickens와 Liu(1988)는 서로 다른 모달리티와 디스플레이 코드를 통해 정보가 제시될 경우 동일 자원 내 경쟁이 감소하여 작업기억 간섭이 완화되고 수행 효율이 향상될 수 있음을 보고하였다. 이러한 이론적 배경을 바탕으로, Lee와 Yoo(2017)는 멀티모달 인터페이스 연구에서 시각·청각·촉각 등 다양한 감각 채널을 결합하여 인지 자원을 분산하고 상호작용 효율을 높일 수 있는 가능성을 언급하였다. 그러나 Oviatt(1999)와 Kim과 Schneider(2020)는 멀티모달 인터페이스에서 입력·출력 수단의 조합 효과와 특정 모달리티 결합의 성능 차이를 중심으로 연구를 수행하였다. 즉, 의사결정 과정의 각 단계에서 어떠한 모달리티와 정보 디스플레이 코드가 인지적으로 적합한지에 대한 단계별 설계 기준은 충분히 제시하지 못하였다. 의사결정 각 단계별 특성에 부합하는 멀티모달 설계 방식은 Table 3과 같다.
문제 인식 단계는 사용자가 문제를 인식하고 판단 지원의 필요성을 느끼는 초기 시점으로, 무엇을 질문해야 하는지조차 명확하지 않은 상태이다. Dams et al.(2021)과 장다솜(2021)은 초기 진입 단계에서는 진입 장벽을 낮추고 시스템의 역할을 직관적으로 인식시키는 것이 중요하다고 언급하였다. 따라서 이 단계에서 멀티모달리티는 복합적인 정보 제공보다는, 음성 호출이나 간단한 시각적 단서와 같은 비언어적 신호를 통해 AI의 존재와 역할을 인식시키는 방향으로 활용될 필요가 있다.
정보 탐색 및 비교 단계는 다수의 옵션과 조건을 동시에 처리해야 하는 구간으로, 의사결정 과정에서 가장 높은 인지적 부담이 발생한다. 그러나 많은 AI 서비스는 여전히 텍스트를 통해 비교 정보를 나열하는 방식에 머물러 있어 동일한 인지 자원과 처리 코드를 반복적으로 사용하게 만든다. Wickens(2008)는 서로 다른 감각 채널과 정보 처리 코드를 병렬적으로 활용할 경우 인지적 간섭이 완화될 수 있다고 설명하였다. 이러한 관점에서 Kim과 Schneider(2020)는 음성과 시각 정보를 병행 제시할 때 정보 처리 효율이 향상될 수 있음을 보고하였다. 또한 이화영 외(2020)도 멀티모달 정보 제시가 인지 자원 분산에 긍정적인 영향을 미친다고 분석하였다. 이에 따라 정보 탐색 및 비교 단계에서는 음성으로 핵심 요약이나 절차적 설명을 제공하고, 시각적으로는 비교 기준이나 관계 구조를 공간적 코드로 제시함으로써 인지 자원을 분산시키는 멀티모달 설계가 요구된다.
판단 형성 단계에서는 수집된 정보를 바탕으로 조건과 우선순위를 정리하고 선택 기준을 명확히 하는 인지 활동이 중심이 된다. 이 단계의 핵심 문제는 판단 과정과 근거가 사용자에게 충분히 드러나지 않는다는 점이다. Young et al.(2020)과 Xu et al.(2024)의 연구는 멀티모달 인터페이스가 사용자의 상태와 판단 근거를 시각적으로 외현화할 경우 불확실성을 줄이고 신뢰 형성에 기여할 수 있음을 제시한다.
선택 단계에서는 최종 결정이 완료되었음을 인식하고 확신을 형성하는 것이 중요하다. 정경진(2021)과 Xu et al.(2024)은 문헌에서는 작업 완료나 상태 전환과 같은 중요한 시점에서 시각·청각·촉각 피드백을 차별적으로 설계할 필요성을 강조한다. 이 단계에서 멀티모달리티는 요약된 결과를 시각적으로 제시하는 동시에, 촉각과 같은 비언어적 신호를 활용하여 의사결정이 종료되었음을 즉각적으로 인식시키는 역할을 수행해야 한다.
현재 운영되고 있는 AI 기반 대고객 지원 서비스 내 정보 디스플레이 코드는 Figure 5와 같다. 멀티모달리티는 의사결정 단계별 인지적 부담을 완화하기 위한 전략적 수단으로 활용될 수 있다. 문제 인식 단계에서는 언어적 코드 사용을 최소화한 진입 지원, 정보 탐색 및 비교 단계에서는 언어적·공간적 코드의 분산 활용, 판단 형성 단계에서는 사고 과정의 외현화, 선택 단계에서는 상태 전환을 명확히 인식시키는 비언어적 신호 제공이 각각 핵심적인 역할을 수행한다.
3. 사용자 심층 인터뷰 및 컨텍스트 관찰 조사
3. 1. 인터뷰 목적 및 방법
본 인터뷰는 통신 도메인에서 요금제 선택 및 변경과 같이 다수의 옵션과 조건을 비교·검토해야 하는 복합적인 의사결정 상황을 중심으로, 기존 UI 및 AI 기반 서비스 이용 과정에서 사용자가 인지하는 불편 요소와 한계를 사용자 경험 관점에서 탐색하고자 수행되었다. 인터뷰는 최근 2년 이내 요금제 변경 경험을 보유하고 있고, 통신사 애플리케이션 또는 고객지원 기능, AI 기반 상담 기능을 최소 1회 이상 이용한 경험이 있는 사용자 5명을 대상으로 수행되었다. 인터뷰 대상자의 성별은 남성 2명, 여성 3명이었으며, 연령대는 20대 3명, 30대 2명이었다. 인터뷰는 1인당 약 30분 동안 진행되었으며, Figure 6과 같은 환경에서 오프라인으로 수행되었다.
인터뷰는 반구조화된 형식으로 진행되었으며, 질문은 Table 4와 같이 요금제 탐색 및 비교 경험, 의사결정 과정에서의 혼란 요인, 기존 AI 또는 고객지원 기능 이용 경험, 그리고 향후 AI 기반 의사결정 지원 서비스에 대한 기대를 중심으로 구성되었다. 또한 정보 전달과 의사결정 지원 과정에서 어떤 모달리티가 효과적으로 인식되고 활용되는지를 파악하기 위해, AI경험에서 텍스트·음성·시각적 정보 제시 방식과 촉각 피드백에 대한 인식과 선호에 대해 추가적으로 질의하였다. 인터뷰는 참여자가 자신의 통신사 애플리케이션을 인터뷰 중 직접 실행하여 요금제 탐색 및 AI 상담 기능을 사용하는 과정을 연구자가 함께 관찰하는 방식으로 진행되었다.
이를 통해 참여자의 실제 화면 탐색 경로, 특정 화면에서 멈추거나 혼란을 겪는 지점, 그리고 시각·청각·촉각 모달리티 피드백에 대한 즉각적인 반응을 현장에서 직접 포착할 수 있었다. 관찰 내용은 참여자의 발화와 함께 음성 녹취에 통합적으로 기록되었으며, 이후 전사 과정에서 발화 맥락과 함께 분석에 활용되었다. 모든 인터뷰는 연구 수행 이전에 개인정보 이용 및 연구 참여에 대한 동의서를 사전 작성한 후 진행되었다. 수집된 자료의 분석은 다음과 같은 절차로 수행되었다. 먼저 녹취 자료를 전문 전사한 후, 전사본을 반복적으로 검토하며 발화 내용을 문장 단위로 정제하였다. 이후 의사결정 단계를 사전 분석 틀로 설정하고, 각 발화를 해당 단계에 배정하는 연역적 코딩을 진행하였다. 이후 단계별로 동일한 경험 양상을 나타내는 발화끼리 묶는 그룹핑을 수행하였다. 그룹화된 발화 묶음에는 대표 레이블을 부여하였으며, 단계별로 반복적으로 나타나는 인지적 부담 요인과 모달리티 선호 패턴을 발견점으로 도출하였다.
3. 2. 심층 인터뷰 응답
발화 내용과 실제 앱 사용 과정에서의 행동 관찰을 통합적으로 검토한 결과, 사용자의 응답은 의사결정 과정의 단계별 특성에 따라 경험하는 인지적 부담의 양상과 정보 전달 방식에 대한 요구가 구분되어 나타났다. 특히 참여자가 실제 화면을 탐색하는 과정에서 멀티모달 피드백의 부재나 화면 전환으로 인한 맥락 단절이 발생하는 지점에서 발화가 집중되는 경향이 관찰되었으며, 이는 각 단계별 발견점의 타당성을 뒷받침하는 근거로 활용되었다. 먼저 Table 5와 같이 문제 인식 단계에서 AI 진입 초기 과정에서 심리적 부담을 경험하는 것으로 나타났다. 다수의 응답자는 무엇을 입력해야 하는지, 어떤 방식으로 질문을 시작해야 하는지가 즉시 이해되지 않을 경우 의사결정 진입 자체가 부담스럽게 느껴진다고 응답하였다(a-1). 또한 요금제 탐색이나 비교를 진행하던 기존 화면에서 벗어나 별도의 챗봇 화면으로 이동해야 하는 경우, 이미 형성된 판단 맥락이 단절되며 이를 다시 재구성해야 하는 인지적 부담이 발생한다고 인식하였다(a-2). 이와 함께 초기 단계에서 음성 안내, 시각적 강조, 알림 등 다양한 모달리티가 동시에 제공될 경우, 주의가 분산되고 복잡하게 느껴진다는 응답이 반복적으로 나타났다(a-3). 이는 문제 인식 단계에서는 명확한 진입 안내와 최소한의 신호 제공이 요구됨을 시사한다.
정보 탐색 및 비교 단계에서는 Table 6과 같이 작업기억에 대한 부담이 가장 크게 나타났다. 사용자는 다수의 요금제 옵션과 조건을 비교하는 과정에서 각 옵션의 차이를 유지하며 판단해야 하는 점을 가장 어려운 요소로 인식하였다(b-1). 특히 음성 설명만 제공되는 경우, 이전에 제시된 정보를 다시 떠올리거나 옵션 간 차이를 추적하는 데 한계가 있다고 응답하였다(b-2). 반면 비교 기준이 표나 카드 형태로 시각적으로 구조화되어 제공되거나, 음성 설명과 함께 핵심 항목이 시각적으로 강조될 경우 정보 이해와 비교가 상대적으로 수월해진다고 인식하였다. 이는 해당 단계에서 시각 모달리티가 핵심적인 정보 전달 수단으로 작동하며, 음성은 이를 보조하는 역할로 기능할 때 효과적임을 보여준다.
판단 형성 단계에서 Table 7과 같이 사용자는 AI의 판단 및 추천 근거를 명확히 확인하고 싶어 했으며, 판단 과정이 불투명하게 느껴질 경우 결과에 대한 신뢰도가 낮아진다고 응답하였다(c-1). 또한 자신의 발화 내용과 AI의 응답이 시각적으로 기록되지 않을 경우, 판단의 연속성이 유지되지 않고 다시 확인하기 어려워 신뢰가 저하된다는 인식이 반복적으로 나타났다(c-2). 이 단계에서는 새로운 정보의 추가 제공보다, 이미 제시된 정보와 판단 근거를 구조화하여 요약·정리해주는 방식이 의사결정에 더 도움이 된다고 인식되었다(c-3). 이는 판단 형성 단계에서 시각적 기록과 구조화된 정보 제시가 핵심적인 역할을 수행함을 시사한다.
마지막으로 선택 단계에서는 Table 8과 같이 사용자는 의사결정이 실제로 완료되었는지, 시스템 처리가 정상적으로 이루어졌는지를 즉각적으로 인지할 수 있는 명확한 신호가 필요하다고 응답하였다(d-1). 또한 선택 결과를 이후에 다시 검토하거나 수정할 수 있는 여지가 제공되기를 기대하였으며(d-2), 선택이 실제 요금제 변경이나 다음 행동으로 자연스럽게 이어지기를 원하였다(d-3). 이 과정에서 시각적 상태 메시지와 함께 제한적인 촉각 피드백이 제공될 경우, 선택 완료에 대한 인식과 행동 전환이 보다 명확해진다는 응답이 확인되었다.
심층 인터뷰 결과 사용자는 의사결정 단계별로 상이한 인지적 부담과 정보 처리 요구를 경험하고 있었으며, 상호작용 방식과 모달리티의 역할 또한 단계에 따라 달라지는 것으로 나타났다. 도출된 핵심 인사이트는 멀티모달 인터페이스 디자인 요소를 도출하는 데 근거로 활용되었다.
4. 의사결정 지원형 AI 멀티모달 인터페이스 디자인
4. 1. 디자인 요소
본 연구는 디자인 및 검증의 대표 도메인으로 통신 요금제 선택 과업을 선정하였다. 이는 통신 도메인이 정보량과 의사결정 복잡도 두 축 모두에서 높은 영역에 위치하며, 요금제 선택이라는 과업이 정해진 선택지 범위 내에서 다수의 조건을 비교하고 최종 선택을 완료해야 하는 의사결정 지원형 AI의 역할이 구조적으로 요구되는 맥락이기 때문이다. 또한 요금제 변경은 실생활 의사결정 과업으로, 실제 사용 맥락을 반영한 디자인 제안 및 검증에 적합하다. 다만 본 연구에서 도출된 멀티모달 UX 설계 원칙은 정해진 조건과 선택지를 기반으로 한 비교·판단 중심의 의사결정이 반복적으로 발생하는 다양한 도메인으로 확장 적용이 가능하다. 앞서 진행한 문헌조사, AI 서비스 분석, 사용자 심층 인터뷰를 통해 도출된 인사이트를 종합하여, Figure 7과 같이 의사결정 지원형 AI의 상호작용을 단계별로 구분하고, 각 단계의 인지적 특성과 사용자 요구에 대응하는 멀티모달 인터페이스 디자인 요소를 도출하였다.
각 디자인 요소는 2.4절에서 정리한 단계별 멀티모달리티의 역할 원칙에 근거하여, 시각·청각·촉각 모달리티 중 해당 단계의 인지적 특성에 적합한 모달리티를 선택적으로 결합하는 방식으로 도출되었다. 문제 인식 단계는 사용자가 요금제 탐색이나 비교 도중 추가적인 판단 지원이 필요하다고 인식하는 시점에 해당한다. 문헌과 서비스 분석에서는 시스템 역할과 입력 방식이 명확하지 않으면 조기 이탈 가능성이 보고되었으며, 질문 예시나 입력 제안으로 사용자를 안내하는 방식이 공통적으로 관찰되었다. 사용자 인터뷰에서도 기존 화면을 유지한 상태에서 AI에 접근하는 방식을 선호하는 경향이 나타났다. 따라서 초기 화면에서 사용자가 쉽게 입력을 시작하도록 질문 예시와 가이드 제공[A-1], 현재 화면 위에서 AI를 호출할 수 있는 인레이형 구조[A-2], AI 호출 시 햅틱 피드백[A-3] 등 인터페이스 설계 요소를 도출하였다. 정보 탐색 및 비교 단계는 다수의 대안과 조건을 동시에 처리해야 하는 구간으로, 인지적 부담이 크게 증가한다. 문헌조사에서는 멀티모달 설계 시 모달리티 간 기능적 역할 분담의 중요성이 강조되었다. AI 서비스 분석과 사용자 인터뷰에서도 복합 정보 비교 상황에서는 음성 단독 안내보다 시각적으로 구조화된 정보 제공이 판단에 효과적인 것으로 나타났다. 이에 따라 AI가 주요 비교 기준을 자동으로 구조화해 표, 카드, 칼럼 형태로 제시[B-1], 음성 설명과 동시에 관련 정보를 시각적으로 제공[B-2]하도록 하는 설계 요소를 도출하였다. 이는 동일 인지 자원의 반복 사용을 줄이고 서로 다른 감각 채널을 통해 정보를 분산 제시하는 멀티모달 설계 원칙을 반영한다. 판단 형성 단계에서는 사용자가 탐색한 정보를 종합하여 자신의 상황에 적합한 선택지를 좁히게 된다. 문헌조사에서는 정보가 구조화되어 제시되고 출처와 타당성이 인식될 때 신뢰가 강화된다고 보고되었다. 사용자 인터뷰에서도 개인 상황을 반영한 요약과 핵심 차이 설명이 판단 형성에 기여하는 것으로 나타났다. 따라서 AI 판단 근거를 시각화하여 조건 리스트와 반영 항목 표시[C-1], 발화 인식을 텍스트와 연계한 액티브 리스닝[C-2], 정보 요약과 정리를 중심으로 한 UI[C-3] 설계 요소를 도출하였다. 선택 단계는 사용자가 최종 결정을 내리고 행동으로 이어지는 단계로, 결정 완료에 대한 명확한 인식이 중요하다. AI 서비스 분석 결과, 금융 및 통신 도메인 AI 서비스 모두 선택 완료 시점에 대한 멀티모달 피드백이 제한적으로 제공되고 있었으며, 사용자 인터뷰에서도 선택 이후 상태 인식의 불명확성이 지적되었다. 따라서 시스템 상태를 알리는 시각적 메시지와 햅틱 피드백[D-1], 의사결정 플로우를 로그로 기록[D-2], 선택에서 실제 적용까지 부드럽게 이어지도록 행동 유도[D-3]하는 설계 요소를 도출하였다. 이는 결정 완료 시점을 비언어적 신호로 즉각 인식시키고 상태 전환을 명확히 하는 멀티모달 설계 원칙을 반영한다.
4. 2. 디자인 제안
본 연구는 의사결정 지원형 AI의 단계적 인지적 특성에 맞춘 인터페이스 디자인을 제안한다. 문제 인식 단계는 사용자가 요금제 목록이나 비교 화면을 탐색하던 중 추가적인 판단 지원이 필요하다고 인식하는 시점에 해당한다. 이 단계에서 사용자는 이미 정보 탐색과 비교라는 인지적 활동을 수행 중이므로, 별도의 화면 전환이나 새로운 상호작용 규칙은 인지적 부담과 맥락 단절을 유발할 수 있다. 따라서 Figure 8과 같이 초기 화면에 ‘베이직 초이스 알려줘’, ‘추천 요금제 보기’와 같은 질문 예시와 입력 가이드를 제공하여[A-1], 사용자가 무엇을 입력해야 하는지 즉시 이해할 수 있도록 하였다. 또한 별도의 챗봇 화면으로 이동하지 않고, 현재 보고 있는 화면 위에서 AI가 호출되어 상호작용이 이루어지는 인레이형 구조를 적용하였다[A-2]. AI 호출 시에는 짧은 햅틱 피드백을 제공하되, 이는 호출 및 진입 신호로 제한하여 과도한 감각 자극을 방지하였다[A-3].
정보 탐색 및 비교 단계는 AI가 요금제 조건과 옵션을 설명하며 사용자의 정보 이해와 비교를 지원하는 단계로, 정보량이 많아 높은 인지적 부담이 발생하는 구간이다. 이를 완화하기 위해 Figure 9와 같이 AI가 제공하는 설명 내용에 맞추어 비교 기준을 자동으로 구조화하고, 표·카드·칼럼 등 정보에 최적화된 레이아웃으로 제시하였다[B-1]. 또한 음성으로 설명 중인 항목을 화면에서 동시에 하이라이트하여, 사용자가 음성 정보의 흐름을 놓치지 않도록 설계하였다[B-2]. 이를 통해 음성은 설명과 안내의 역할을, 시각 정보는 비교와 정보 유지의 역할을 수행하도록 모달리티 간 기능을 분담하였다.
판단 형성 단계는 사용자가 조건을 구체화하고 선택 기준을 정리해 나가는 과정에 해당한다. 이 단계에서는 AI가 어떤 근거를 바탕으로 판단을 형성했는지를 인식할 수 있도록 하는 것이 중요하다. 따라서 Figure 10과 같이 분석 데이터와 분석 결과를 조건 리스트 및 반영 항목 형태로 시각화하여 AI 판단 근거를 명확히 제시하였다[C-1]. 또한 사용자의 발화와 시스템의 응답을 실시간으로 텍스트로 변환하여 화면에 표시함으로써, 발화가 어떻게 인식되고 해석되었는지를 확인할 수 있도록 하였다[C-2]. 판단 형성을 지원하기 위해 기준과 핵심 내용을 요약·정리한 카드 형태의 UI를 제공하여[C-3], 정보를 통합적으로 검토할 수 있도록 설계하였다.
선택 단계는 사용자가 최종 선택을 내리고, 그 결정에 대한 확신을 형성하는 단계이다. 이 단계에서는 시스템 상태와 선택 결과를 명확히 인지시키는 것이 중요하다. 이에 따라 Figure 11과 같이 최종 선택지를 제안하는 과정에서 시스템이 처리 중일 경우 시각적 토스트 메시지를 통해 상태를 안내하고, 처리가 완료되었을 때는 햅틱 피드백을 제공하였다[D-1]. 또한 의사결정 전 과정을 사용자가 다시 확인할 수 있도록 플로우 로그를 버튼 형태로 제공하여[D-2], 결정에 대한 통제감과 신뢰를 강화하였다. 마지막으로 AI는 선택 결과가 실제 요금제 적용이나 다음 행동으로 자연스럽게 이어질 수 있도록 유도 메시지를 제공하였다[D-3].
5. 디자인 효과 검증
5. 1. 유저테스트 설계 및 방법
제안한 인터페이스의 효과를 검증하기 위해 유저테스트를 수행하였다. 본 연구에서는 통신 요금제 변경과 같이 복수의 조건 비교와 절차적 판단이 요구되는 도메인을 분석 대상으로 설정하고, 의사결정 지원을 제공하고 있는 국내 통신 기업 K사의 대표 서비스 내 AI 챗봇을 비교 기준으로 선정하였다. 참여자는 AI 기반 서비스 이용 경험이 풍부하고 디지털 서비스에 대한 이해도가 높은 사용자 10명으로 구성되었으며, 성별은 남성 4명, 여성 6명이었다. 연령대는 20대 6명, 30대 4명이었다. 참여자를 디지털 서비스 이해도가 높은 집단으로 선정한 것은, 디지털 서비스에 대한 낮은 친숙도로 인한 혼입 변수를 최소화하고 멀티모달 인터페이스의 설계 요소가 의사결정 경험에 미치는 효과를 보다 순수하게 측정하기 위함이다.
유저테스트는 1인당 약 50분 동안 진행되었으며, 오프라인 환경으로 수행되었다. 유저테스트는 비교 실험 방식으로 설계되었다. 먼저 참여자는 K사의 기존 서비스 내 챗봇을 활용하여 요금제 추천을 받는 시나리오를 경험하였다. 이후 동일한 요금제 변경 상황을 가정하여, 본 연구에서 제안한 멀티모달 의사결정 지원형 AI 프로토타입을 경험하였다. 제안 프로토타입은 Figma 기반의 고충실도(high-fidelity) 프로토타입으로 구현되었으며, 실제 서비스와 유사한 상호작용 경험을 제공하기 위해 Wizard-of-Oz(WoZ) 방식으로 구성하였다. 이는 기술 구현 자체보다 단계별 상호작용 구조와 모달리티 조합이 사용자의 의사결정 경험에 미치는 영향을 우선적으로 검증하기 위함이다. 이를 통해 기존 의사결정 지원 방식과 제안된 멀티모달 인터페이스 간 차이를 비교·분석할 수 있도록 하였다. WoZ의 재현 범위와 한계는 다음과 같다. 시각 모달리티의 경우 단계별 비교 카드, 요약 UI, 판단 근거 시각화 등을 Figma 기반 고충실도 프로토타입으로 구현하였다. 청각 모달리티는 사전 녹음된 AI 음성을 프로토타입 내에 임베드하여 상호작용 흐름에 따라 자동 재생되도록 구성하였다. 촉각 모달리티는 실험 진행자가 지정된 시점에 햅틱 피드백을 수동으로 제공하는 방식으로 구현하였다. 이렇게 구현된 시나리오 경험 이후, 참여자는 화면 단위로 만족도, 제공된 멀티모달리티의 적합성, 그리고 해당 인터페이스 및 디자인 요소들이 요금제 선택과 같은 의사결정에 실제로 도움이 되었는지를 중심으로 평가하였다. 평가항목은 Table 9와 같다. 평가는 인지적 부담, 이해 용이성, 판단 확신 형성 여부 등 인지 및 의사결정 측면을 고려하여 7점 리커트 척도로 측정하였다.
또한 정량 평가 이후에는 반구조화된 인터뷰를 통해, 멀티모달 인터페이스의 만족/불만족 요소, 기존 텍스트 중심 챗봇과 비교했을 때 느낀 차이, 멀티모달리티가 의사결정 과정에 어떤 방식으로 영향을 미쳤다고 인식하는지에 대해 자유롭게 응답하도록 하였다. 이를 통해 제안된 디자인이 실제 사용 맥락에서 적합하게 작동하는지, 그리고 사용자의 판단 과정과 확신 형성에 어떠한 영향을 미치는지를 종합적으로 분석하고자 하였다.
5. 2. 검증 결과
유저테스트를 통해 수집된 정량적 평가 결과와 반구조화된 인터뷰 결과를 종합적으로 분석하여, 제안된 디자인의 효과를 검토하였다. 정량적 평가는 만족도, 멀티모달리티 적합성, 의사결정 지원의 세 영역으로 구성된 총 8개 문항에 대해 7점 리커트 척도로 수행되었다. 모든 참여자는 기존 국내 통신사 K사의 챗봇 인터페이스와 제안된 멀티모달 의사결정 지원형 AI 프로토타입을 경험한 후, 각 인터페이스에 대해 동일한 설문 문항을 응답하였다. 표본 수가 비교적 적고, 동일 참여자가 두 조건을 모두 평가한 실험 설계를 고려하여 비모수 검정인 Wilcoxon signed-rank test를 수행한 결과, Figure 13, Table 10과 같이 제안된 멀티모달 인터페이스의 평가 점수는 기존 챗봇 인터페이스에 비해 통계적으로 유의미하게 높은 것으로 나타났다(p = .002). 이는 제안된 디자인이 사용자 만족도, 멀티모달리티의 적합성, 그리고 요금제 선택과 관련된 의사결정 지원 측면에서 기존 텍스트 중심 챗봇 인터페이스보다 우수한 경험을 제공함을 의미한다.
정량적 평가 이후에는 반구조화된 인터뷰를 통해 사용자가 멀티모달 인터페이스를 경험하며 인식한 차이와 의사결정 과정상의 변화를 심층적으로 탐색하였다. 인터뷰 결과, 다수의 참여자는 기존 챗봇 인터페이스에 비해 제안된 디자인이 요금제 정보를 한눈에 파악하고 비교하기 용이하다고 응답하였다. 특히 시각적으로 구조화된 정보 제공과 음성 설명의 병행이 요금제 간 차이를 이해하는 데 도움이 되었으며, 자신의 사용 패턴과 추천 근거가 명확히 제시될수록 판단에 대한 신뢰와 확신이 높아진다고 인식하였다. 또한 참여자들은 음성, 시각, 촉각 모달리티가 동시에 제공되었음에도 불구하고 상호 간섭 없이 자연스럽게 작동한다고 평가하였으며, 멀티모달리티가 의사결정 흐름을 방해하기보다는 판단 과정을 단계적으로 정리해주는 역할을 수행한다고 언급하였다. 이러한 응답은 정량적 평가에서 나타난 멀티모달리티 적합성 및 의사결정 지원 점수의 유의미한 향상과도 일관된 결과로 해석할 수 있다.
Figure 14는 기존 챗봇 인터페이스와 본 연구에서 제안한 의사결정 지원형 AI 멀티모달 인터페이스를 Wickens의 정보 디스플레이 코드 관점에서 비교한 개념적 분석 결과를 제시한다. 이를 통해 기존 인터페이스에 비해 제안된 인터페이스가 정보 디스플레이 코드를 고려하여 시각·청각 및 언어적·비언어적 정보가 보다 균형적으로 구성되었음을 확인할 수 있다. 이러한 결과는 제안된 멀티모달 의사결정 지원형 AI 인터페이스가 기존 텍스트 중심 챗봇 대비 사용자의 인지적 부담을 완화하고, 요금제 선택 과정에서의 이해도와 판단 확신을 효과적으로 지원함을 보여준다.
6. 결론
본 연구는 고정된 정보와 선택지를 기반으로 사용자의 판단을 지원하는 의사결정 지원형 AI 서비스를 대상으로, 의사결정 단계별 인지적 특성에 부합하는 멀티모달 인터페이스 디자인 요소를 도출하고 그 효과를 검증하고자 하였다. 이를 위해 서비스 분석, 문헌 조사, 사용자 심층 인터뷰를 통해 의사결정 과정을 네 단계로 재구성하고, 각 단계에서 요구되는 인지적 활동과 정보 처리 특성을 기반으로 멀티모달 UX 설계 원칙을 도출하였다. 기존 의사결정 지원형 AI 서비스는 주로 텍스트 중심 상호작용에 의존함으로써, 의사결정 후반부 단계에서 대안 비교, 판단 근거 구조화, 선택 확신 형성에 대한 지원이 상대적으로 미흡한 한계를 보였다. 이에 본 연구는 각 단계의 인지적 요구에 따라 시각, 청각, 촉각 모달리티의 역할을 차별화하여 설계한 멀티모달 의사결정 지원형 AI 인터페이스를 제안했다. 유저테스트 결과, 제안된 멀티모달 인터페이스는 기존 텍스트 중심 챗봇 대비 전반적 만족도, 멀티모달리티의 적합성, 의사결정 지원 효과 측면에서 일관되게 높은 평가를 받았다. 이는 단계적 인지 구조에 기반한 모달리티 설계가 의사결정 경험의 질을 향상시킬 수 있음을 시사한다. 본 연구의 학술적 의의는 다음과 같다. 첫째, 의사결정 지원형 AI의 상호작용 구조를 단계 중심으로 재정의하였다. 둘째, 각 단계의 인지적 특성과 사용자 요구를 실증적으로 분석하여, 모달리티의 역할을 기능적·맥락적으로 구체화했다. 셋째, 기존 인터페이스와 제안하는 의사결정 지원형 AI 멀티모달 인터페이스와의 비교 실험을 통해 효과를 검증함으로써 실증적 근거를 제시하였다. 실무적 측면에서는 통신 도메인을 사례로 하였으나, 복수의 조건 비교와 절차적 판단이 요구되는 금융, 공공, 커머스 등 다양한 의사결정 지원 맥락으로 확장 적용이 가능하다는 점에서 범용적 설계 방향을 제시한다는 의의를 지닌다. 특히 의사결정 후반부 단계에서 판단 근거의 가시화, 정보 구조화, 선택 완료에 대한 명확한 피드백 제공이 인지적 부담 완화에 핵심적 요소임을 확인하였다. 다만 본 연구는 특정 도메인과 제한된 표본을 기반으로 수행되었으며, Wizard-of-Oz 방식을 활용하였다는 점에서 실제 상용 환경과의 차이가 존재할 수 있다. 향후 연구에서는 다양한 연령대와 사용 맥락을 포함한 확장 실험, 실제 서비스 환경에서의 장기적 사용성 검증이 요구된다. 종합하면, 본 연구는 의사결정의 단계적 인지 구조에 기반한 멀티모달 UX 설계가 사용자의 인지적 부담을 완화하고 의사결정을 지원할 수 있음을 실증적으로 확인하였다.
Acknowledgments
이 논문은 KT의 지원을 받아 수행된 KT-고려대 AICT 공동연구센터 산학의 연구 결과임.
This work was the result of project supported by KT(Korea Telecom)-Korea University AICT R&D Center.
Notes
Copyright : This is an Open Access article distributed under the terms of the Creative Commons Attribution Non-Commercial License (http://creativecommons.org/licenses/by-nc/3.0/), which permits unrestricted educational and non-commercial use, provided the original work is properly cited.
References
-
Asakawa, C., Takagi, H., Ino, S., & Ifukube, T. (2002). Auditory and tactile interfaces for representing the visual effects on the web. Proceedings of the Fifth International ACM Conference on Assistive Technologies(pp. 65-72).
[https://doi.org/10.1145/638249.638263]
-
Baldwin, C. L., Spence, C., Bliss, J. P., Brill, J. C., Wogalter, M. S., Mayhorn, C. B., & Ferris, T. K. (2012). Multimodal cueing: The relative benefits of the auditory, visual, and tactile channels in complex environments. Proceedings of the Human Factors and Ergonomics Society Annual Meeting, 56(1), 1431–1435.
[https://doi.org/10.1177/1071181312561404]
-
Barber, D., Lackey, S., Reinerman-Jones, L., & Hudson, I. (2013). Visual and tactile interfaces for bidirectional human robot communication. In Unmanned Systems Technology XV(Vol. 8741, pp. 269-279). SPIE.
[https://doi.org/10.1117/12.2015956]
-
Dewey, J. (1910). How we think. D. C. Heath.
[https://doi.org/10.1037/10903-000]
- Dewey, J. (1916). Democracy and education. Southern Illinois University Press.
- Dewey, J. (1980). Democracy and Education. The Middle Works, 1899-1924 Volume 9: 1916.
- Engel, J. F., Kollat, D. T., & Blackwell, R. D. (1978). Consumer behavior. Dryden Press.
-
Fasolo, B., McClelland, G. H., & Todd, P. M. (2007). Escaping the tyranny of choice: When fewer attributes make choice easier. Marketing Theory, 7(1), 13-26.
[https://doi.org/10.1177/1470593107073842]
-
Hagos, D. H., Battle, R., & Rawat, D. B. (2024). Recent advances in generative AI and large language models: Current status, challenges, and perspectives. IEEE Transactions on Artificial Intelligence, 5(12), 5873-5893.
[https://doi.org/10.1109/TAI.2024.3444742]
-
Hassenzahl, M. (2010). Experience design: Technology for all the right reasons. Morgan & Claypool.
[https://doi.org/10.1007/978-3-031-02191-6]
-
Kim, C., & Khoury, M. (1987). Task complexity and contingent information processing in couple's decision making. Journal of the Academy of Marketing Science, 15(3), 32-43.
[https://doi.org/10.1007/BF02722169]
-
Klapp, S. T. (1986). Memory and processing limits in decision-making. Praeger.
[https://doi.org/10.21236/ADA168559]
- Lee, S. B., & Yoo, S. H. (2017). Design of the emotion expression in multimodal conversation interaction of companion robot. Design convergence study, 16(6), 137-152.
-
Newell, B. R., Lagnado, D. A., & Shanks, D. R. (2022). Straight choices: The psychology of decision making. Psychology Press.
[https://doi.org/10.4324/9781003289890]
- Norman, D. A. (2013). The design of everyday things(Revised and expanded ed.). Basic Books.
-
Payne, J. W., Bettman, J. R., & Johnson, E. J. (1993). The adaptive decision maker. Cambridge University Press.
[https://doi.org/10.1017/CBO9781139173933]
-
Pecchinenda, A., & Heil, M. (2007). Role of working memory load on selective attention to affectively valent information. European Journal of Cognitive Psychology, 19(6), 898-909.
[https://doi.org/10.1080/09541440601095388]
-
Plebanek, D. J., & Sloutsky, V. M. (2019). Selective attention, filtering, and the development of working memory. Developmental Science, 22(1), e12727.
[https://doi.org/10.1111/desc.12727]
-
Schneider, W., & Shiffrin, R. M. (1977). Controlled and automatic human information processing: I. Detection, search, and attention. Psychological Review, 84(1), 1-66.
[https://doi.org/10.1037/0033-295X.84.1.1]
- Simon, H. A. (1959). Theories of decision-making in economics and behavioral science. American Economic Review, 49(3), 253-283.
-
Simon, H. A., & Newell, A. (1971). Human problem solving: The state of the theory in 1970. American Psychologist, 26, 145-159.
[https://doi.org/10.1037/h0030806]
-
Suomala, J. (2020). The consumer contextual decision-making model. Frontiers in Psychology, 11, 570430.
[https://doi.org/10.3389/fpsyg.2020.570430]
-
Swait, J., & Adamowicz, W. (2001). Choice environment, market complexity, and consumer behavior: A theoretical and empirical approach for incorporating decision complexity into models of consumer choice. Organizational Behavior and Human Decision Processes, 86(2), 141-167.
[https://doi.org/10.1006/obhd.2000.2941]
-
Timmermans, D. (1993). The impact of task complexity on information use in multi-attribute decision making. Journal of Behavioral Decision Making, 6(2), 95-111.
[https://doi.org/10.1002/bdm.3960060203]
-
Wilson, G., Freeman, E., & Brewster, S. (2016). Multimodal affective feedback: Combining thermal, vibrotactile, audio and visual signals. Proceedings of the 18th ACM International Conference on Multimodal Interaction(pp. 400-401).
[https://doi.org/10.1145/2993148.2998522]
-
Wyer Jr, R. S., & Kardes, F. R. (2020). A multistage, multiprocess analysis of consumer judgment: A selective review and conceptual framework. Journal of Consumer Psychology, 30(2), 339-364.
[https://doi.org/10.1002/jcpy.1158]
-
Xue, Q. (2024). Unlocking the potential: A comprehensive exploration of large language models in natural language processing. Applied and Computational Engineering, 57, 247-252.
[https://doi.org/10.54254/2755-2721/57/20241341]














