노인장기요양인력의 효율적 업무를 위한 AI 기반 업무 보조 서비스 제안
초록
연구배경 급속한 고령화로 요양 서비스 수요가 증가하고 있으나, 장기 요양 인력의 공급 부족과 돌봄 서비스 종사자들의 처우 개선 문제는 여전히 심각하다. 선진국에서는 스마트 기술을 활용한 노인 돌봄이 활발한 반면, 한국은 여전히 인적 서비스에 의존하고 있으며 노인 요양 시설에서의 AI 협업에 대한 논의는 미흡한 실정이다. 본 연구는 AI 기반 업무 보조 서비스를 제안하여 요양 인력의 부담을 줄이고, 효율적이고 질 높은 돌봄 서비스를 제공하는 방안을 모색하고자 한다.
연구방법 서비스 디자인의 더블 다이아몬드 프로세스와 AI-인간 협업 수준을 활용하여 장기요양인력의 업무 환경 개선 및 인력 부족 문제를 해결하고자 하였다. 문헌 조사와 사용자 조사를 통해 요양 산업의 현황과 직종별 업무를 파악한 후, 페르소나를 도출하고 문제를 정의하였다. 이후 프로토타이핑 제작과 검증을 통해 최종적으로 AI 업무 보조 서비스의 프로토타입과 서비스 청사진을 제안하였다.
연구결과 연구 결과, i) 실시간 모니터링, ii) 건강 데이터 분석, iii) 업무 스케줄 관리 시스템으로 구성된 대시보드형 AI 기반 업무 보조 서비스를 태블릿을 통해 제공하는 방안을 기획하였다. 이러한 결과를 바탕으로 프로토타입을 시각화하였고, 서비스 청사진과 시스템 맵을 통해 각 업무 단계별 AI와 인간의 상호작용 과정을 구체화하였다.
결론 본 연구는 AI 기술이 노인 장기 요양 인력의 업무 효율성을 높이고 돌봄의 질을 개선할 수 있음을 보여준다. AI와 인간의 협력을 통해 구체적인 시나리오로 이를 검증함으로써, 기존 요양시설 서비스 연구와 차별화된 학술적 의의를 지닌다. 또한, 복잡하고 시간이 많이 소요되는 작업을 자동화하여 인력이 더 가치 있는 업무에 집중할 수 있게 한다는 점에서 실무적 의의를 가진다.
Abstract
Background The demand for care services is increasing rapidly due to the aging population, but there is still a severe shortage of long-term care personnel and issues with improving the treatment of care workers. While advanced countries are actively utilizing smart technology for elderly care, South Korea still relies heavily on human services, and discussions on AI collaboration in elderly care facilities are insufficient. This study aims to propose artificial intelligence(AI)-based task assistance services for reducing the burden on care personnel and to provide efficient and high-quality care services.
Methods Using the Double Diamond process of service design and the levels of AI-human collaboration, we aimed to improve the working environment of long-term care personnel and to address workforce shortages. Through literature review and user research, we identified the current state of the long-term care industry and the specific tasks of each job category, based on which we derived personas and defined the problems. Following this, we developed and validated prototypes, ultimately proposing a prototype of an AI-assisted task management service and a service blueprint.
Results Based on the research results, we planned a dashboard-type AI-based task assistance service provided through a tablet, consisting of i) real-time monitoring, ii) health data analysis, and iii) task schedule management system. Using these results, we visualized the prototype and detailed the interaction process between AI and humans at each task stage through a service blueprint and system map.
Conclusions This study demonstrates that AI technology can enhance the efficiency of long-term care staff for the elderly and improve the quality of care. By verifying this through specific scenarios involving AI and human collaboration, the study holds academic significance by differentiating itself from existing studies on care facility services. Additionally, the study has practical significance by automating complex and time-consuming tasks, allowing staff to focus on more valuable work.
Keywords:
AI Collaboration, Elderly Care Services, Nursing Home, Work Efficiency, Service Design키워드:
AI 협업, 노인 돌봄 서비스, 요양원, 업무 효율성, 서비스 디자인1. 서론
1. 1. 연구의 배경 및 목적
대한민국은 세계에서 가장 빠른 속도로 노인 인구가 증가하고 있으며, 2020년 베이비부머 세대의 노년기 진입으로 인해 2025년에는 65세 이상 인구가 약 246만 명에 이를 것으로 예측된다. 이에 따라 고령화율은 20%를 초과하여 초고령사회로의 전환이 가속화될 전망이다(Kim, 2023). 특히, 교육 수준이 높은 베이비부머 세대의 노인 인구 증가에 따라, 어르신들의 기대 수준에 부합하는 양질의 요양 서비스에 대한 수요 또한 크게 증가할 것으로 보인다. 그러나 노인 돌봄 서비스를 제공하는 장기요양인력의 부족 문제는 더욱 심화되고 있으며, 높은 업무 강도와 열악한 근무 환경으로 인해 종사자의 이탈률이 증가하고 있다. 노인장기요양보험 도입 이후 13년이 경과했음에도 불구하고, 돌봄 인력의 처우 개선과 근무 환경 개선이 충분히 이루어지지 못한 상태이며(Park, 2003), 이는 장기적으로 돌봄 서비스의 질적 저하를 초래할 위험이 있다.
이러한 문제를 해결하기 위해 노인 돌봄 서비스 분야에서도 AI 및 IoT 기술을 활용한 연구가 활발히 진행되고 있다. 노인의 사회적·정서적 지원을 위한 AI 기술 적용(Park, Y. J. et al., 2024; Yang, Y et al., 2025; Abdollahi, H. et al, 2023)과 돌봄 업무의 효율성을 높이기 위한 AI 기반 서비스 개발(Nashwan, A. et al., 2024.; Li, X., & You, K., 2022)이 연구되면서, 돌봄 서비스의 질적 향상과 인력 부족 문제 해결을 위한 기술 적용의 필요성이 강조되고 있다. 그러나 기존 연구들은 대체로 개별 노인 수요자 중심의 AI 기반 돌봄 서비스 개발에 집중되어 있으며, 노인장기요양인력의 업무 효율성을 향상시키는 방향에서 AI를 어떻게 활용할 것인지에 대한 구체적인 논의와 실증 연구는 부족한 실정이다. 또한, AI 기반 돌봄 서비스의 경우 기술 중심적인 접근이 주를 이루고 있으며(Xiaojun Liu et al., 2024; McCloud R et al., 2022; Herfandi, H., Sitanggang, O. S., Nasution, M. R. A. et al., 2024), 실제 노인장기요양인력의 업무 수행 과정에서 AI가 어떻게 보조 역할을 수행할 수 있을지에 대한 서비스 설계 및 활용 방안에 대한 논의는 아직 충분하지 않은 실정이다.
이러한 배경을 바탕으로 본 연구는 노인장기요양인력의 업무 효율성을 향상시키기 위한 AI 업무 보조 서비스 모델을 제안하고자 한다. 특히, 서비스 블루프린트 기반의 AI 업무 보조 서비스를 설계함으로써, 인간과 AI 간의 협력 구조를 체계적으로 정립하고, 돌봄 인력의 업무 부담을 줄이며 서비스의 효율성을 향상시키는 방안을 모색할 것이다.
본 연구에서는 문헌 분석 및 실증 연구를 통해 업무별 인간-AI 협업 수준을 정의하고, 이를 각 기능으로 세분화하여 AI 기반 협업 서비스를 설계한다. 이후, 정의된 AI 협업 수준을 경험 요소 평가를 통해 효과성을 검증하여, 최종적으로 서비스 블루프린트 기반의 업무 보조 서비스 모델을 제안하고자 한다. 이를 통해 요양시설 현장에서 인간과 AI의 역할 분담 및 협력 방안을 구체적으로 제시하고, 노인장기요양인력의 업무 효율성을 향상시킬 수 있는 실질적인 해결책을 제시하는 데 기여하고자 한다.
1. 2. 연구 범위 및 방법
본 연구는 영국 디자인 카운슬(Design Council)의 인간중심 디자인 프로세스(Human-Centered Design)의 더블 다이아몬드(Double Diamod) 모델을 토대로 인간-AI 협업 수준 정의를 활용하여 노인장기요양인력의 업무를 효과적으로 보조하는 AI 협업 서비스를 제안하는 것을 목적으로 한다. 이를 위한 연구 프로세스는 다음과 같다[Table 1 참조]. 먼저 문헌 조사와 사용자 조사를 통해 요양 산업의 현황과 직종별 구체적인 업무를 파악한 후, 이를 기반으로 페르소나를 도출하고 문제를 정의하였다. 이후 프로토타이핑 제작 및 검증 과정을 통해 서비스를 구체화하였으며, 최종적으로 노인장기요양인력을 위한 AI 기반 업무 보조 서비스의 프로토타입과 서비스 흐름을 나타내는 서비스 블루프린트를 제안하였다.
Flowchart of the Research
2.이론적 고찰
2. 1. 노인장기요양산업 및 인력의 이해
우리나라의 노인복지시설은 「노인복지법」에 따라 65세 이상 노인이 심신적, 사회적, 경제적 등과 같은 이유로 일상생활을 수행하기 어려울 때 거주하거나 이용하여 노인복지를 증진시키기 위한 시설로서, 노인주거복지시설, 노인요양시설, 노인여가복지시설, 재가노인복지시설, 노인보호전문기관, 노인일자리지원기관, 학대피해 노인전용쉼터로 구분하고 있다(Kim, 2023). 이 중 본 연구에서 중점적으로 살펴보고자 하는 노인복지시설은 노인요양시설로, ‘치매, 중풍 등 노인성질환으로 심신에 상당한 장애가 발생하여 도움이 필요한 노인을 입소시켜 급식, 요양 및 그 밖에 일상생활에 필요한 편의와 치료를 제공하는 것을 목적으로 하는 시설’로 정의한다. 한국보건산업진흥원(2007)에 따르면 우리나라의 노인요양인력은 요양관리요원, 수발사(요양보호사, 홈 헬퍼), 전문 간호사(노인전문간호사, 가정전문간호사) 등으로 분류할 수 있다. 이에 근거하여 본 연구에서는 노인장기요양인력의 범위를 장기 요양 서비스를 직접적으로 제공하는 요양보호사, 간호사, 간호조무사로 재정립하였다. 이를 통해 세분화된 연구 대상을 선정함으로써 보다 심층적인 연구를 진행하고자 하였으며, 시설 내 인력 관리 및 노동환경 등의 문제를 다학제적 관점에서 인력별로 분석하는 것을 목표로 하였다.
2. 2. 노인장기요양인력의 업무 현황과 한계점 분석
기존 돌봄제공자 근무 환경 개선 관련 정책 및 선행 연구를 살펴보면 다음과 같은 한계점이 지적된다.
먼저, 노인요양시설의 의료인력 기준의 실효성이 떨어지는 것으로 확인되었다. 노인장기요양법에서 노인요양시설의 의료인력 기준을 보면 간호사 또는 간호조무사는 입소자 25명당 1명, 물리치료사 또는 작업치료사는 입소자 30명 이상일 때 1명을 배치하고 있으며, 입소자 100명을 초과할 때마다 1명을 추가한다고 명시되어 있다(노인장기요양보험법, 2019). 이는 의료인력의 중요성을 감안하지 않은 형식적 인력 기준으로, 서비스 현장에서 의료인력은 매우 부족한 것으로 파악된다(Im, 2016).
또한, 노인요양시설기관의 열악한 노동환경 및 부적절한 노무관리 등 노인요양인력의 부족한 노동권 보호가 요양서비스의 질을 저하시키며 요양인력의 수급불균형의 주 원인이 되는 것으로 확인되었다.
그러나 인력증원 및 노동환경 조건 개선은 보험수가 조정, 보험료 인상 및 근로기준법 개선 등 사회적, 법적 합의에 상당한 시간이 걸린다. 이에 한국보건사회연구원(2019)의 연구에 따르면, 4차 산업 혁명에 따른 새로운 기술 적용에 대한 시도로서, 돌봄 서비스 산업에서도 업무 부담 완화를 위한 ICT(정보통신기술)의 필요성을 언급하였다. 해당 기관에서는 ICT 기술이 일본을 포함한 OECD 국가의 인력 확보책(OECD, 2011)으로 권장되고 있으며, 실제 일본에서 업무 간소화를 위해 ICT 표준 모델 만들기 사업을 실시하며 소규모 사업소는 지자체와 연계하여 ICT를 활용하고 있다는 점을 언급하였다. 우리나라의 경우, ‘유닛케어’라는 돌봄 로봇의 개발 및 디지털 재활 기기 개발 등 기술 적용을 위한 새로운 시도가 이루어졌다. 그러나 고비용 돌봄로봇 구입에 대한 기관에서의 부담, 요양보호사의 로봇 작동에 대한 부담감 등으로 인해 돌봄 서비스 산업에서 새로운 기술 적용에 대한 노력이 비교적 낮은 수준으로 나타났으며 이러한 한계점 극복을 위해 새로운 대안 마련이 요구됨을 파악하였다.
2. 3. 돌봄서비스 산업에서의 AI 서비스 연구 및 활용 사례 분석
한국보건사회연구원(2024)에서 발간한 「2024 보건복지포럼」에 따르면 디지털 기술 도입을 통해 돌봄서비스 질 개선을 위한 업무 효율성을 향상 시킬 필요가 있으며 이를 위한 방안 중 하나로 디지털 헬스케어 서비스를 확대할 필요가 있다고 설명하였다. 또한, 사회 전반에 AI 기술 사례가 증가하고 AI 서비스의 효율성이 증명되면서 초고령화 사회에 대비한 AI 기술 기반의 노인돌봄서비스에 대한 시도 또한 이루어졌음을 확인할 수 있었다. 본 연구에서는 돌봄 서비스 산업에서 활용되는 AI 서비스의 연구 및 활용 사례를 종합적으로 분석하여, 노인 돌봄 및 장기요양분야에 도입된 AI 기술의 실제 활용 양상을 파악하고자 하였다. 구체적인 분석 내용은 Table 2와 같다.
Care, caregiving, and medical-related support services
분석 결과, 기존의 연구와 서비스를 통해 주로 노인 돌봄 서비스의 효율성 제고를 위해 AI 기반의 모니터링, 웨어러블 기기, 돌봄 로봇 등의 활용 가능성을 확인할 수 있었다. 그러나, 대부분 환자와 직접 상호작용하는 기능에 집중되어 있으며, 돌봄 인력 간의 협업을 지원하는 서비스는 상대적으로 부족한 것으로 나타났다. 또한 기존 연구 및 서비스의 대부분이 특정 개별 업무를 보조하는 기술에 초점을 맞추고 있어, 근로자의 전반적인 업무 효율 향상을 목적으로 하는 통합적 서비스가 제한적임을 확인했다. 아울러 기존 연구들은 대체로 기술적 수단을 중심으로 AI 활용 방안을 논의하는 경향이 강해, 돌봄 인력이 실제 현장에서 해당 기술을 적용할 때 실제 사용자의 수용도는 어떠한지, 어떤 판단과 의사결정을 거치고, 그 과정에서 인간과 AI가 어떻게 협업 및 상호작용하여 신뢰를 형성할 수 있는지에 대한 심층적 논의는 충분히 이루어지지 않는 실정이다. 이는 기술 도입 과정에서 인간의 역할과 판단을 구체적으로 고려함으로써, AI 기반 서비스가 돌봄 현장에서 실질적으로 활용되고 신뢰를 구축하기 위한 후속 연구가 필요함을 시사한다.
2. 4. 인간-AI 협업의 이해
인간과 AI의 협업은 현대 사회의 다양한 분야에서 중요한 이슈로 대두되고 있다(Shneiderman., 2020; Zhang & Yang et al., 2020). AI 기술의 발전에 따라 인간의 역할 변화와 상호작용 방식의 중요성이 증대되고 있으며, 협업의 주요 목표는 복잡한 문제를 신속하게 해결하고 업무 정확성을 높이며 시간과 자원을 효율적으로 활용하는 데 있다(Brynjolfsson & McAfee., 2014; Rahwan & Cebrian et al., 2019; Bansal & Nushi et al., 2019; Amershi, Weld et al., 2019).
구체적으로, AI는 전문가 시스템과 예측 분석 도구를 통해 방대한 데이터를 신속하고 정확하게 처리함으로써 분석적 의사결정을 지원하는 강점을 보인다(Jordan & Mitchell., 2015; Shrestha & Ben-Menahem., 2019; Sadler-Smith & Shefy., 2004). 반면, 인간은 직관과 창의력을 바탕으로 불확실성과 모호성을 효과적으로 다룰 수 있다(Kahneman., 2011; Jarrahi., 2018; Dane et al., 2012). 이처럼, 인간과 AI의 협업은 각자의 강점을 상호 보완하여 집단 지능을 향상시키고, AI가 단순 자동화 도구를 넘어 인간의 의사결정을 보조하는 협력적 시스템을 구축하는 데 핵심적인 역할을 한다(Brynjolfsson & McAfee., 2014; Daugherty & Wilson., 2018).
결국, 효과적인 인간-AI 협업은 AI의 분석적 능력과 인간의 직관적 판단이 조화를 이루어, 복잡한 문제 해결과 업무 효율성 향상에 기여할 수 있음을 시사한다.
앞 단계에서 설명한 인간-AI 협업은 AI가 제공하는 데이터 분석, 예측 및 추천 등의 기능을 인간이 최종적으로 검토하는 의사결정하는 구조로 이루어진다. 인간 중심의 AI를 의미하는 ‘Human in the Loop’는 AI 시스템의 설계와 운영에서 인간이 필수적인 역할을 맡는 것을 의미하며(Amershi & Cakmak et al., 2014; Deng, J., Dong, W et al., 2009.) 다음과 같은 방식으로 적용된다.
(1) 의사결정 과정에서의 협력
AI는 방대한 양의 데이터를 신속하고 정확하게 분석하여 유의미한 패턴과 통찰을 도출한다(Jordan, M. I,. & Mitchell, T. M., 2015; Domingos, P., 2012). 이러한 결과는 의사결정에 필요한 정보를 제공하지만, 최종 의사결정은 인간이 판단한다. 인간은 자신의 도메인 지식과 경험을 활용하여 AI가 제시한 결과의 타당성과 적용 가능성을 평가하고, 상황에 따른 윤리적, 사회적 고려 사항을 포함하여 종합적인 판단을 내린다(Russel, S. J,. & Norvig, P., 2010). 이러한 협력 과정은 의사결정의 효율성과 정확성을 높이며, 복잡한 문제 해결에 있어서 인간과 AI의 강점을 최대한 활용할 수 있다(Shneiderman, B., 2020; Amershi, Weld et al., 2019).
(2) 피드백 루프(Feedback Loop)
AI 시스템의 성능 향상을 위해서는 인간의 지속적인 ‘피드백 루프(Feedback Loop)’가 중요하다(Amershi & Cakmak et al., 2014). 피드백 루프는 AI가 데이터를 기반으로 지식을 습득하여 예측 및 결정을 내리게 되면, 인간은 이러한 결과를 검토하고 정확성 및 적절성을 평가하여 피드백을 제공하는 것을 말한다. 이 피드백은 AI 모델의 학습 과정에 반영되어 향후 예측과 결정의 정확도를 개선하게 된다. 특히, 인간의 전문 지식과 직관이 결합 된 피드백은 AI가 데이터에서 포착하기 어려운 미묘한 패턴이나 예외적인 상황을 학습하는 데 도움을 준다(Amershi & Cakmak et al., 2014; Holzinger., 2016). 이러한 반복적인 피드백 루프를 통해 AI 시스템이 지속적으로 발전하고 변화하는 환경에 적응할 수 있도록 지원할 수 있다.
효과적인 인간-AI 협업은 인간과 AI의 역할과 책임을 명확하게 정의하고, 상호작용의 구조를 체계적으로 구성함으로써 달성된다(Amershi, Weld et al., 2019; Bansal, Nushi et al., 2019). 예를 들어, 특정 업무에서 AI를 활용하여 생산성과 효율성을 극대화하기 위해서는 AI의 자동화 수준과 Human in the loop, 즉 인간의 개입 지점을 명확하게 설정하는 것이 중요하다.
2. 5. AI 기반 기술 및 협업 수준 정의
본 연구 단계에서는 장기노인요양인력의 인간-AI 협업 수준을 재정의하기 위해 AI의 발전 단계 및 인간-AI 협업 수준에 대한 선행 연구를 분석하였다. 한국전자통신연구원(Electronics and Telecommunications Trends, 이하 ETRI)에서 정의하는 기술 수준은 AI와 인간의 협업 능력을 기반으로 다양한 수준으로 나뉘며, ETRI에서 제시한 기술 수준 정의 기준의 인간과 소통하는 AI의 6개의 단계를 참고하여 이를 연구에 활용하고자 하였다. 특히, 인간을 이해하고 소통하는 감정지수(EQ)로써 ‘인간과 소통하는 AI’는 인간과 AI의 소통과 의견 교류, 상호작용 정도를 계층화하며, 단계가 높아질수록 여러 요소를 종합할 수 있는 통합 인지 AI로 발전하는 과정을 포함한다.
ETRI 이외에 또 다른 대표적인 AI의 수준은 포브스에서 제시한 것으로, 제한적 인공지능(ANI: Artificial Narrow Intelligence), 범용 인공지능(AGI: Artificial General Intelligence), 초인공지능(ASI: Artificial Super Intelligence) 세 가지로 구분된다. 또한 도허티(Daugherty, 2018)와 윌슨(Wilson, 2018)이 제시한 ‘Roles for AI’에서는 조직의 일부로 수용된 AI에게 다양한 수준의 제어 권한을 부여할 수 있으며, 이러한 역할은 도구(Tools), 보조자(Assistant), 동료(Peer), 그룹을 관리하는 AI(Manager)에 이르기까지 다양하다고 언급하였다. 다음과 같이 살펴본 선행 연구를 ETRI에서 제시한 6개의 단계를 기준으로 Table 3과 같이 재구성하였다. 이는 사용자 조사 이후 노인장기요양인력과 AI의 협력 수준을 재정의하고 적절한 협업 수준에 대한 가설 수립 및 검증에 활용하였다.
Summary of All Artificial Intelligence Stages Based on ETRI
본 연구를 수행하기 위해 앞선 단계에서 재구성한 6개의 단계를 기반으로 노인장기요양인력의 업무를 세분화하여 AI가 지원할 수 있는 구체적인 작업을 식별하고, 각 업무에서 AI가 인간과 협업함으로써 사용자 경험을 개선할 수 있는 기회 요소를 파악하고자 한다. 노인장기요양인력을 위한 서비스에 ETRI가 제시한 ‘인간과 소통하는 AI’의 6개의 단계를 기반으로 재정의한 AI 협업 모델을 실증 연구를 통해 효과성을 검증하고, 최종적으로 AI 기반 업무 보조 서비스 모델을 제안함으로써, 인간과 AI의 협업이 노인장기요양인력의 업무 부담을 경감시키고 돌봄 서비스의 효율성과 품질을 향상시킬 수 있음을 실증적으로 제시하고자 한다.
3. 노인장기요양인력의 여정분석
3. 1. 인간-AI 협업 기회 발견을 위한 프로세스
도허티(Daugherty, 2018)와 윌슨(Wilson, 2018)은 인간과 AI 협업 기회를 발견하기 위한 프로세스를 몇 가지 단계로 구분할 수 있다고 언급하였다.
첫 번째 단계는 조직 내에서 수행되는 광범위한 작업(Jobs)을 세분화된 작업(Tasks)으로 세분화하는 것이다. 이 단계를 통해 도허티(Daugherty, 2018)와 윌슨(Wilson, 2018)은 AI 적용 가능성을 더 잘 이해할 수 있다고 강조하였다. 작업(Jobs)은 대개 복잡하고 다양한 활동으로 구성되며, 이를 더 작은 단위의 작업(Tasks)으로 나누면 각 작업의 특성을 더 명확히 할 수 있기 때문이다.
두 번째 단계는 사용자 여정(User Journey Map)을 분석하는 것이다. 이 과정에서 AI가 어떻게 가치 있는 역할을 할 수 있는지를 이해하는 것이 중요하며, AI가 사용자 경험을 개선할 수 있는 지점을 발견하는 것이 핵심이다.
세 번째 단계는 특정 작업(Tasks)이 AI로 자동화되거나 지원될 수 있는지 확인하여 AI가 실제로 작업을 수행하는 데 적합한지 평가한다. 이후 기술적 가능성, 비용 효과성, 그리고 윤리적 적합성을 고려하여 각 작업에 AI를 실제로 적용할 수 있는지 여부를 확인한다.
마지막으로 인간과 AI가 협업할 수 있는 Human in the loop 기회영역을 도출하면서, AI와 인간이 상호 보완적으로 협력할 수 있는 영역을 식별하는 것으로 다음 과정을 마무리 한다.
본 연구에서는 도허티(Daugherty, 2018)와 윌슨(Wilson, 2018)이 제시한 인간-AI 협업 기회 요소를 도출하고자 한다.
3. 2. 조사방법
본 연구는 노인장기요양인력의 업무 과정에서 AI 기반 협업 기회를 도출하기 위해 질적 연구 방법을 활용하였다. 이를 위해 요양시설 근로자를 대상으로 심층 인터뷰를 진행하고, 사용자 여정(User Journey)분석을 수행하여 AI 적용 가능성을 평가하였다
우선, 요양보호사 6인, 간호(조무)사 8인, 사회복지사 4인 등 총 18명의 돌봄 시설 근로자를 대상으로 심층 인터뷰를 실시하였다. 인터뷰는 노인장기요양인력의 업무 내용과 직무 수행 과정에서의 어려움을 탐색하기 위해 구성되었으며, 사회인구학적 정보, 구체적인 업무 수행 방식, 직무 관련 페인포인트(Pain Points), 전자기기 활용도 및 AI 수용도를 포함하였다. 이후, 사용자 여정 분석을 통해 요양시설 내 업무 수행 단계별로 AI 기술이 개입할 수 있는 가능성을 탐색하였다. 이를 통해 노인장기요양인력이 실제 현장에서 경험하는 실무적 니즈를 분석하고, AI 기반 협업 서비스가 업무 효율성을 높이는 데 기여할 수 있는 개선 지점을 도출하였다. 마지막으로, 분석된 결과를 바탕으로 AI 기술 적용이 가능한 업무 개선 방안을 도출하고, 이를 반영하여 AI 활용 개선 방안 아이디어를 정리한 후, AI 협업 서비스 모델을 제안하였다.
3. 3. 분석결과: 1차 심층 인터뷰 분석
어피니티다이어그램 분류 기법을 통해 심층 인터뷰를 통해 수집한 답변의 클러스터링과 AI 서비스 도출을 위한 아이데이션을 진행하였다. 클러스터링을 통해 도출한 서비스 전체의 방향성은 첫째, 장기요양의 서비스는 노인 환자를 위한 인간의 정서적, 전문적인 케어가 필요한 분야이기 때문에 AI만으로 이루어지는 시설은 돌봄 서비스의 질 향상을 해결하기 어렵다고 판단하였다. 환자와 감정적인 커뮤니케이션 외에 근로자는 서류 업무 보조 및 인간의 업무를 보조하는 AI 서비스 방식에 대해 긍정적인 인식을 보였다. 이를 통해 AI가 근로자의 업무를 보조하는 협업 형태의 서비스 방향성을 도출하였다.
둘째, 노인장기요양 근로인력은 타 근로 시설에 비해 근로자의 연령대가 높아 환자 돌봄 업무 이외의 전산 상의 서류 업무 처리에 큰 부담감을 어려움을 갖고 있었다. 정부의 지원 및 공단의 감사로 인해 전자 문서 업무가 필수적인 시설에서 간호사, 보호사가 돌봄 업무 이외에도 다양한 서류를 작성해야한다는 점이 주요 페인포인트로 도출되었으며 업무를 보조하는 기능 중 서류 업무를 보조하는 기능은 필수적이라는 것을 확인하였다.
셋째, 근로 인력의 부족으로 직무 간 경계가 명확하지 않은 시설이 다수 존재하며, 이로 인해 근로자 간 협업이 자주 이루어지고 있었다. 그러나 담당 환자가 아닌 환자를 보조하는 경우 환자에 대한 이해도가 낮아 근로자 협업 시 환자 케어를 위한 의사소통에 어려움을 겪는 것으로 나타났다. 이러한 문제를 통해 담당 환자가 아닌 경우에도 환자의 정보를 쉽고 빠르게 파악할 수 있는 도구가 필요하다는 점을 확인하였다.
넷째, 장기요양근로인력의 낙상사고 방지에 대한 업무 부담 또한 큰 것으로 나타났다. 낙상사고 발생 시 보호자와 시설 간의 의사소통으로 인해 근로자의 정신적 부담이 증가하며, 사고를 방지하기 위해 병실을 자주 방문하는 라운딩 업무가 근로자의 육체적 부담도 가중시키고 있었다. 이를 통해 낙상사고 방지를 위한 AI의 업무 보조 필요성이 확인되었다. 이러한 방향성을 바탕으로 업무의 부담을 줄여주고 인력 부족에서 오는 문제를 해결해주기 위해서 단순하고 반복적이지만 업무 부담이 높은 과업을 위주의 장기요양인력 근로자를 위한 인간-AI 협업 서비스의 방향성을 선정하였다. 도출한 어피니티 다이어그램은 아래와 같다[Table 4 참조].
Deriving service opportunity factors through Affinity Diagram
3. 4. 노인장기요양인력의 페르소나 수립과 여정맵 도출
본 과정에서는 장기요양근로인력의 사용자 심층 인터뷰를 분석하여, 업무 특성에 기반한 두 가지 페르소나를 도출하였다. 돌봄 인력의 업무 보조 서비스를 기획하기 위해 주요 업무적 특성, 공통 업무, 페인포인트, AI 서비스 관련 기술 활용 능력 등으로 분류하여 변인을 도출하고 변인 맵핑을 통해[Appendix A, B 참조] 두 가지의 페르소나를 최종 도출하였다.
본 연구에서 간호인력, 요양보호인력의 페르소나를 유형화한 결과는 Table 5와 같다. 페르소나는 실존 인물이 아닌 최종 서비스 수혜자의 예상 모델로서, 연구 대상자인 간호(조무)사, 요양보호사의 직무별 대표 페르소나를 정의하였다.
2 Types of Persona
다음으로 서비스 제공 측면에서 직무별 페르소나의 터치포인트와 구체적인 서비스 흐름 체계를 시각화한 고객 여정 지도(Customer journey map)를 제작하였다[Table 6, 7참조]
Journey map for Medical care type
Journey map for Caregiving type
먼저, Table 6의 의료케어형의 여정맵은 의료케어형의 환자 돌봄 과정을 반영하여 ‘병실 라운딩 > 복약 지도 > 일지 및 차트 기록, 정리 > 인수인계’의 순서로 설정하였다. 또한, Table 7의 돌봄제공형의 여정맵은 돌봄제공형의 환자 돌봄 과정을 반영하여 ‘병실 라운딩 > 신체적 케어 > 일지 및 차트 기록, 정리 > 인수인계’의 순서로 설정하였다. 각 단계에서 사용자의 터치포인트와 세부 행동, 돌봄 과정 측면의 페인포인트를 순서대로 작성하였다. 이후, 여정 단계와 세부 과업에 단계별 코드를 부여하여 재정리하였다.
4. 인간-AI 협업 서비스 기회요인 도출
4. 1. AI 서비스 협업 수준 정의
본 연구는 노인장기요양인력의 AI 서비스 사용 시 요구하는 협업 수준을 분석하기 위해 ETRI가 제시한 ‘인간과 소통하는 AI’의 6개의 단계를 연구 범위에 맞춰 노인장기요양인력 AI 서비스 협업 수준에 활용하였다. 기존의 ETRI AI-인간 협업 수준을 바탕으로, 사용자의 요구사항과 기존 서비스에서 발견한 사항들을 고려하여, 환자 기록 데이터 학습 기반 노인장기요양인력의 업무 보조 협업 수준을 1단계에서 5단계까지 총 5개의 협업 단계를 적용하였다. 또한, 페르소나의 업무 맥락을 고려하여, 데이터 입력 전 수기 단계를 0단계로 설정하여 협업 수준에 포함하였다. 6단계는 인공지능이 인간의 개입 없이 스스로 자기 인지를 통해 수행하는 단계를 말한다. 즉, 사용자의 건강 상태, 환경, 외부 상황 등 어려운 정보를 종합하여 더 나은 판단을 내리는 수준을 의미한다. 따라서 6단계는 인간과 협업하는 것이 아니라 대체하는 수준으로 간주되므로, 본 연구에서는 0단계부터 5단계까지의 협업 수준을 적용하기로 하였다. 환자 기록 데이터 기반 AI 협업을 구조화한 결과는 다음과 같다[Table 8 참조].
Defining the level of AI service collaboration for elderly long-term care personnel
4. 2. 장기요양인력 페르소나 시나리오 기반 AI협업 수준 정의
본 연구에서는 이론적 고찰을 통해 확인한 인간-AI의 협업 수준이 노인장기요양인력의 AI 서비스에 적합한지 검증하기 위해, 환자 기록을 통한 의료케어형과 병실에서 환자와 직접 소통하는 돌봄제공형 두 가지 페르소나의 세부 업무 시나리오에 AI 협업 수준 표를 적용하여 분석하였다. 협업 수준은 각 시나리오와 AI 아이디어 요소를 기반으로 가설을 설정하였으며, 향후 실제 사용자에게 프로토타입을 적용하여 협업 수준을 검증할 예정이다.
의료 케어형 업무 분석 결과, 환자 관찰(J-1-1) 단계는 AI 스피커를 활용해 환자의 건강 상태를 스크리닝하고 분석하여 안내하는 과정으로 협업 수준 5단계에 분류된다. 의료 케어(P1-1-1) 단계는 센서 및 IoT 기술을 통한 건강 모니터링과 데이터 시각화 과정이며, 투약 및 약물 관리(P1-2-2) 단계는 AI 알고리즘으로 복용 스케줄을 최적화하는 과정으로 모두 4단계로 분류된다. 업무 기록 문서화(J-2-2) 단계 또한 AI-OCR 기술을 이용한 데이터 기록화로 같은 수준이다. 개별 처방전 확인 및 보관(P1-2-1) 단계는 처방전 데이터를 학습·분석하여 복용법을 안내하는 과정으로 3단계에 해당한다. 마지막으로 환자 건강 상태 기록(J-2-1) 단계는 음성 데이터를 텍스트로 변환하여 기초적 데이터 입력을 지원하는 과정이며, 인수인계 내용 공유(J-3-1) 단계는 정보의 정렬 및 요약을 지원하는 기능으로 두 단계 모두 2단계로 분류된다. 최종적으로, 도출된 협업 수준은 1단계 0개, 2단계 2개, 3단계 1개, 4단계 3개, 5단계 1개로 나타나 4단계와 2단계가 가장 많았으며, 1단계는 도출되지 않았다. 이는 1단계에서 제공하는 기초수준의 인공지능 기술이 업무 효율성 증진을 위한 AI 아이디어 요인을 반영하기에는 부족했던 것으로 보인다.
돌봄 제공형 시나리오에서 식사 지원(P2-1-1) 단계는 노인의 식사량 관리를 포함한 기본적인 데이터 관리 수준으로 협업 수준 4단계로 분류되며, 침상자세 유지(P2-2-2) 단계는 IoT 센서를 활용한 실시간 데이터 수집과 분석으로 같은 수준으로 분류된다. 이 외 세부 과업은 의료 케어형과 유사한 협업 수준을 보인다. 이러한 분석 결과, 협업 수준 1단계와 3단계, 5단계는 도출되지 않았고, 2단계 2개, 4단계 2개가 최종적으로 도출되었다. 이는 1단계의 기초 수준 인공지능 기술은 업무 효율성 증진을 위한 AI 아이디어 요인을 반영하기에 부족했던 것으로 판단된다. 또한, 5단계와 같은 높은 수준의 기술은 돌봄 제공형의 특정 세부 과업 시나리오에서는 필요성이 두드러지지 않은 것으로 예측된다.
앞서 도출한 두 가지 유형의 페르소나, 여정맵 및 시나리오별 협업 수준 정의를 바탕으로 AI와 노인장기요양인력의 협업 서비스 기회 요소를 도출하였다. 업무 시나리오별 AI-인간 협업 서비스의 기회 요인은 다음과 같이 3가지로 정리된다: A. 환자 건강상태 자동 모니터링 AI 서비스, B. 약물 관리 및 복약 지도 보조 AI 서비스, C. 환자 데이터 관리 향상 및 근로자 인수인계 과정 보조 AI 서비스.
노인장기요양인력을 위한 AI-인간 협업 서비스의 최종 아이디어는 다음과 같다[Table 9 참조].
Human-AI Collaboration opportunities & Interactions
먼저, A. 환자 건강 상태 자동 모니터링 AI 서비스는 병실 라운딩 및 의료 케어 과정에서 AI 스피커와 IoT 센서를 활용해 환자 상태를 모니터링하고 알림을 제공함으로써 업무 부담을 경감하고 효율성을 증대시킨다.
B. 약물 관리 및 복약 지도 AI 서비스는 처방전 확인 및 투약 관리에 AI 알고리즘을 적용하여 개인화된 환자 관리를 지원하고 업무 효율성을 향상시키며, 처방 변경 시 알림과 복약 방법 안내를 통해 데이터 기반의 맞춤형 약물 관리가 가능하도록 한다.
마지막으로, C. 환자 데이터 관리 및 근로자 인수인계 보조 AI 서비스는 AI-OCR 및 ROI 추출 기술을 통해 일지 및 차트 기록, 인수인계 정보의 관리를 개선하고, 정보 우선순위 자동 정렬 및 실시간 보고서 생성을 통해 업무 효율성을 제고한다.
5. 서비스 경험 프로토타이핑 및 검증
앞서 설정한 AI 서비스 기회요인 및 AI 협업 수준 가설을 검증하기 위해 프로토타입을 제작하였다. 본 단계에서의 검증 목표는 첫째, AI 서비스 기회 요인을 ‘AI 서비스 경험 요소 평가 지표’를 토대로 평가하여 근로자가 AI 서비스를 실제로 사용하면서 느끼는 업무 효율성, 학습성, 사용자 주도성, 신뢰성을 분석하고, AI 서비스의 도입이 업무 환경에 미치는 영향을 파악한다. 둘째, AI와 근로자 간의 협업 수준을 세부 과업별로 평가하여 생선성과 효율성 향상 여부를 검증한다. 이러한 검증을 통해 AI 서비스의 실제 효과와 향후 개선점을 도출하고자 한다.
5. 1. 1. 프로토타입 제작과 검증 방법 및 대상 선정
본 연구에서는 AI 서비스 기회 요인과 세부 과업별 협업 수준을 반영한 프로토타입을 제작하고, 사용자 관점에서 평가하기 위한 초기 테스트를 설계하였다. 이를 위해 업무의 전반적인 흐름을 반영한 미드 파이(Mid-fidelity) 디지털 프로토타입을 구현하였으며, AI 서비스의 전체적인 경험 요소를 평가하기 위해 수평적 프로토타입 방식을 적용하였다.
테스트 방법으로는 AI 서비스 기회 요인을 기반으로 각 페르소나(Persona)에 적합한 세부 과업을 설정하고, 이를 인터뷰 대상자에게 미션(Mission) 형식으로 제시하는 방식을 채택하였다. 인터뷰 진행 시 테스트의 목적과 절차를 사전에 설명한 후, Think Aloud 방법론을 활용하여 AI 서비스 경험 요소에 대한 피드백을 수집하였다. 또한, 사용자의 잠재적 요구사항을 보다 정밀하게 파악하기 위해 추가적인 정성 인터뷰를 진행하여, 서비스의 실질적 효과성과 구체적인 개선점을 도출하였다[Table 10 참조].
Prototype Test
소규모 사용자 그룹을 활용한 심층 분석이 초기 프로토타입 검증에서 효과적이라는 연구들이 다수 보고된 바 있다. 닐슨(Nielsen, 2000)은 5~9명의 참여자만으로도 주요 사용성 문제를 발견할 수 있으며, 이후 추가 인원의 기여도는 점진적으로 감소한다고 주장하였다. 이는 버지(Virzi, 1992)와 포크너(Faulkner, 2003) 등의 연구에서도 입증되었으며, 제한된 인원만으로도 충분한 사용성 문제 도출이 가능함을 시사한다. 따라서, 본 연구에서는 초기 프로토타입 검증의 효과성을 고려하여 9명의 요양시설 근로자를 인터뷰 대상으로 선정하였으며, 이와 같은 연구 설계는 기존 사용성 평가 연구들과 방법론적으로 일관성을 갖는다.
이에 따라, 본 연구에서는 노인장기요양인력의 AI 서비스 활용 가능성을 평가하고 개선점을 도출하기 위해, 마포실버케어에 근무하는 요양보호사, 간호(조무)사, 사회복지사 등 총 9명을 인터뷰 대상으로 선정하였다. 인터뷰는 선행 연구에서 제안한 방법론적 접근을 기반으로, 직무 수행 과정에서의 주요 페인포인트(Pain Points)를 심층적으로 분석하는 데 초점을 맞추었다. 이를 통해 AI 기술 적용 가능성과 서비스 개선 방향을 도출하고, 실무 환경에서의 수용 가능성을 평가하는 기초 자료를 확보하고자 하였다. [Table 11참조]
Interviewees information
5. 1. 2. AI 서비스 경험 요소 평가 요인 설정
프로토타입의 AI 서비스 경험 요소에 대한 평가 지표를 작성하기 위해 AI 시스템 사용자 경험에 대한 선행 연구 분석을 통해 평가 요인들을 도출하였다. AI 기반 시스템 사용성 평가와 관련한 선행 연구에서는 AI와 사용자의 상호작용 및 기술적 기능 등의 내용을 다루고 있다. 문헌 분석을 통해 평가 요인을 선정 및 분류하여 그에 대한 내용을 요약 후 Table 12의 사용자 경험 요인을 Contents, Agent, System으로 구분하였다. 요인 1 ‘Contents’는 사용자에게 제공되는 정보와 데이터를 포함하며 AI 시스템과 상호작용할 때 직접적으로 경험하는 부분으로 정의하였다. 요인 2 ‘Agent’는 AI 시스템 내 환경과 상호작용하고 자율적으로 행동하는 요소를 의미한다. 마지막으로 요인 3 ‘System’은 특정 목적을 달성하기 위해 작동하는 구조를 의미하며 하드웨어, 소프트웨어, 프로세스, 사람 등 다양한 요소로 구성될 수 있다
Element of experience evaluation metrics
Table 12에서 도출한 결과를 바탕으로 앞선 단계에서 설계한 여정맵 및 AI 서비스 기회 요소를 활용하여 서비스의 세부 과업에 적절한 평가 요인을 재구성하여 Table 13의 서비스 경험 요소 평가 질문을 수립하였다.
Usability evaluation metrics(공통/과업별 구분)
인터뷰 대상자에게 프로토타입 테스트를 진행하면서 미션에 따른 세부 과업을 완수할 때마다 공통적으로 [Contents-효율성 및 학습성]에 해당되는 질문을 하였다. [Agent-사용자 주도성]에 해당되는 질문은 Mission A와 Mission B의 세부 과업에 대해서만 진행하였으며, Mission C의 세부 과업은 자동 저장 및 최종 확인을 위한 과정이 주 경험 요소이므로 [Agent-사용자 주도성]의 평가 질문에 적절하지 않다고 판단하여 제외하였다. 또한 [System-신뢰성]의 평가 요인은 Misson B의 세부 과업에서는 제외하였는데, 서비스 사용 과정 중 상호작용성이 가장 높은 Mission B에서는 프로토타입 단계에서 오류 및 신뢰성에 대한 세부적인 평가가 어렵다는 점을 고려하여 Mission A와 Mission C의 세부 과업에 대해서만 평가를 진행하였다. 또한 각 세부 과업마다 인간-AI 협업 수준 평가를 시행하며 앞서 설정한 협업 수준이 적절한지에 대한 평가를 수립했다.
5. 1. 3. 주제 분석(Thematic analysis)를 통한 서비스 경험 요소 평가
프로토타입에 대한 경험 요소 평가를 통해 사용자의 요구사항과 실질적인 개선방안을 도출하기 위해 주제 분석 방법론(Thematic Analysis)을 활용하여 인터뷰를 분석하였다.
이를 위해, 인터뷰 녹취 파일을 전사(Transcription)하여 인터뷰 답변을 텍스트 데이터로 변환하였다. 인터뷰 답변은 경험 요소 평가를 기준으로 서비스 기회요소에 따라 세부 과업을 분류하고 인터뷰 답변 내용을 정리하였다. 이를 바탕으로 중요한 문구나 키워드를 중심으로 인터뷰 내용을 요약 과정을 통해 Table 14의 개선 방안을 도출하였다.
Example of qualitative content analysis
5. 1. 4. 프로토타입에 대한 인간-AI 협업 수준 평가
프로토타입에 대한 서비스 경험 요소 평가를 진행 후, 각 세부 과업별로 인간-AI의 협업 수준이 적절한지에 대한 평가를 진행하였다. Table 16의 동일한 인터뷰 대상자들에게 답변을 받았으며, 업무 특성에 따라 의료 케어(A_P1-1-2)는 간호(조무)사, 식사 보조(A_P2-2-1)는 요양보호사에게 나누어 평가를 진행했다. 인간-AI 협업 수준에 대한 평가 결과는 Table 15과 같다.
Evaluation of Human-AI Collaboration Levels in the Prototype
Prototype of Patient Health Status Automatic Monitoring AI Service
5. 1. 5. 프로토타입에 대한 AI 서비스 경험 요소 평가 결과 및 서비스 시나리오 수정 방안 제시
본 단계를 앞서 도출한 서비스 경험 요소 및 AI 협업 수준에 대한 평가 결과를 서비스 기회 요소별로 종합하여 정리하면 다음과 같다.
(1) 서비스 경험 요소 A
[J-1-1] 의료케어형 및 돌봄제공형 두 유형의 페르소나 모두 환자 관찰 업무 시, AI 스피커를 통해 환자의 기침 소리, 재채기 소리 등을 감지하여 근로자에게 환자의 건강 상태를 스크리닝하여 알림을 주는 경험 요소에 대해 업무 효율성 및 업무 부담 방면에서 대체로 긍정적인 반응임을 확인하였다. 또한 협업 수준에 대한 검증 단계에서도 본 연구에서 설정한 5단계를 유지하는 것이 적절하다고 평가하였다.
[P1-1-2] 의료케어형 페르소나 P1의 세부 과업인 ‘의료 케어’의 경우 미드 파이 형태의 프로토타입 제작 과정에서 환자의 의료케어 시 OCR 등의 기능을 활용하여 수기기록을 보조하는 것을 서비스 경험의 목표로 설정하고 평가를 진행하였다. 그러나 인터뷰 대상자는 수기기록보다 IoT와 태블릿 등의 디바이스를 연동하여 자동으로 기록될 수 있는 서비스의 필요성과 환자의 기본 건강상태(혈압, 맥박, 체온)가 정상범위의 범주에서 벗어났을 시 담당 의료인력에게 알림 제공 기능에 대한 필요성 또한 언급하였으며 이러한 평가를 반영하여 서비스 목표를 재설정하였다.
또한 의료케어와 관련된 기록의 경우 간호 처치 및 의료적인 판단은 AI에 위임할 수 없으며 오롯이 인간의 판단으로 시행되어야 한다는 의견을 반영하여 인간-AI 협업 수준은 4단계에서 3단계로 조정하였다.
[P2-2-2] 돌봄제공형 페르소나 P2의 세부 과업인 ‘침상자세 유지’는 낙상 사고 방지를 위한 처치 기록을 보호자와의 공유를 위해 추후 히스토리로 확인할 수 있는 서비스에 대한 필요성을 확인했다. 또한 환자의 낙상 위험 시 알림 기능을 통해 담당 근로자의 처치가 어려운 경우 GPS 기반의 가까운 인력이 처치할 수 있는 서비스를 통해 업무 효율성 및 사용자 주도성 향상에 기여할 수 있음을 확인하였다.
따라서 P2의 신체적 케어 단계에서 인간-AI 협업 수준은 본 연구에서 설정한 바와 같이 4단계를 유지하는 것이 적절하다고 평가하였다.
(2) 서비스 경험 요소 B
[P1-2-1] 페르소나 P1의 환자의 개별 처방전 관리를 위한 서비스는 기존의 처방전을 기반으로 추후 투약해야할 약물을 관리하고 처방전의 변경사항에 대한 알림 기능을 주요 서비스로 평가를 진행하였으나, 인터뷰 대상자와 평가 진행 시 각 병원마다 처방전의 출처가 다른 페인 포인트를 다시 확인할 수 있었으며, 이에 대하여 처방전을 스캔 및 촬영 기능(OCR)을 통해 디지털 문서로 변환 및 투약 스케줄 알림이 연동되는 것으로 서비스 목표를 변경하였다.
이러한 서비스 목표를 변경하면서 인간-AI 협업 수준 또한 기존의 3단계에서 4단계로 수정되었다.
5. 2 시스텝맵을 통한 AI 기반 업무 보조 서비스의 이해
본 연구에서는 노인장기요양인력을 위한 AI 기반 업무 보조 서비스의 디자인 원칙을 다음과 같이 제안한다.
첫째, 환자의 기침 소리 등 음성 데이터를 수집하고, 낙상 위험 움직임을 감지하여 알림 기능을 제공하는 실시간 모니터링 시스템을 통해 환자의 건강 상태를 효율적으로 관리한다.
둘째, 딥러닝 모델을 활용하여 스캔된 처방전 데이터를 기반으로 약물 정보와 환자의 건강 상태를 자동으로 분석하고 평가하는 건강 데이터 분석 시스템을 구축한다.
셋째, 각 페르소나별 투약 프로그램과 업무 스케줄을 자동으로 관리하며, 실시간 알림 기능을 통해 의료진의 업무를 효율적으로 지원하는 스케줄 관리 시스템을 제공한다.
이러한 서비스 디자인 원칙과 연구 내용을 종합하여, 노인장기요양인력의 업무 부담을 줄이고 돌봄 서비스의 질을 향상시키기 위한 AI 기반 업무 보조 서비스를 ‘케어유(CareU)’를 개발하였다. 본 서비스와 서비스 상의 이해관계자를 종합하여, 서비스의 전체 구조를 설명하는 시스템 맵(Service Systems map)은 Figure 1과 같다.
System map
Figure 1에서 제시한 시스템 맵은 본 연구에서 제안한 ‘케어유’ 서비스의 전체 구조와 기능 흐름을 명확하게 보여준다. 본 서비스는 IoT와 AI 스피커를 통해 수집된 환자들의 건강 데이터를 시스템 내에서 실시간으로 학습된 AI 딥러닝(Deep learning) 기술을 기반으로 돌봄 인력의 행동 지침 제공 및 일지·차트 자동 기록을 통해 사용자의 업무를 지원한다. 또한, AI와 인간 간의 상호작용을 중재하는 역할을 수행하여, 긴급 상황 발생 시 신속한 사고 대응과 환자 돌봄 가이드, 알림 기능을 제공한다. 이를 통해 돌봄 인력은 스마트 워치와 태블릿 등 모바일 기기를 통해 필요한 정보를 즉시 확인하고, 보다 효율적으로 업무를 수행할 수 있도록 돕는다. 또한, 해당 시스템 맵을 통해 병원, 약국, 보호자 등 간접적인 이해관계자들은, 처방전 관리, 병원 예약 및 돌봄 인력과의 상호작용을 통해 장기적으로 서비스 품질 향상에 기여하는 역할을 수행함을 명확하게 보여준다.
6. 노인장기요양인력의 효율적 업무를 위한 AI 기반 업무 보조 서비스 디자인 솔루션 제안
6. 1. 최종 서비스 프로토타입 도출
본 단계에서는 AI 서비스 경험 요소 평가를 통해 도출된 내용과 시스템 맵에 기반하여 A, B, C 총 3가지 AI 서비스 기회 요소별 최종 서비스 프로토타입을 도출하였다.[Table 16, 17, 18] 각 서비스 기회 요소별로 경험 요소가 적절한지에 대한 가설을 검증하고, 경험 요소 평가를 통해 서비스 솔루션에 대한 구체적인 맥락을 파악하였다. 이를 통해 실제 구현 가능성을 고려하여 최종 도출한 하이 파이(High-Fidelity) 프로토타입 형태의 디자인 솔루션은 아래와 같다.
Prototype of Patient Health Status Automatic Monitoring AI Service
Prototype of Patient Health Status Automatic Monitoring AI Service
(1) A. 환자 건강 상태 실시간 모니터링 AI 서비스 솔루션
서비스 기회 요소 A ‘환자 건강 상태 실시간 모니터링 AI 서비스’는 환자 관찰과 의료 케어, 식사 보조, 침상자세 유지 서비스로 구성된다.
페르소나 P1(의료케어형)과 페르소나 P2(돌봄케어형)는 업무 시작 시 ‘환자 관찰(J-1-1)’을 통해 담당 환자의 건강 상태를 체크하며 시작된다. 병실 내 AI 스피커를 통해 환자의 기침, 재채기 등의 수집된 음성 데이터를 기반으로 그 빈도와 발생횟수를 빠르게 파악할 수 있다. 또한 페르소나 P1이 ‘의료케어(P1-1-2)’ 과정에서 환자의 IoT 감지 센서 및 웨어러블 기기를 통해 환자의 혈압, 맥박, 체온 등의 기본적인 건강 상태를 신속하게 확인할 수 있으며 건강 데이터에 이상이 있다고 AI가 판단할 경우 실시간으로 근로자에게 알림을 전송하게 된다.
페르소나 P2가 ‘식사지원(P2-2-1)’을 할 때에는 환자별 식사 형태를 빠르게 파악하여 직접적인 돌봄에 있어서 즉각적인 대응이 가능하고, ‘침상자세 유지(P2-2-2)’ 과정에서 이상이 감지될 경우 GPS기술을 활용하여 담당자와 가까운 근로자에게 빠르게 대응할 수 있도록 워치로 알림을 전송한다. 이후 사고 및 처치 경위에 대한 기록을 태블릿으로 자동 기록되어 추후 보호자에게 설명 시 중요한 자료가 될 수 있다. [Table 16 참조]
(2) B. 약물 관리 및 복약지도 보조 AI 서비스 솔루션
페르소나 P1은 환자가 입소하거나 외부 병원 방문 시 ‘개별 처방전을 확인 하고 보관(P1-2-1)’한다. 환자의 처방전을 받고 데이터 입력을 위해 처방전을 스캔 및 촬영하여 OCR 기술을 통해 디지털 텍스트로 변환하여 데이터화된 처방전을 통해 자동 생성된 투약 스케줄을 확인한다. 스케줄 확인 후 ‘투약 및 약물 관리(P1-2-2)’ 업무를 위해 페르소나 P1은 알림 설정을 통해 투약 스케줄에 맞춰 알림을 받는다. 환자에게 투약 후 스마트 워치로 간단히 수행 완료 버튼을 누르면 태블릿에 환자의 약물 투약 기록이 자동 생성되며 의료진과 공유할 수 있다. [Table 17 참조]
(3) C. 환자 데이터 관리 향상, 근로자 인수인계 과정 보조 AI 서비스
노인 환자의 ‘건강상태를 관리 및 기록(J-2-1)’할 때 환자의 욕창 상태를 확인하는 것이 중요하다. 페르소나 P1, P2가 환자의 피부 사진을 촬영하여 업로드하면 ROI 이미지 분석 기술을 통해 욕창의 상태 및 변화 관찰 기록에 입력된다. 페르소나가 업무 중 환자를 케어하면서 기록된 데이터는 자동으로 입력되며(J-2-2), 퇴근 전 ‘인수인계 내용 공유(J-3-1)’를 위해 자동으로 생성된 다음 근로자의 업무 리스트 및 누락 업무를 확인한다. [Table 18 참조]
6. 2. 인터페이스를 반영한 AI 서비스 검증
1차 프로토타입에서 도출된 사용자의 요구사항 및 개선점을 반영하여 하이 파이(High-fidelity)형태의 프로토타입을 설계하고 서비스 검증을 계획하였다. 본 단계는 초기 사용성 테스트를 위해 구현되었으나, 1차 프로토타입 과정에서, AI 서비스에 대한 이해도 향상의 필요성을 판단하였으며, 이를 위해 인터페이스를 개선하여 추가적으로 검증하는 과정을 진행하였다. 서비스 검증 평가는 1차 경험 요소 평가와 같은 방식의 평가 방법과 추가 심층 인터뷰로 진행되었다. 인터뷰 대상자는 장기노인요양시설에 근무하는 간호(조무)사 4명, 요양보호사 4명으로 총 8명으로 구성하였다.
본 단계에서 진행한 평가 결과 분석을 위해 1차 평가와 마찬가지로 주제 분석 방법론(Thematic Analysis)을 활용하여 인터뷰 분석을 진행하였다. 본 검증 단계에서는 사용자 인터페이스(User Interface, 이하 UI)를 개선하여 AI 서비스에 대해 인터뷰 대상자에 대한 이해도를 높임으로써 본 서비스에 대해 구체적인 평가 및 검증을 하는 것을 목표로 하였다. 서비스 검증에 대한 구체적인 분석은 다음과 같다. [Table 19 참조]
Example of qualitative content analysis
첫째, 효율성 및 학습성 방면에서 기존 요양시스템의 사례를 분석하여 사용자 인터페이스 디자인에 반영한 점, AI 자동 기록 시스템으로 기록에 대한 부담 완화를 고려한 점에 대해 긍정적인 평가를 받았다.
둘째, 사용자 주도성 평가에서는 스마트 워치와 연동하여 근로자의 스케줄 알림 및 응급상황에 대한 알림을 실시간으로 확인 가능하다는 점에서 AI가 근로자의 업무를 효과적으로 보조하며 상호작용할 수 있을 것이라는 평가를 받았다.
셋째, 신뢰성 평가에서 환자의 신체적 케어에 대한 과업 및 응급상황에서는 오류에 대한 우려를 확인할 수 있었다. 신체적 케어의 경우 노인환자는 건강상태 변화에 유동성이 크다는 점에서 신속한 학습이 가능한지에 대한 의문이 제기되었다. 또한 긴급상황 시 오류가 발생할 경우 오히려 업무의 효율성이 떨어질 것을 고려하여 지속적인 피드백과 학습을 통해 AI의 오류를 감소하는 것이 중요하다는 것을 확인할 수 있었다.
6. 3. 서비스 청사진(Blueprint)을 활용한 노인장기요양인력 중심의 AI 기반 업무 보조 서비스 모델 제안
본 연구에서는 서비스 블루프린트를 활용하여 노인장기요양인력을 위한 AI 기반 업무 보조 서비스의 흐름을 시각적으로 표현하였다. 이를 통해 AI-인간 협업 시스템 상호작용을 명확히 드러내었다[Figure 2 참조].
Service Blueprint
본 연구의 블루프린트는 근로자의 업무 과정 순서를 기준으로 병실 라운딩, 신체적 케어, 복약지도, 일지 및 차트 기록, 인수인계의 6단계로 구분되며, 각 단계는 세부 과업에 따른 근로자 행동으로 분류되었다. 또한, 사용자 행동과 터치포인트를 통해 근로자가 상호작용하는 과정을 단계별로 제시하였으며, 프론트 스테이지에서는 직접적인 상호작용 과정을, 백스테이지 활동에서는 서비스 제공을 위해 AI가 내부적으로 수행하는 작업을 설명하였다. 나아가, 과정에서 필요한 AI의 추가적인 지원 내용과 AI에게 피드백을 제공하는 방법, 피드백 루프 구조를 함께 제시함으로써 AI 기반 업무 보조 서비스 사용 과정의 전체적인 흐름을 여정맵(Table 6, 7)을 기반으로 체계적으로 정리하였다.
먼저, [J/P1-1] ‘병실 라운딩 단계’에서는 근로자의 잦은 병실 방문 업무를 감소시키고 병실 내 스마트 기기를 통해 환자 상태를 실시간 점검함으로써 업무의 효율성을 향상을 목적으로 다음과 같은 방식으로 작동한다. AI 스피커와 웨어러블 디바이스를 통해 환자의 실시간 상태를 모니터링하고, 이상 발생 시 즉각적인 알림을 제공한다. 이 과정에서 AI는 학습된 음성을 기반으로 AI 스피커를 통해 환자의 음성 데이터를 분석하여 비정상적인 징후를 감지하고, 이를 근로자에게 스마트 워치로 실시간 알림을 제공하며 빠른 대응이 가능하도록 한다. 또한 IoT 감지센서, AI 스피커, 웨어러블 기기를 통해 수집된 주요 생체 데이터를 기반으로 병실의 상태를 종합적으로 분석하여 제공함으로써 근로자가 라운딩 업무 이전 혹은 미처 라운딩 업무를 볼 수 없는 상황에도 환자 상태 파악이 이루어진다.
[P2-2] ‘신체적 케어’에서는 환자가 입소 시 작성하는 건강 정보 데이터를 딥러닝(Depp Learning) 모델을 통해 분석하여 환자별 식사 보조 안내 사항을 사용자에게 태블릿PC를 통해 제공하고, IoT 기반 센서를 통해 실시간으로 침상자세와 낙상 위험을 감지하여 위험 상황 발생이 발생하기 전 스마트 워치 알림을 통해 빠르게 조치하고 사고를 사전에 예방 할 수 있도록 한다. AI는 인간을 대신하여 환자의 상태를 24시간 모니터링하고, 근로자가 즉각적인 조치를 취할 수 있게 알림을 제공할 수 있다. 근로자가 해당 상황에 대해 알맞은 처치를 한 후, 낙상 사고 경위 및 처치 방법에 대한 내용을 태블릿 PC에 입력하면 사고 발생 시간 및 처치 시간과 함께 자동 저장된다. 이는 추후 보호자에게 사고 경위에 대해 전달이 필요할 때 중요한 자료가 될 수 있다.
[P1-2] ‘복약지도’에서는 광학 문자 인식(Optical Character Recognition, 이하 OCR) 기술을 활용하여 종이 처방전을 촬영, 스캔하여 디지털화를 통해 데이터베이스에 축적한다. 이렇게 데이터화된 처방전을 AI가 분석하여 복약 스케줄을 자동 생성할 수 있다. 투약 시간에 맞춰 근로자에게 태블릿PC 및 스마트 워치를 통해 알림을 제공하고, 근로자가 스마트 워치로 투약 상태를 확인 및 기록할 수 있도록 지원한다.
[J-2] ‘일지 및 차트 기록/정리’에서는 AI 기반 이미지 분석 기술 중 관심 영역 추출(Region of Interest, 이하 ROI)을 통해 ROI 데이터를 사용하여 욕창의 상태를 촬영 후 크기, 색 등을 분석하는 딥러닝 모델을 통해 환자의 욕창 상태 데이터를 정확하게 분석 및 해석한다. 이 데이터는 자동으로 일지에 기록되고 근로자는 기록된 데이터베이스를 태블릿 PC로 수정할 수 있으며 이를 통해 인간이 분석하거나 판단하기 어려운 영역(욕창의 정확한 크기 및 색)을 AI가 보조하도록 한다.
마지막으로, [J-3] 인수인계 단계에서는 AI가 근로자의 업무 일지를 바탕으로 인수인계 내용을 자동으로 정리하고, 우선순위에 따라 필요한 정보를 태블릿 PC 홈화면을 통해 누락 업무 및 업무리스트를 신속하게 전달한다. AI는 이 과정에서 이전의 데이터를 학습하여 중요한 정보를 요약하고 제공함으로써 피드백 루프(Feedback loop)를 통해 인수인계의 정확성과 효율성을 높인다.
본 연구의 AI 서비스 플랫폼 설계는 단순한 IoT나 음성 인식 기술을 넘어, AI가 실제로 노인장기요양 인력과 어떻게 협력하며 상호작용 하는지를 중점적으로 다루고 있다. AI는 데이터 수집, 분석, 알림 제공, 기록 자동화 등 다양한 기능을 통해 요양 인력의 업무를 보조하고 반복적인 업무를 자동화하여 업무 효율성을 높인다. 또한, AI와의 협업을 통해 향후 근로자의 업무 효율성과 돌봄 서비스의 질을 높일 수 있는 가능성을 확인해볼 수 있다.
7. 논의(Discussion)
7. 1. 연구의 결과 및 의의
본 연구는 노인장기요양인력의 업무 환경 개선과 인력 부족 문제 해결을 위해 AI 기반 협업 업무 서비스를 제안하고, 이를 토대로 프로토타입을 개발하여 실제 사용 환경에서 검증을 시도했다는 점에서 의의를 가진다. 본 연구 과정에서 질적 방법론을 통해 장기노인요양인력의 업무 특성과 주요 문제점을 도출한 후, 기존 연구들이 AI를 단순 기술 도구로 활용한 것과 달리, 실제 돌봄 현장의 사용자 요구를 반영하여 인간과 AI 간 협업 수준을 재정의하고 돌봄 업무에서의 상호작용 모델을 구체화하였다.
연구 결과, 제안된 AI 기반 협업 업무 서비스는 실시간 모니터링, 약물 관리 등 환자 건강 데이터 분석, 인수인계를 포함한 업무 스케줄 관리 등 다양한 기능을 제안하였다. 이를 통해 요양 인력의 업무 부담을 줄이고 돌봄 서비스의 질을 현저하게 향상시킬 수 있는 긍정적 가능성을 확인하였다. 또한, 단계별 협업 수준과 프로토타입의 실증적 검증을 통해, AI가 각 업무 단계에서 수행하는 역할과 인간과의 협업 방식을 체계적으로 파악하였다. 이를 기반으로 지속적인 사용자 피드백을 반영한 AI 시스템 업데이트의 필요성을 재확인할 수 있었다. 이러한 피드백 루프는 AI 시스템이 실제 업무 환경에서 점진적으로 개선되어 사용자 경험이 최적화될 가능성을 기대하게 한다.
7. 2. 연구의 한계점
그러나, 본 연구에서는 다음과 같은 한계점을 가질 수 있다. 첫째, 본 연구에서 제안한 AI 기반 서비스 모델은 실증 연구가 제한적인 환경에서 수행되어, 연구 환경이 아닌, 실제 다양한 요양시설 환경에서 동일하게 적용되는지에 대한 서비스 모델의 타당성과 지속 가능성에 대한 종합적인 검증이 필요하다. 둘째, 실제 서비스 모델의 도입 시 발생할 수 있는 AI의 기술적 결함에 대해 충분히 고려하지 못하였다. 구체적으로, 본 연구에서 제시한 AI 서비스에서는 여러 출처의 데이터(예: 환자 건강 기록 데이터, IoT 센서 데이터, 인수인계 및 전자 문서 등)를 다루어야 하는데, 이들을 효과적으로 통합하지 못하면 AI 시스템이 올바른 분석과 의사결정을 내리기 어려워진다. 셋째, 알고리즘 편향의 문제 역시 중요한 기술적·윤리적 이슈로 작용할 수 있다(Raso, F. et al., 2018; Mayson, S. G., 2018). 편향된 학습 데이터나 불완전한 모델 설계로 인해 AI가 부정확하거나 불공정한 판단을 내릴 경우, 돌봄 서비스의 품질 저하 및 돌봄 인력의 신뢰도 하락으로 이어질 우려가 있다.
이러한 한계점을 보완하기 위하여 후속 연구에서는, 다양한 규모와 유형의 요양 시설의 돌봄 인력을 대상으로, 장기적 실증 연구를 통해 AI 서비스의 적용 가능성과 효과에 대한 검증이 필요하다. 또한, 실제 서비스 도입 시 발생할 수 있는 기술적 결함(데이터 통합 문제, 알고리즘 편향 문제 등)을 고려하여, 추후 실제 기술이 반영된 프로토타입 테스트를 통해 AI의 신뢰성을 면밀히 고려해야한다.
8. 결론
본 연구는 노인장기요양인력의 업무 효율성을 높이고 돌봄 서비스의 질을 개선하고자 인간-AI 협업 수준을 활용한 AI 기반 서비스 모델을 제안하고자 하였다. 본 연구 과정에서 심층 인터뷰 및 여정맵 분석을 통해 사용자의 업무 환경에서의 문제점과 요구를 업무별로 세분화하여 구체적으로 반영하였다. 이를 토대로, 서비스 기회 요소 및 AI와 인간의 협업 수준을 단계별로 정의함으로써 가설을 설정하고 경험 요소 평가를 통해 검증 과정을 거쳤다. 이를 바탕으로 근로자의 업무 시나리오를 기반으로 도출된 서비스의 기능에 적용하여 효율적인 업무 보조 서비스를 설계하였으며 프로토타입을 제작 및 실제 사용 환경에서의 검증을 통해 서비스의 실효성을 입증하였다. 최종적으로 서비스 블루프린트를 도출함으로써 AI와 인간이 구체적으로 어떻게 협업하는지 시각적으로 도출하였다.
8. 1. 연구의 학술적 및 실무적 시사점
본 연구의 학술적 시사점으로, 첫째, 기존의 단순 기술 도입과 효과성 검증에서 벗어나, 인간과 AI가 간의 협력할 수 있는 관계 설정을 주목함으로써, AI 기술이 단순 자동화 도구를 넘어, 인간의 업무를 보조하고 협업하는 방식으로 적용될 수 있음을 보여준다. 본 연구 과정에서, 사용자 요구를 반영한 협업 시나리오를 통해 인간-AI 협업 수준을 구체적으로 설계하고, 프로토타입 테스트를 통해 이를 검증하였다. 이러한 접근 방식은 AI 솔루션 개발에 있어서 인간의 요구와 가치를 적극적으로 반영한 ‘인간중심적 AI’ 구현을 위한 새로운 상호작용, 의사결정 및 협업 메커니즘을 제시함으로써 학문적으로 기여할 수 있을 것으로 기대한다.
둘째, 서비스 블루프린트를 최종 결과로 도출함으로써, 인간과 AI의 협업 수준을 시각화하며, AI가 어떠한 방식으로 인간과 협력적 의사결정을 하는지 한눈에 파악할 수 있다. 구체적으로, AI의 지원 및 행동 프로세스를 통해 AI가 어떠한 정보를 기반으로 의사결정이 이루어지는지 확인할 수 있다. 또한, 피드백 프로세스를 통해 AI의 자동화 수준과 인간의 개입 지점을 명확히 설정하여 인간과 AI의 역할과 책임의 명료화 문제를 논의할 수 있다. 이를 통해, 향후 사용자가 각 업무 단계에서 AI가 기여하는 수준과 추후 사용자의 피로도, 환자 만족도 등의 지표를 연계하여, AI 서비스의 효과성을 평가하고 차후 개선 방향을 모색함으로써 지속가능한 인간-AI 협업 서비스를 제공할 가능성을 기대해 볼 수 있다.
셋째, 사용자 중심의 AI 협업 서비스를 구현하는 과정에서 서비스 블루프린트를 가이드라인으로 제시하여, 모든 이해관계자가 맥락을 명확히 파악할 수 있도록 설계하고자 하였다. 이를 통해, 사용자 요구와 기술적 가능성을 밀도 있게 연결할 수 있는 가능성을 제시한다. 구체적으로, AI를 설계하는 엔지니어는 사용자의 행동과 데이터 발생에 대한 맥락을 더욱 명확히 이해할 수 있으며, AI 비전문가 사용자 또한, 의사결정 및 서비스 제공 과정을 쉽게 이해하도록 지원한다. 이러한 접근 방식은 AI 의사결정의 투명성과 서비스 접근성을 높여 AI의 설명가능성과 신뢰성을 향상하는 데 기여할 수 있다.
실무적 시사점으로는, 본 연구가 AI 기반 서비스를 활용하여 노인장기요양 인력의 업무 부담을 줄이고, 복잡하고 시간이 소요되는 작업을 자동화하여 근로자가 보다 가치 있는 업무에 집중할 수 있도록 지원하는 방안을 제안했다는 점에 있다. 연구를 통해 태블릿과 스마트워치를 활용한 실시간 알림 및 데이터 관리 기능이 업무 효율성을 향상시키고, 돌봄 서비스의 질을 개선할 수 있음을 확인하였다. 이러한 접근 방식은 향후 다양한 요양 시설에 적용될 수 있으며, 더 나은 돌봄 서비스 제공을 위한 중요한 기초 자료로 활용될 것이다.
Acknowledgments
Jaehye Ye and Sujin Yoon contributed equally to this work.
This work was supported by the Ministry of Education of the Republic of Korea and the National Research Foundation of Korea(NRF-2023S1A5A8083082).
예재혜, 윤수진 저자는 본 연구에 동등하게 기여하였음.
이 논문 또는 저서는 2023년 대한민국 교육부와 한국연구재단의 인문사회분야 신진연구자지원사업의 지원을 받아 수행된 연구임(NRF-2023S1A5A8083082).
Notes
Copyright : This is an Open Access article distributed under the terms of the Creative Commons Attribution Non-Commercial License (http://creativecommons.org/licenses/by-nc/3.0/), which permits unrestricted educational and non-commercial use, provided the original work is properly cited.
References
-
Abbass, H., Sundar, S., Lai, J., et al. (2023). The impact of human-AI collaboration types on consumer evaluation. Frontiers in Psychology, 14, 1277861.
[https://doi.org/10.3389/fpsyg.2023.1277861]
-
Abdollahi, H., Mahoor, M. H., Zandie, R., Siewierski, J., & Qualls, S. H. (2023). Artificial Emotional Intelligence in Socially Assistive Robots for Older Adults: A Pilot Study. IEEE transactions on affective computing, 14(3), 2020-2032.
[https://doi.org/10.1109/taffc.2022.3143803]
-
Amershi, S., Cakmak, M., Knox, W. B., & Kulesza, T. (2014). Power to the people: The role of humans in interactive machine learning. AI Magazine, 35(4), 105-120.
[https://doi.org/10.1609/aimag.v35i4.2513]
-
Amershi, S., Weld, D., Vorvoreanu, M., Fourney, A., Nushi, B., Collisson, P.,… & Horvitz, E. (2019). Guidelines for human-AI interaction. Proceedings of the 2019 CHI Conference on Human Factors in Computing Systems, 1-13.
[https://doi.org/10.1145/3290605.3300233]
-
Auernhammer, J. (2020) Human-centered AI: The role of Human-centered Design Research in the development of AI, in Boess, S., Cheung, M. and Cain, R. (eds.), Synergy - DRS International Conference 2020, 11-14 August, Held online.
[https://doi.org/10.21606/drs.2020.282]
-
Bansal, G., Nushi, B., Kamar, E., Lasecki, W. S., Weld, D. S., & Horvitz, E. (2019). Beyond accuracy: The role of mental models in human-AI team performance. Proceedings of the AAAI Conference on Human Computation and Crowdsourcing, 7(1), 2-11.
[https://doi.org/10.1609/hcomp.v7i1.5285]
-
Borsci, S., Malizia, A., Schmettow, M. et al. (2022). The Chatbot Usability Scale: the Design and Pilot of a Usability Scale for Interaction with AI-Based Conversational Agents. Pers Ubiquit Comput, 26, 95-119.
[https://doi.org/10.1007/s00779-021-01582-9]
- Brynjolfsson, E., & McAfee, A. (2014). The second machine age: Work, progress, and prosperity in a time of brilliant technologies. W. W. Norton & Company.
-
Dane, E., Rockmann, K. W., & Pratt, M. G. (2012). When should I trust my gut? Linking domain expertise to intuitive decision-making effectiveness. Organizational Behavior and Human Decision Processes, 119(2), 187-194.
[https://doi.org/10.1016/j.obhdp.2012.07.009]
- Daugherty, P. R., & Wilson, H. J. (2018). Human + machine: Reimagining work in the age of AI. Harvard Business Review Press.
-
Deng, J., Dong, W., Socher, R., Li, L. J., Li, K., & Fei-Fei, L. (2009). ImageNet: A large-scale hierarchical image database. 2009 IEEE Conference on Computer Vision and Pattern Recognition, 248-255.
[https://doi.org/10.1109/CVPR.2009.5206848]
-
Domingos, P. (2012). A few useful things to know about machine learning. Communications of the ACM, 55(10), 78-87.
[https://doi.org/10.1145/2347736.2347755]
-
Faulkner, L. (2003). Beyond the five-user assumption: Benefits of increased sample sizes in usability testing. Behavior Research Methods, Instruments, & Computers, 35(3), 379-383.
[https://doi.org/10.3758/BF03195514]
-
Følstad, A. (2017). Users' design feedback in usability evaluation: a literature review. Hum. Cent. Comput. Inf. Sci, 7(19).
[https://doi.org/10.1186/s13673-017-0100-y]
-
Park, H. K., Park, J. W. (2024). Lesson Plan Development for Pre-Service Elementary School Teachers through Collaboration with AI: Focused on ChatGPT. New Physics: Sae Mulli, 74(2), 215-226.
[https://doi.org/10.3938/NPSM.74.215]
-
Park, S. M., Park, H. Y., & Koo, Y. R. (2023). Developing Smart Collaborative Work Platform for Small-Scale Nursing Homes: Using Service Design Methodology Based on Co-creation. Archives of Design Research, 36(1), 189-214. 10.15187/adr.2023.02.36.1.189.
[https://doi.org/10.15187/adr.2023.02.36.1.189]
-
Herfandi, H., Sitanggang, O. S., Nasution, M. R. A., Nguyen, H., & Jang, Y. M. (2024). Real-Time Patient Indoor Health Monitoring and Location Tracking with Optical Camera Communications on the Internet of Medical Things. Applied Sciences, 14(3), 1153.
[https://doi.org/10.3390/app14031153]
-
Heuer, M., Lewandowski, T., Kučević, E., Hellmich, J., Raykhlin, M., Blum, S., & Böhmann, T. (2023). Towards Effective Conversational Agents: A Prototype-Based Approach for Facilitating Their Evaluation and Improvement. In: Marcus, A., Rosenzweig, E., Soares, M.M. (eds) Design, User Experience, and Usability. HCII 2023. Lecture Notes in Computer Science, vol 14033. Springer, Cham.
[https://doi.org/10.1007/978-3-031-35708-4_23]
- Im, G. H. (2016). The Effects of Organizational Culture and Empowerment of Nursing Staff on Organizational Effectiveness in Elderly Care Facilities (Published master's thesis). Available from Kongju National University Graduate School database.
- Interaction Design Foundation - IxDF. (2024, January 11). What is Human-Centered AI (HCAI)?. Interaction Design Foundation - IxDF. https://www.interaction-design.org/literature/topics/human-centered-ai).
-
Jarrahi, M. H. (2018). Artificial intelligence and the future of work: Human-AI symbiosis in organizational decision making. Business Horizons, 61(4), 577-586.
[https://doi.org/10.1016/j.bushor.2018.03.007]
-
Jeong, S., Lee, H., Yoo, S., Lee, K., & Heo, S. (2020). Artificial Intelligence-based Medication Behavior Monitoring System using Smartwatch. The Journal of Korean Institute of Information Technology, 18(8), 125-133. 10.14801/jkiit.2020.18.8.125.
[https://doi.org/10.14801/jkiit.2020.18.8.125]
-
Jordan, M. I., & Mitchell, T. M. (2015). Machine learning: Trends, perspectives, and prospects. Science, 349(6245), 255-260.
[https://doi.org/10.1126/science.aaa8415]
- Kahneman, D. (2011). Thinking, fast and slow. Farrar, Straus and Giroux.
- Kim, H. Y, Park, Y. R, Kim, J. S, Shin, J. H & Jwa, S. H. (2008). A Study on the Needs and Characteristics of Care Workers for the Elderly in Gyeong Gi-Province. Gyeonggi Research Institute.
- Kim, K. H. (2023). The Influence of Healthcare Personnel's Positive Psychological Capital on Service Quality in Elderly Care Facilities: The Mediating Effect of Organizational Commitment (Published doctoral dissertation). Available from Seoul Hanyeong University Graduate School database.
-
Kim, M. J., Han, J. E., Kang, H. J., & Kwon, G. H. (2020). Extracting usability dimensions of the voice user interface - Focusing on AI assistants. Journal of the HCI Society of Korea, 15(1), 53-64.
[https://doi.org/10.17210/jhsk.2020.03.15.1.53]
-
Kim, S. K. (2024). 2024 Health and Welfare Policy Forum. Korea Institute for Health and Social Affairs, 48-49.
[https://doi.org/10.23062/2024.02.4]
-
Kwon, A. R., & Kim, S. I. (2023). A Study of Interaction Design for Improving the Usability of AI Service: Focused on HeyKakao and Naver Clova. Journal of Digital Art Engineering & Multimedia, 10(2), 175-186.
[https://doi.org/10.29056/jdaem.2023.06.04]
- Lee, S. H., Lim, C. H., & Kim, W. C. (2020). An Exploratory Study on the Possibility of Using Next-Generation Technology in Long-term Care Facilities : Focusing on the Perception of the Workforce of in Long-term Care Facilities. Journal of the Korea Academia-Industrial Cooperation Society, 21(5), 191-205.
- Lee, Y. (2023). A Study on the Level of Voice-Based Humans-AI Collaboration : Focusing on the Cooking Task (Published master's thesis). Available from Sungshin Women's University Graduate School database.
- Lim, J. (2020). An effect of working environment of care helpers of elderly care facilities on job satisfaction. Korean Academy of Social Work Practice and Research, 12(1), 53-76.
-
Li, X., & You, K. (2022). Real-time tracking and detection of patient conditions in the intelligent m-Health monitoring system. Frontiers in public health, 10, 922718.
[https://doi.org/10.3389/fpubh.2022.922718]
-
Liu, X., Chau, K. Y., Zheng, J., Deng, D., & Tang, Y. M. (2024, October 30). Artificial intelligence approach for detecting and classifying abnormal behaviour in older adults using wearable sensors. Journal of Rehabilitation and Assistive Technology Engineering, 11.
[https://doi.org/10.1177/20556683241288459]
- Mayson, S. G. (2018). Bias in, bias out. Yale Law Journal, 128, 2218.
-
Malone, T. W., Laubacher, R., & Dellarocas, C. (2010). The collective intelligence genome. MIT Sloan Management Review, 51(3), 21-31.
[https://doi.org/10.1109/EMR.2010.5559142]
-
McCloud, R., Perez, C., Bekalu, M. A., & Viswanath, K. (2022). Using smart speaker technology for health and well-being in an older adult population: Pre-post feasibility study. JMIR Aging, 5(2), e33498.
[https://doi.org/10.2196/33498]
-
Merilahti, J., Parkka, J., Antila, K., & Niemi, J. (2009). Compliance and technical feasibility of long-term health monitoring with wearable and ambient technologies. Journal of Telemedicine and Telecare, 15(6), 302-309.
[https://doi.org/10.1258/jtt.2009.081106]
-
Nashwan, A. J., Abujaber, A., & Ahmed, S. K. (2024). Charting the Future: The Role of AI in Transforming Nursing Documentation. Cureus, 16(3), e57304.
[https://doi.org/10.7759/cureus.57304]
- Nielsen, J. (2000, March 19). Why you only need to test with 5 users. Nielsen Norman Group. https://www.nngroup.com/articles/why-you-only-need-to-test-with-5-users.
-
Park, Y., Chang, S. J., Kim, H. J., & Jeong, H. N. (2024). Effectiveness of artificial intelligence robot interventions on psychological health in community-dwelling older adults: A systematic review. Journal of Korean Gerontological Nursing, 26(3), 234-247.
[https://doi.org/10.17079/jkgn.2024.00353]
-
Rahwan, I., Cebrian, M., Obradovich, N., Bongard, J., Bonnefon, J. F., Breazeal, C., ... & Wellman, M. (2019). Machine behavior. Nature, 568(7753), 477-486.
[https://doi.org/10.1038/s41586-019-1138-y]
-
Raso, F., Hilligoss, H., Krishnamurthy, V., Bavitz, C., & Kim, L. (2018). Artificial Intelligence & Human Rights: Opportunities & Risks. Berkman Klein Center Research Publication, (2018-6).
[https://doi.org/10.2139/ssrn.3259344]
- Russel, S. J., & Norvig, P. (2010). Artificial Intelligence: A Modern Approach. Upper Saddle River, NJ: Prentice Hall.
-
Sabino, I. et al. (2024). Ergo4workers: Usability Testing of the Second Prototype of an App for the Ergonomic Assessment of Healthcare Professionals. In: Arezes, P.M., et al. Occupational and Environmental Safety and Health V. Studies in Systems, Decision and Control, vol 492. Springer, Cham.
[https://doi.org/10.1007/978-3-031-38277-2_8]
-
Sadler-Smith, E., & Shefy, E. (2004). The intuitive executive: Understanding and applying 'gut feel' in decision-making. Academy of Management Perspectives, 18(4), 76-91.
[https://doi.org/10.5465/ame.2004.15268692]
-
Shneiderman, B. (2020). Human-centered artificial intelligence: Reliable, safe & trustworthy. International Journal of Human-Computer Interaction, 36(6), 495-504.
[https://doi.org/10.1080/10447318.2020.1741118]
-
Shrestha, Y. R., Ben-Menahem, S. M., & von Krogh, G. (2019). Organizational decision-making structures in the age of artificial intelligence. California Management Review, 61(4), 66-83.
[https://doi.org/10.1177/0008125619862257]
- Verganti, R., Vendraminelli, L., & Iansiti, M. (2020). Design in the age of artificial intelligence. Working Paper 20-091. Harvard Business School.
-
Virzi, R. A. (1992). Refining the test phase of usability evaluation: How many subjects is enough?. Human Factors, 34(4), 457-468.
[https://doi.org/10.1177/001872089203400407]
-
Wang, D., Yang, Q., Abdul, A., & Lim, B. Y. (2019). Designing theory-driven user-centric explainable AI. Proceedings of the 2019 CHI Conference on Human Factors in Computing Systems, 1-15.
[https://doi.org/10.1145/3290605.3300831]
-
Yang, Y., Wang, C., Xiang, X., & An, R. (2025). AI Applications to Reduce Loneliness Among Older Adults: A Systematic Review of Effectiveness and Technologies. Healthcare, 13(5), 446.
[https://doi.org/10.3390/healthcare13050446]
- Zhang, Q., Yang, L., & Appelbaum, D. (2020). Toward effective AI-powered teams: The role of human-AI interaction. Journal of Management Information Systems, 37(4), 893-920.
