AI 안부전화는 어디까지 돌봄인가

AI 안부전화는 다정한 목소리로 시작한다. 그러나 전화가 연결됐다는 사실, 위험 신호를 분류했다는 사실, 담당자가 실제로 개입했다는 사실, 이용자의 삶이 나아졌다는 사실은 서로 다른 성과다. 이 네 단계를 한 숫자로 합치면 통화량은 돌봄이 되고, 경고 표시는 구조 실적이 되며, 만족도는 임상 효과처럼 보인다.

네이버클라우드의 CLOVA CareCall은 이 구분을 살펴보기 좋은 사례다. 정기적으로 전화를 걸고 식사·수면·건강·외출을 묻는 대화형 서비스가 여러 공공기관의 돌봄 업무에 들어왔다. 생성형 AI가 이전 대화를 기억하고 자연스럽게 말을 잇는 기능도 더해졌다. 기술의 핵심은 대화를 대신하는 데 있지만, 공공 돌봄에서 묻고 답해야 할 핵심은 그 다음이다. 잘못 알아들은 말은 누가 고치고, 받지 않은 전화는 누가 확인하며, 위험을 발견한 뒤 실제 지원까지 얼마나 빨리 이어지는가.

전화 한 통 뒤에는 사람이 남는다

공식 서비스 문서가 보여 주는 운영 흐름은 단순한 자동전화보다 길다. 기관이 대상자와 일정을 등록하면 AI가 전화를 걸고, 대화 내용을 요약·분석해 관리자 화면에 남긴다. 대시보드는 전체 통화를 연결, 미응답, 대화 완료로 나누고 발화를 ‘상태 양호’, ‘상태 이상’, ‘긴급 알림’ 등으로 표시한다. 담당자는 녹음과 전사문을 확인하고, 기억 정보를 수정하며, 후속 조치와 메모를 기록할 수 있다.

여기서 ‘긴급 알림’은 응급 출동 완료가 아니라 검토가 필요한 발화를 찾아낸 분류값이다. 현재 문서는 미응답 때 재시도 횟수를 일정에서 설정할 수 있다고 설명한다. 현장 연구에 등장하는 세 차례 재시도 같은 규칙도 특정 운영 사례이지 모든 기관에 동일한 상수가 아니다. 정읍시 스마트도시계획과 청주시 보건소 자료 역시 AI 분석 뒤 읍면동이나 보건소 담당자가 연락·방문·서비스 연계를 맡는 구조를 적고 있다. 서비스의 산출물은 돌봄 그 자체라기보다 사람이 돌봄을 시작하도록 정리한 업무 목록에 가깝다.

보급 숫자와 돌봄 성과는 다른 장부다

네이버가 2026년 3월 공개한 수치는 약 150개 기관, 약 5만 명의 고령 이용자다. 2024년 12월을 기준으로 한 CHI 2025 논문에는 140개가 넘는 공공기관, 3만 명 이상으로 적혀 있다. 시점이 다른 확장 지표이며 ‘기관’, ‘지자체’, ‘누적 대상자’, ‘현재 이용자’를 섞어 증가율을 만들 수는 없다. 통화 건수도 고유 인원 수가 아니다. 한 사람이 매주 여러 번 받으면 건수는 늘어난다.

초기 이용자 반응도 같은 원칙으로 읽어야 한다. 네이버의 2022년 출시 자료는 해운대구 시범 이용자의 약 90%가 위안을 느꼈고 약 95%가 계속 이용할 뜻을 보였다고 전했다. 그러나 공개자료에는 응답자 수, 설문 문항, 무응답 처리, 조사 주체가 제시되지 않았다. 서비스 수용성을 보여 주는 회사 발표로는 의미가 있지만, 외로움이 임상적으로 감소했다거나 안전사고가 줄었다는 근거는 아니다. 도입 보고에는 최소한 등록 인원, 실제 연결 인원, 완전 대화 인원, 중복을 뺀 이용자 수를 따로 적어야 한다.

대화가 길어질수록 발견과 오해가 함께 늘어난다

2026년 BMC Geriatrics에 실린 정읍 연구는 AI 대화가 우울 위험을 읽는 가능성과 한계를 함께 보여 준다. 연구진은 65세 이상 2,896명의 2024년 5~8월 자료와 3만7,294건의 통화 기록을 연결했다. 단축형 노인우울척도 기준으로 42.0%가 고위험군이었다. 통화에서 부정적 응답이 많거나 AI가 질문하지 못한 영역이 많을수록 고위험군일 가능성이 각각 조정 오즈비 1.18과 1.12로 높았다. 이는 연관성이지, CareCall이 우울증을 진단했다는 뜻은 아니다.

연구진은 별도로 2024년 6월 전사문 8,195건에서 우울 표현이 담긴 대화 사례 73건을 골라 살폈다. AI는 식욕 저하, 피로, 절망감을 문맥이나 음성인식 문제로 잘못 해석하거나 놓치곤 했다. 하지만 이 73건은 전체 통화에서 무작위 추출한 진단 표본이 아니며, 논문은 민감도·특이도·위양성률·위음성률을 산출하지 않았다. 따라서 ‘우울 탐지 정확도’로 환산할 수 없다. 현장에 필요한 숫자는 경고 건수만이 아니라 사람이 재검토한 뒤 맞다고 확인한 비율, 놓친 사례를 찾는 별도 감사 표본, 말투·방언·청력 상태별 오류 차이다.

외로움과 우울 개선은 어디까지 확인됐나

CHI 2023 연구는 이용자와 현장 담당자, 개발자 등 34명을 질적으로 조사했다. 참여자들은 외로움과 정서적 부담이 줄었다고 느끼는 한편, 대화 맥락이 어긋나는 문제와 사람의 역할을 이야기했다. CHI 2024 연구는 두 도시의 통화 기록 1,252건과 이용자 9명 인터뷰를 통해 장기기억 기능이 건강 관련 자기노출과 친숙함을 늘릴 수 있다고 봤다. 두 연구는 서비스 경험과 설계 문제를 깊게 보여 주지만, 대조군을 둔 건강효과 시험은 아니다. 말을 더 많이 꺼냈다는 것과 건강이 좋아졌다는 것도 구분해야 한다.

2025년 Scientific Reports의 치매 이용자 연구에는 성동구 치매안심센터에서 모집한 80명이 참여했다. 2024년 4월부터 11월까지 31주 동안 주 2회, 1인당 63회의 통화를 한 단일집단 사전·사후 연구다. 노인우울척도 중앙값은 8.5에서 6.0으로, 기억 점수 중앙값은 3.0에서 4.0으로 변했다. 반면 전체 집단의 주의력과 언어 점수에는 유의한 개선이 없었다. 대조군과 장기 추적이 없어 자연 변화, 다른 치료, 반복검사 효과를 배제할 수 없다. 유망한 관찰 결과이되 ‘AI 통화가 우울과 기억을 개선했다’고 인과적으로 확정할 단계는 아니다.

연구의 출처 관계도 함께 봐야 한다. BMC 논문의 저자는 모두 대학 소속이고 경쟁 이해관계가 없다고 밝혔다. 반면 여기서 인용한 CHI 세 편에는 NAVER AI Lab 또는 NAVER Cloud 연구자가, Scientific Reports 논문에는 NAVER Cloud 연구자 두 명이 공저자로 참여했다. 동료심사를 거친 논문이라는 사실과 제품사로부터 독립된 연구라는 뜻은 같지 않다.

미응답은 위험 신호이면서 잡음이다

전화를 받지 않는 이유는 위급상황일 수도 있지만 외출, 수면, 낯선 번호 회피, 기기 문제일 수도 있다. CHI 2025 연구진은 2023년 가을 13개 현장에서 4천 명 넘는 대상자를 관리하던 공공기관 종사자 21명을 인터뷰했다. 한 담당자가 약 1,500명의 기록을 혼자 살피거나, 주 이틀을 모니터링에 쓰는 사례가 나왔다. 약 1천 명을 맡은 한 현장에서는 세 차례 시도 뒤에도 약 10%가 받지 않아 매주 약 100건을 사람이 확인해야 했다고 진술했다. 질적 연구 속 한 현장의 수치이므로 전국 평균 미응답률로 일반화해서는 안 된다.

이 연구의 중요한 발견은 자동화가 일을 없애기보다 재배치할 수 있다는 점이다. 담당자는 부정 신호와 연속 미응답을 읽고 다시 전화하며, 필요하면 방문하거나 지역 담당자에게 넘긴다. 반갑게 사람과 통화한 이용자가 긴 대화를 이어가면 업무시간도 늘어난다. 그래서 운영 평가는 ‘AI가 몇 번 전화했는가’보다 미응답 재확인까지 걸린 시간, 경고 검토율, 실제 연락 성공률, 방문·의료·복지 연계율, 야간과 휴일의 책임 주체를 봐야 한다. 서비스 약관도 화재·사건·사고 신고나 공공안전 긴급통화를 지원하거나 연결하지 않는다고 명시한다. 이 경계는 가입 단계부터 분명히 알려야 한다.

340억 원과 44.2%를 읽는 법

네이버와 연세대 연구진이 2026년 낸 사회적 가치 보고서는 성과를 화폐와 공공데이터로 추정했다. 기관 담당자 설문은 98곳 가운데 17곳이 응답해 응답률이 17.3%였다. 이 기관들의 응답 완료 통화는 3만7,526건으로 전체 8만8,812건의 42.3%였다. 연구진은 설문에서 계산한 143억7,605만3,357원을 전체로 확장해 약 340억 원으로 추산했다. 자살·고독사 위험 발견에는 100% 기여율을 적용하고 미래 소득 손실이나 사회적 비용의 회피값을 곱했다. 이는 보고된 위험 신호를 바탕으로 한 모형값이지, 사망을 실제로 막은 사람 수를 관찰한 결과가 아니다.

같은 보고서의 이중차분 분석은 2017~2023년 공공자료를 사용했다. 의료 이용은 도입·비도입 기초지자체 각 43곳, 모두 86곳을 맞췄고, 고독사 분석은 도입·비도입 광역지자체 각 2곳, 모두 4곳을 비교했다. 60세 이상 응급실 이용자 9.2% 감소, 병원 이용자 1.51% 증가, 전 연령 고독사 발생 증가율 44.2% 억제라는 추정치가 나왔다. 특히 고독사는 네 지역과 전 연령 대리지표에 기대며 외부 요인의 영향을 받는다. 전국 60세 이상 인구의 20%에게 동일한 품질로 확대한다는 약 4,172억 원 시나리오는 정책 가정이지 현재 실적이 아니다. 공동 보고서가 제시한 유용한 가설로 읽되 독립 재현과 장기 비교가 뒤따라야 한다.

기억하는 AI는 동의와 삭제도 기억해야 한다

대화가 개인화될수록 관리해야 할 정보도 늘어난다. 관리자 문서상 화면에는 이름과 전화번호뿐 아니라 녹음·전사문, AI 분석, 이전 대화에서 추출한 기억, 후속 조치와 메모가 놓일 수 있다. 네이버클라우드의 2024년 CLOVA AiCall 약관은 운영 통화 기록과 내용을 통화 시점부터 1년간 보관한다고 정한다. 반면 2026년 6월 시행 개인정보처리방침은 별도 동의를 받은 통화 내용과 통증 부위·증상·복약 여부 등 건강 관련 정보를 AI 학습과 통화·서비스 품질 향상에 쓰며 비식별화해 3년 보유한다고 밝힌다. 목적·법적 근거·보유기간이 다른 두 경로다. 기관은 위탁 관계와 동의 구조를 확인하고 수집 항목, 열람 주체, 재위탁, 철회·삭제 절차를 실제 이용자에게 구체적으로 알려야 한다.

네이버의 2021년 출시 자료에는 합성 대화 시나리오로 모델을 개발해 ‘사용자의 대화 데이터를 수집하지 않는다’는 설명이 있다. 이는 당시 모델 개발 방식에 관한 문장이다. 현재 운영 기록과 별도 동의 학습자료가 전혀 남지 않는다는 뜻으로 옮기면 안 된다. 화면의 기억 수정·초기화와 원본 녹음·전사문·백업 삭제도 같은 절차가 아니다. AI임을 알리는 방식, 녹음·분석 범위, 학습 동의의 선택 여부, 사람 검토와 긴급대응의 한계, 의사결정 능력이 낮은 이용자의 본인 의사와 보호자 동의를 기관별로 점검해야 한다.

자료와 해석 범위

이 글은 2026년 8월 21일까지 확인한 네이버·네이버클라우드의 제품 문서·약관·개인정보처리방침, 지자체 공개자료, CHI 2023·2024·2025 논문, BMC Geriatrics 2026 논문, Scientific Reports 2025 논문, 2026년 사회적 가치 보고서를 교차해 읽었다. 회사의 제품 설명과 공동 보고서, 대학 저자만 참여한 BMC 연구, 제품사 연구자가 공저자인 CHI·Scientific Reports 연구의 성격을 구분했다. 기관별 최신 계약, 실제 동의서, 오류 원장, 상담원 인력표, 사건별 후속 조치 기록은 공개되지 않아 확인할 수 없었다.

CareCall의 가치는 통화를 사람 대신 했다는 데서 끝나지 않는다. 연결률 다음에 분석 가능률, 경고의 재검토 결과, 사람 인계 시간, 실제 지원 연계, 이용자 결과를 차례로 공개할 때 비로소 돌봄 인프라의 성능을 평가할 수 있다. 생성형 AI가 더 자연스럽게 말할수록 이 성과 사슬과 책임 경계는 오히려 더 선명해야 한다.

1. 등록 인원 가운데 실제 연결·대화 완료·사람 재확인까지 간 인원은 각각 몇 명인가?
2. 위험 분류의 위양성과 위음성을 어떤 표본과 기준으로 정기 감사하는가?
3. 연속 미응답과 긴급 알림을 누가 몇 분 안에 확인하며 야간·휴일에는 누구에게 인계하는가?
4. 녹음, 전사문, 기억, 메모는 각각 어디에 얼마나 보관되고 철회 요청 때 어디까지 삭제되는가?
5. 외로움·우울·응급실 이용·복지 연계의 변화가 통화량과 분리된 같은 집단의 장기 지표로 공개되는가?