돌봄 AI는 무엇을 끝냈는가: 신호를 사람의 개입까지 잇는 일곱 칸 장부

안부전화는 연결됐고, 돌봄 로봇은 미활동을 감지했으며, 음성 검사는 인지저하 위험을 표시했다. 모두 AI가 일을 끝낸 듯 들린다. 그러나 돌봄의 끝은 통화 완료·경보 생성·선별 결과가 아니다. 누군가 신호를 확인하고 연락·서비스를 잇고, 해결됐는지 다시 확인한 순간에 가깝다.

편집부는 NAVER Cloud CLOVA CareCall, 효돌, 세븐포인트원 AlzWIN의 공개 근거를 36행·18개 증거 묶음으로 코딩했다. 회사 수치, 독립·제품사 협력 연구, 회사·연구기관 공동 보고서, 정부 운영사례, 개인정보·규제자료를 한 표에 놓되 중복 인용은 독립 검증으로 세지 않았다. 결과는 기술 신호보다 사람의 검토와 해결을 잇는 데이터가 훨씬 얇다는 쪽으로 모였다.

세 서비스는 한 공급망도, 한 종류의 AI도 아니다

CareCall은 정기 대화와 미응답, 건강 관련 발화에서 확인이 필요한 신호를 만든다. 효돌은 집 안의 활동과 상호작용, 복약·일정 기록을 바탕으로 미활동이나 긴급 상황을 알리는 생활 동반형 서비스다. AlzWIN은 짧은 말하기 과제로 인지위험을 선별해 추가 평가 대상을 찾는다. 목적, 대상자, 원자료와 오류의 의미가 서로 다르다.

세 회사를 실제 이용자 흐름으로 연결해서는 안 된다. 회사 간 계약이나 데이터 인계가 확인된 것도 아니다. 이 글에서 함께 보는 이유는 하나다. 대화, 생활로그, 음성검사처럼 서로 다른 입력도 공공서비스에 들어오면 유효한 신호였는가 → 사람이 확인했는가 → 필요한 행동이 일어났는가 → 결과가 남았는가라는 같은 책임 질문을 만나기 때문이다.

따라서 통화 연결률과 미활동 경보, 민감도·특이도를 한 표에서 점수화해 기업 순위를 만들지 않았다. 신호마다 적절한 성능지표를 유지하면서, 다음 단계로 넘어간 분모가 공개되는지만 비교했다. 공통 기준은 기술 우열이 아니라 책임의 연속성이다.

36개 공개 근거가 멈춘 지점

CareCall의 공개 근거는 세 회사 중 폭이 넓다. 2,896명과 3만7,294통을 연결한 연구는 대화 특성과 우울증상 고위험의 연관을 보여 주고, 회사·대학 공동 보고서는 도입·비도입 지역의 의료이용과 고독사 대리지표를 준실험으로 추정했다. 그러나 개인 위험 신호가 담당자 검토와 방문·서비스를 거쳐 3·6·12개월 결과로 이어진 기록은 대표 공개자료에서 확인하지 못했다. 지역 평균의 변화는 개인별 인계 장부를 대신하지 않는다.

효돌은 180명으로 시작한 단일군 연구에서 3개월 뒤 우울증상과 삶의 질 변화를 관찰했으나, 6개월에는 긍정 효과가 이어지지 않았고 추적 인원은 116명으로 줄었다. 2026년 회사 지원 예비연구에서는 278명 중 우울 고위험군이 92명(33.1%)에서 51명(18.3%)으로 줄었지만, 대조군이 없고 원격 정신건강 지원과 재가서비스가 병행됐다. 회사는 미활동 알림과 긴급콜 뒤 관제 확인을, 포천시는 무반응 때 119 연계를 설명한다. 다만 경보 수, 오탐, 검토시간, 출동 적정성과 해결률은 공개 확인이 어렵다.

AlzWIN은 관련 선행연구에서 AUC·민감도·특이도를 확인할 수 있다. 다만 해당 연구 구현과 현행 제품 버전의 동일성은 확인되지 않았고, 환자와 정상 대조군을 비교한 수치를 지역사회 양성예측도로 옮길 수도 없다. 강남구의 2026년 20명 프로그램 선정은 운영 사례지만 초대·완료·고위험·정밀검사·진단의 분모가 없다. 현재 제품의 위험 표시 뒤 사람 검토율과 장기 결과는 공개 공백으로 남는다.

서비스	공개된 앞단	확인되는 뒤쪽 근거	끊기는 핵심 연결
CareCall	연결·통화·대화 신호	지역 단위 의료이용·고독사 대리 추정	개인 신호→사람 검토→지원→종단 결과
효돌	활동·상호작용 로그와 경보 기능	단일군 3·6개월 연구	경보→현장 대응→해결·재발→12개월
AlzWIN	약 1분 검사와 관련 선별 연구	공공 프로그램 선정 사례	현행 버전 성능→정밀평가→진단·계획

‘공개 공백’은 회사 내부에 데이터가 없다는 판정이 아니다. 공개된 대표 원문에서 편집부가 확인하지 못했다는 뜻이다. 이 경계를 지켜야 비공개와 부재, 기능과 성과를 혼동하지 않는다.

일곱 칸을 같은 이용자 키로 이어야 한다

편집부가 제안하는 최소 원장은 적격 → 동의 → 유효접촉·측정 → 위험신호 → 사람검토 → 서비스·임상연계 → 3·6·12개월 결과의 일곱 칸이다. 각 칸에는 고유 인원과 전환율, 이탈 사유가 필요하다. 통화 100건을 이용자 100명으로 세거나 한 사람의 반복 경보를 여러 명의 위험 발견으로 계산해서는 안 된다.

첫 칸은 서비스를 받을 수 있었던 전체 대상이다. 여기서 초대·거절·대리동의·철회를 구분해야 선택편향을 볼 수 있다. 유효접촉은 전화 연결과 완결 대화, 판독 가능한 생활로그, 끝까지 마친 음성검사처럼 서비스별로 정의하되 정의를 공개해야 한다. 위험신호는 모델·임계값·버전과 함께 저장하고, 고유 인원과 반복 신호를 나눈다.

사람검토부터는 운영기관의 기록이다. 복지사·상담원·보호자·의료진 중 누가 검토했는지, 연락·방문·의뢰 중 어떤 행동을 했는지, 상대가 실제 서비스를 받았는지를 남긴다. 마지막 칸은 외로움·우울·삶의 질·일상생활기능·복약, 응급실·입원, 인지 정밀평가와 돌봄계획처럼 서비스 목적에 맞는 결과다. 익명화된 동일 키와 기준기간이 이어지지 않으면 단계별 숫자는 커도 종결 여부를 알 수 없다.

정확도보다 먼저 세 개의 시계를 켜야 한다

돌봄 AI에는 세 개의 시간이 흐른다. 첫째는 모델이 대화를 분류하거나 경보·점수를 만드는 시간이다. 둘째는 사람이 이를 확인하고 연락·방문·의뢰하는 인계 시간이다. 셋째는 변화가 유지되는지 보는 3·6·12개월의 결과 시간이다. 제품 소개는 첫 번째 시계를 잘 보여 주지만 공공가치는 둘째와 셋째에서 결정된다.

보고서는 평균만으로 부족하다. 긴급 신호의 사람 검토시간은 중앙값과 P90·P95를 함께 공개해야 늦게 처리된 위험을 볼 수 있다. 야간·주말의 책임자와 재시도 횟수, 미응답을 종료하는 기준도 필요하다. 결과는 개입 직후 만족도와 장기 변화를 나누고, 중도이탈자를 결과표에서 지우지 않아야 한다.

‘종결률’도 하나의 만능 점수로 쓰면 위험하다. 분모를 정의한 뒤 사람이 검토한 고유 위험신호, 실제 연락에 성공한 건, 서비스·임상평가를 받은 건, 합의한 해결기준을 충족한 건을 각각 보여 주는 편이 낫다. 해결되지 않은 이유도 거절, 연락 실패, 대기, 오탐, 서비스 부재로 나눠야 다음 개선점이 보인다.

자동화가 절약한 시간과 새로 만든 일을 함께 센다

AI 전화와 센서는 반복 확인을 자동화할 수 있지만, 신호가 늘면 사람의 검토 업무도 늘 수 있다. 미응답을 다시 확인하고 문맥 오류를 고치며 오탐을 설명하는 시간은 제품의 실패가 아니라 운영비의 일부다. 이를 숨기면 기관은 장비 비용만 보고 필요한 인력을 과소 배치하게 된다.

계약 성과에는 활성 이용자당 비용, 유효접촉당 비용, 사람이 확인한 위험신호당 비용, 실제 해결 1건당 비용을 나눠 넣을 필요가 있다. 담당자의 검토시간, 교육·교체·야간대기 시간과 시스템 장애도 포함해야 한다. 동시에 이용자에게 직접 쓰는 시간이 늘었는지, 위험구역 방문이나 불필요한 출동이 줄었는지 보아야 노동생산성을 판단할 수 있다.

KDI는 돌봄기술이 대면 돌봄을 완전히 대체할 수 없으며 이용자와 제공자의 건강 영향, 현장 실증, 비용효과가 확인된 기술을 지원해야 한다고 지적한다. 기술 도입이 인력 감축 목표로만 설계되면 따뜻한 대화와 예외 판단처럼 자동화하기 어려운 노동이 더 얇아질 수 있다. 좋은 자동화는 사람을 없애는 것이 아니라 사람이 필요한 순간을 더 정확히 배정해야 한다.

데이터 보호와 형평성은 별도 부록이 아니다

세 서비스가 다루는 원자료는 통화 원음·전사·요약·기억, 집 안 활동과 일과·복약, 음성특징과 인지 추론값처럼 매우 사적이다. 원음과 파생값의 보관기간, 목적별 처리 주체와 위탁·수탁 관계, 가족·복지사·개발자의 접근권한, 모델학습 재이용, 철회·삭제와 감사로그를 각각 밝혀야 한다. 연구 동의서가 상용 서비스 정책을 대신하지도 않는다.

성과표에는 연령·성별뿐 아니라 학력, 청력과 발화장애, 방언, 인지상태, 도농과 소득별 연결 실패·판독불가·오탐·누락을 넣어야 한다. AI가 가장 도움이 필요한 사람의 말과 생활을 가장 자주 놓친다면 평균 성능은 서비스의 공정성을 가린다. 의사결정 능력이 낮은 이용자의 본인 의사와 대리동의, 보호자가 없는 사람의 이의제기 통로도 계약 전에 정해야 한다.

WHO는 건강 AI에서 인간의 자율성, 안전, 투명성, 책임, 포용성과 지속가능성을 원칙으로 제시한다. NIST AI 위험관리 프레임워크도 사용 맥락과 사람의 감독 역할을 문서화하고 배포 환경과 비슷한 조건에서 성능을 지속 측정할 것을 요구한다. 여기서 거버넌스는 추상적 선언이 아니라 누가 어떤 신호를 언제 확인했는지를 남기는 운영기록이다.

공공계약에는 월별 ‘종결 원장’을 요구할 수 있다

발주기관은 설치대수나 이용자 목표 외에 월별 표준 파일을 계약 산출물로 둘 수 있다. 첫 표에는 적격·동의·활성·이탈의 고유 인원을, 둘째에는 서비스·모델 버전과 유효접촉·판독불가·장애시간을 기록한다. 셋째에는 고유 위험신호, 오탐·누락 감사표본, 사람 검토시간과 후속 행동을 넣는다. 마지막에는 해결·미해결 사유, 3·6·12개월 결과와 직원시간·비용을 연결한다.

모든 원자료를 공개할 필요는 없다. 개인정보를 제거한 집계표와 산식, 코드북, 버전 변경 이력, 독립 감사에 쓸 표본추출 규칙이면 외부 재계산이 가능하다. 심각한 신호일수록 건수가 적어 공개 과정에서 개인이 드러날 수 있으므로 소수 셀 억제와 접근통제도 필요하다. 투명성은 민감한 대화를 공개하는 것이 아니라 결과를 검증할 구조를 공개하는 일이다.

재계약 기준 역시 앞단 활동과 뒤단 결과를 분리해야 한다. 연결률이 낮으면 접근 방식을, 오탐이 많으면 모델과 검토 규칙을, 인계가 늦으면 인력과 SLA를, 장기효과가 없으면 서비스 설계를 고친다. 어느 단계가 막혔는지 알아야 기술 교체와 운영 개선 중 올바른 처방을 고를 수 있다.

편집부의 판단

돌봄 AI의 진짜 단위는 전화 한 통, 로그 한 건, 위험 점수 하나가 아니다. 사람에게 확인되어 필요한 행동으로 이어지고 결과가 다시 측정된 한 건이다. 공개 근거는 세 서비스의 가능성과 운영 접점을 보여 주지만, 이 단위를 계산할 개인별 인계 장부는 이어지지 않는다.

AI가 돌봄에 쓸모없다는 뜻은 아니다. 인력 부족이 커질수록 먼저 확인할 사람을 찾고 반복 업무를 줄이는 기술의 가치는 커진다. 그러므로 신호 생성과 문제 해결 사이의 사람 노동을 지워서는 안 된다. 도메인 신뢰는 더 사람 같은 목소리보다, 신호 하나가 누구에게 언제 전달돼 무엇으로 끝났는지를 재계산할 수 있을 때 생긴다.

자료와 해석 범위

이 글은 2026년 8월 21일 기준 세 회사의 공식 제품·정책 자료, 정부와 지자체의 운영 문서, 규제기관 안내, 동료평가 연구와 회사·연구기관 공동 보고서에서 대표 근거 36행을 코딩했다. 동일 논문의 표본·성과·한계를 여러 행으로 나눈 경우 하나의 증거 묶음으로 관리해 행 수를 연구 건수로 세지 않았다. 세 회사는 실제 공급망이나 이용자 여정으로 연결돼 있지 않으며, 서로 다른 기능의 정확도와 임상효과를 직접 비교하거나 순위를 매기지 않았다.

기관별 이용자 원자료, 경보 원장, 상담·방문 기록, 계약 가격과 의료·복지 결과를 직접 확인하지 못했다. ‘공개 확인 못함’은 데이터가 존재하지 않는다는 뜻이 아니다. 일곱 칸 원장과 세 개의 시계, 월별 종결 원장은 법정 인증이나 의료기기 평가도구가 아니라 공개 근거의 단절을 찾기 위한 편집부의 분석 틀이다. 실제 도입에는 개인정보 영향평가, 임상·복지 성과평가와 비용효과분석이 별도로 필요하다.

다음 3+1을 검증할 때 물어야 할 질문은 다음과 같다.

• 적격자부터 동의·활성·이탈까지 고유 인원과 선정·거절·대리동의 사유가 공개되는가?
• 유효접촉·판독 가능 기록과 고유 위험신호의 정의, 모델 버전, 오탐·누락 감사표본은 무엇인가?
• 누가 위험신호를 중앙값과 P90·P95 몇 분 안에 확인하고 연락·방문·임상평가로 인계하는가?
• 해결·미해결·재발과 3·6·12개월 결과를 같은 익명 이용자 키로 추적하며 중도이탈을 어떻게 처리하는가?
• 원음과 파생값의 접근·보관·삭제·학습 재이용, 하위집단별 오류, 사람 투입시간과 해결 1건당 비용을 공개하는가?