투명한 AI 사용 · 소규모 비즈니스를 위한 AI Fluency

위임-신중함 루프

투명한 AI 사용 · 7 min

요약대본

실제 사례로 보는 위임-신중함 루프 — AI에 무엇을 맡길지 결정하고 AI 사용에 대해 고객에게 투명하게 밝히는 방법입니다.

한국어 대본

00:00안녕하세요, 위임-성실 루프에 관한 이 레슨에 오신 것을 환영합니다.
00:11이것은 어떤 작업이 AI에 가장 적합한지, 그리고
00:15어떤 작업이 여전히 팀에 가장 적합한지 결정하는 것에 관한 것입니다.
00:17오늘 Mac과 함께하게 되어 정말 기쁩니다. 그의 비즈니스에 대해 이야기하고
00:22그가 어떤 작업이 AI에 가장 적합한지, 어떤 작업에 인간의 감독이 필요한지 결정하는 방법입니다.
00:28우리가 만난 이후로 들려주신 이야기 중 가장 흥미로운 이야기부터 시작하겠습니다. 전화 지원의 상당 부분을 AI에 맡기기로 결정하셨지만, 그 결정이 쉽거나 단순하지 않았다는 이야기입니다.
00:38그럼 그 작업을 AI에 맡기기로 결정한 과정과, 그 과정에서 비즈니스와 고객에게 정말 좋은 경험이 되도록 하기 위해 어떤 구현 결정을 내렸는지 설명해 주세요.
00:49그것은 확실히 우리가 AI를 도입한 가장 큰 부분이고, 고객 대면 업무입니다.
00:55사업을 확장하면서 갑자기 벽에 부딪혔습니다. 감당할 수 없을 만큼의
01:01우리가 받고 있던 전화량이었습니다. 그것은 고객 불만을 초래하고 있었습니다. 그리고 우리의 가장 큰
01:06불만은 고객들이 이렇게 말하는 것이었습니다. '전화하려고 하는데 아무에게도 연결되지 않아요.'
01:09그리고 우리는 생각했습니다. 이것을 어떻게 해결해야 합니까? 사람들에게 답을 주고 싶었습니다. 그래서 먼저 AI를 출시했습니다.
01:16그것은 일종의 응답을 했습니다. 거의 업그레이드된 음성 사서함 같았습니다. 전화를 받아서
01:21그것은 고객의 정보를 받고 '누군가 곧 연락드릴 것입니다'라고 말했습니다. 우리는 곧 깨달았습니다.
01:26그것은 사람들을 더욱 화나게 했습니다. 그런 다음 우리는 '이제는 답을 해야 한다'는 문제에 부딪혔습니다. 그것은
01:31그들이 가진 질문에 답을 해야 합니다. 무엇에 답할 수 있습니까? 무엇에 답할 수 없습니까?
01:36바로 그 지점에서 우리는 꽤 빨리 배웠습니다. 적절한 가드레일이 없으면 그것은
01:42환각을 일으키기 시작할 것입니다. 그것은 고객에게 완전히 지어낸 주소를 두 번이나 무작위로 알려주었습니다. 그래서 우리는 배웠습니다.
01:50이 경험을 통해 우리는 정말로 그것에 가드레일을 주고, 그것이 할 수 있는 것과
01:55할 수 없는 것을 알려줘야 합니다. 그것이 훌륭했던 점은 우리가 그것을 점점 더 가르치고, 그것에
02:02고객에게 전달할 수 있는 좋은 정보를 주면서, 우리는 무엇에 집중해야 하는지 발견했습니다. 무엇
02:08고객이 묻고 싶어 하고 빨리 답을 원하는 주요 사항은 무엇입니까? 그리고 무엇
02:12그들이 실제로 인간의 도움을 원하는 것은 무엇입니까? 우리는 더 많은 채택을 얻었고, 더 많은 사람들이
02:17그것을 사용하고 있습니다. 더 많은 사람들이 그것에 만족합니다. 그리고 또 다른 점은 우리가 그들에게 미리 알려준다는 것입니다. 무엇
02:23그것이 할 수 있는 것과 할 수 없는 것을요. 그래서 초기에는 그것이 그냥 전화를 받아서 '안녕하세요, 감사드립니다'라고 말했습니다.
02:28Max에게 전화를 걸었습니다. 오늘 무엇을 도와드릴까요? 그리고 우리는 그로 인해 많은 불만이 발생한다는 것을 발견했습니다.
02:33이제는 이렇게 표시됩니다. "안녕하세요, 저는 Max 가상 비서입니다. X, Y, Z를 도와드릴 수 있습니다. 제가 도와드릴까요?"
02:41그리고 상담원 연결 대기 상태에 들어가기 전에 마지막으로 한 번 더 상기시켜 줍니다.
02:46"대기 상태로 기다리시기 전에 제가 더 빨리 답변해 드릴 수 있습니다."라고요.
02:49그리고 우리는 이것이 고객층에 큰 변화를 가져왔다는 것을 발견했습니다. 아직도 AI와 대화하는 것을 꺼리는 사람들이
02:52있기 때문입니다.
02:57결국에는 모두가 받아들이게 될 것이라고 생각하지만, 우리는 여전히 그런 고객들이
03:01"상담원을 요청할 수 있다"는 느낌을 갖기를 원합니다.
03:03하지만 우리가 그것을 강요했을 때, 바로 그때 진짜 문제가 발생했습니다.
03:08그렇다면 AI에 무엇을 위임하고 무엇을 보류할지 파악하는 과정에서 많은 것을 배우셨네요.
03:12그 여정을 막 시작하는 사람에게 해 주고 싶은 아이디어나 조언이 있으신가요?
03:15그 여정을 막 시작하는 사람에게 해 주고 싶은 아이디어나 조언이 있으신가요?
03:19소규모 사업주나 고객 서비스, 챗봇 등에 AI를 사용하려는 모든 사람에게 꼭 말하고 싶은 것은 피드백을 즉시 받아야 한다는 것입니다.
03:27AI가 처리한 통화를 분석하고 불만 지점이 어디인지 알려 달라고 요청하세요.
03:31그 불만 지점을 파악해서 조정하세요.
03:36여러 번의 변경이 필요하겠지만, 결국 점점 더 나아져서 지금은 전체 통화의 50%를 AI가 처리하고 있습니다.
03:38그리고 대부분의 사람들은 질문에 대한 빠른 답변을 받아서 정말 만족해합니다.
03:49그리고 대부분의 사람들은 질문에 대한 빠른 답변을 받아서 정말 만족해합니다.
03:53사업에서 AI에 맡기지 않기로 특별히 결정하신 것이 있나요?
03:58위임-성실 루프를 거치면서 "이것에는 AI를 사용하지 않는다"고 결정하신 것이요.
04:04관리와 인간의 감독에 관해서는 AI가 통제를 벗어나거나 제멋대로 행동하도록 둘 수 있는 미래는 당분간 없다고 봅니다.
04:15AI는 공급처를 찾고 지불할 가격을 결정하는 데 도움을 줍니다.
04:21데이터 처리에 정말 큰 도움이 됩니다.
04:23하지만 인간적인 연결이 필요합니다.
04:24우리에게는 여전히 공급업체, 판매업체, 제조업체와 소통하며 관계를 유지하는 공급망 관리자가 있습니다.
04:32비판적 사고에 관해서라면 AI가 그 방법이나 노하우를 반드시 갖추고 있는 것은 아닙니다. 그래서 인간의 감독과 관리가 정말로 필요한 것입니다.
04:43판단력, 인간관계, 사업에 대한 전문성, 이 모든 것은 인간이 필요합니다.
04:51감사합니다, Matt.
04:51물론입니다. 초대해 주셔서 감사합니다.
04:54그것이 바로 위임-성실 루프가 작동하는 모습입니다.
04:56AI에 적합한 작업을 선택하고 적절한 시점에 AI 사용을 책임감 있게 공개하는 것이 중요합니다.
05:02AI로 작업할 때는 AI를 어떤 용도로 사용할지 의도적으로 선택함으로써 자신을 보호하세요.
05:09작업을 세분화하여 AI가 실제로 필요로 하는 정보와 습관적으로 포함하는 정보를 이해하는 것.
05:16AI 도구와 요금제 유형의 이용약관을 읽는 것.
05:20그것들을 AI 대화에 넣고 질문하면 더 빨리 이해할 수 있습니다.
05:25AI를 사용하여 실험에서 얻은 데이터나 인사이트를 분석한다면,
05:29업로드하기 전에 데이터셋에서 고객 이름, 주소, 연락처 정보를 항상 제거하세요.
05:34강력한 개인정보 보호 기능을 갖춘 도구를 사용하더라도 말입니다.
05:38AI의 기능에 대한 신뢰를 쌓으려면,
05:41정기적으로 수행하면서 시간이 많이 걸리는 특정 작업부터 시작하세요.
05:47이미 해당 작업을 완료했고 정답을 알고 있는 과거 사례를 찾으세요.
05:52AI와 함께 과거 결과를 재현하고 체계적으로 비교하세요.
05:57AI가 정확히 수행한 부분, 더 많은 컨텍스트가 필요한 부분, 완전히 놓친 부분을 기록하세요.
06:04접근 방식을 다듬고 새로운 상황에 적용하기 전에 다시 테스트하세요.
06:08여러 번 시도한 후에도 정확한 결과를 검증할 수 없다면 그 작업을 위임하지 마세요.
06:13AI와 안전하고 효과적으로 작업하는 것은 두 가지로 요약됩니다.
06:17시작하기 전에 보호해야 할 것을 보호하고, AI에 의존하기 전에 AI가 할 수 있는 일을 검증하세요.
06:23위임-성실 루프는 이 두 가지를 위한 프레임워크를 제공합니다.

위임 ↔ 신중함 루프

외부 루프는 모든 AI 상호작용의 틀을 잡습니다: 무엇을 맡길지 — 올바른 작업, 올바른 도구, 올바른 데이터 — 사전에 결정하고, 이후에는 돌아온 결과에 대해 책임을 집니다. 설명과 판단력이 그 사이의 작업을 수행합니다.

설명모델이 행동할 수 있도록 비전을 전달합니다.

판단력돌아온 결과를 판단하고 — 그 판단을 다음 단계로 전달합니다.

위임무엇을 AI에 맡길 가치가 있는지 먼저 결정합니다.

신중함최종 결과물을 검증하고, 출처를 밝히고, 책임을 집니다.

무엇을 맡길지 올바르게 결정하세요.사전에 신중하게 생각하세요: AI에 가져갈 올바른 작업, 올바른 도구, 올바른 데이터는 무엇이며 — 무엇을 직접 처리해야 할까요?

맡기기The Loop검증하기

돌아온 결과에 책임을 지세요.AI가 이것을 제대로 처리했는가, 그리고 내가 그 결과에 책임을 지고 있는가? 알고 있는 내용과 대조하여 검증하고, AI의 역할에 대해 투명하게 밝히고, 결과물을 뒷받침하세요.

핵심 요점

AI는 새로운 개인정보 보호 고려 사항을 도입합니다 — 일부 도구는 입력 내용을 향후 모델 학습에 사용합니다.
작업에 맞는 도구를 선택하세요 — 민감도가 높은 데이터는 더 엄격한 개인정보 보호 설정이 필요합니다.
필요하지 않은 것은 제거하세요 — AI와 데이터를 공유하기 전에 식별 가능한 세부 정보를 제거하세요.
문제가 발생하면 빠르게 대응하세요 — 대화를 삭제하고 데이터 삭제를 요청하세요.
검증된 접근 방식을 구축하세요, 맹목적인 신뢰가 아니라: 효과가 있는 방법을 문서화하여 다음에 재현할 수 있도록 하세요.
데이터에 익숙하지 않아도 AI가 도움이 될 수 있습니다 — 아이디어 구상, 스프레드시트 수식, 숫자에 대한 쉬운 설명 등입니다.

실습

이 세 가지 실습은 순서대로 진행됩니다: 실제 비즈니스 데이터를 선택하고, 이를 AI에 안전하게 사용할 수 있도록 준비한 다음, 돌아온 결과를 평가하고 책임을 집니다. 이 세 가지를 함께 진행하면 자신의 데이터로 완전한 위임-신중함 루프 하나를 경험하게 됩니다.

공유할 내용 결정하기

위임 단계 — AI에 가져가기에 적절한 데이터와 보호해야 할 데이터를 결정합니다.

이미 살펴보고 어느 정도 익숙한 비즈니스의 실제 문서 하나를 선택하세요 — 판매 보고서, 고객 피드백 요약, 재고 목록 등입니다.
문서를 읽으면서 비즈니스 외부로 나가지 않았으면 하는 내용을 표시하세요 — 이름, 연락처 정보, 결제 정보, 독점 가격 정보 등입니다.
복사본을 만들고 해당 세부 정보를 제거하세요: 이름을 "고객 A / 공급업체 X"로 바꾸고, 필요하지 않은 정확한 수치는 제거하고, 연락처 정보는 완전히 삭제하세요.
AI를 열기 전에 몇 분 시간을 내어 다음을 적어보세요:
- 무엇을 달성하려고 하나요? 구체적으로 작성하세요 — "지난 분기 재방문 예약이 감소한 이유 파악"이 "판매 데이터 분석"보다 낫습니다.
- 이 데이터를 직접 살펴보면서 이미 알고 있거나 의심하는 것은 무엇인가요? 이미 알아챈 관찰 내용이나 패턴 2~3가지를 적어보세요.
- 유용한 AI 결과물은 어떤 모습일까요? 요약인가요? 구체적인 트렌드인가요? 이상치 목록인가요?
이것이 여러분의 브리프입니다. 명확할수록 돌아온 결과를 평가하기가 더 쉬워집니다.

레슨 돌아보기

AI 개인정보 보호는 이미 사용 중인 다른 비즈니스 소프트웨어에 대한 생각과 어떻게 비교되나요?
AI와 비즈니스 데이터를 공유하는 방식에서 바꿀 한 가지는 무엇인가요?
어떤 범주의 민감한 데이터가 가장 중요하게 보호해야 한다고 느껴지며, 이를 위한 계획은 무엇인가요?

다음 단계

다음 레슨에서는 4D 프레임워크의 네 가지 차원을 모두 결합하여 처음부터 끝까지 전체 비즈니스 워크플로를 자동화해 보겠습니다.