더 나은 AI 출력을 얻기 위해 4D 프레임워크 적용하기
Next Steps · 5 min
요약대본
유창한 AI 활용은 모든 실패 모드를 외우는 것이 아닙니다. 머릿속에 기계에 대한 작고 명확한 모델을 갖추어, 무언가 잘못되었을 때 어떤 종류의 잘못인지 인식하고 그에 맞게 대응할 수 있도록 하는 것입니다.
한국어 대본
- 00:00안녕하세요, 다시 뵙는 Anthropic 교육 팀의 Kristin입니다.
- 00:11이 시리즈를 시작했을 때,
- 00:13아마도 "AI는 왜 그럴까?"라는 한 가지 질문을 어떤 형태로든 품고 있었을 것입니다.
- 00:19하지만 답변 목록보다 더 나은 것을 가지고 떠나게 됩니다.
- 00:22다음 질문에 답할 수 있게 해주는 구조를 가지고 떠나게 됩니다,
- 00:25왜 그럴까, 스스로 말이죠?
- 00:27모델은 변하고, 기능은 출시되며, 예상치 못한 사례가 사람들을 놀라게 합니다.
- 00:31이러한 속성들은 그대로 남아 있습니다.
- 00:33이 코스에서 쌓은 것은 바로 능력,
- 00:35놀라지 않게 되는 것입니다.
- 00:40빠르게 되돌아보겠습니다,
- 00:42가지고 가는 것을 말이죠.
- 00:43먼저, 모델은 두 단계로 훈련됩니다.
- 00:46사전 훈련은 문서 완성기를 만듭니다.
- 00:49미세 조정은 그 위에 어시스턴트를 얹습니다.
- 00:52보이는 모든 행동은, 유용하든 이상하든,
- 00:54그 두 가지 흔적 중 하나로 거슬러 올라갑니다.
- 00:57모델이 만들어지면 네 가지 속성을 나타냅니다,
- 01:00다음 토큰 예측, 지식, 작업 기억,
- 01:03그리고 조종 가능성입니다.
- 01:04각각은 능력 구간이 있는 연속체이며,
- 01:07한계 구간과 제품 기능,
- 01:09경계를 더욱 확장하는 기능들입니다.
- 01:11동일한 메커니즘이 항상 작동하고 있습니다.
- 01:13변하는 것은 오직 작업이 어디에 해당하는지입니다
- 01:16위기에 처해 있습니다.
- 01:17그리고 문제가 생기면, 거의 항상
- 01:19이 속성 두 가지가 만나서 생깁니다.
- 01:21허위 인용은 다음 토큰 예측이
- 01:24지식 공백과 만난 것입니다.
- 01:26긴 대화에서의 표류는 작업 기억이 희미해지면서
- 01:29조종 가능성이 새 지침을 너무 문자 그대로 받아들이는 것입니다.
- 01:32이것이 진단하고 조정하는 방법입니다.
- 01:34중요한 것은 무엇이 고장 났는지가 아니라, 어떤 두 가지가 충돌했는지입니다.
- 01:41이제 이 모든 것을 하나로 묶는 것은
- 01:43여러분이 이미 알고 있을 4D 프레임워크입니다.
- 01:45이 두 프레임워크는 별개의 것이 아닙니다.
- 01:47여러분이 동시에 처리해야 할 것도 아닙니다.
- 01:484D는 여러분이 하는 일, 즉 위임, 설명,
- 01:52판별력, 성실입니다.
- 01:54이 코스에서 논의한 네 가지 속성은 여러분이 그 일을 할 때 대응하는 대상입니다.
- 02:01다음 토큰 예측을 이해하면 판별력이 향상됩니다. 왜냐하면
- 02:04유창성과 정확성이 독립 변수라는 것을 알기 때문입니다.
- 02:08작업 기억을 이해하면 설명 능력이 향상됩니다. 컨텍스트가
- 02:12지렛대라는 것을 알고 모델이 모든 것을 기억한다고 가정하지 않게 되기 때문입니다.
- 02:16조종 가능성을 이해하면 위임 능력이 향상됩니다. 통제가
- 02:20어디에서 강하고 어디에서 덜 정밀한지 알기 때문입니다.
- 02:23기계 계층이 인간 계층을 날카롭게 만듭니다.
- 02:26두 개의 다른 시스템이 아닙니다.
- 02:28같은 동전의 양면일 뿐입니다.
- 02:34AI에 대한 균형 잡힌 신뢰는 태도인 것처럼 이야기되곤 하지만,
- 02:37실제로는 습관입니다.
- 02:39즉, AI에게 무언가를 넘기기 전에,
- 02:42간단한 내부 점검을 합니다.
- 02:45이것은 익숙한 영역입니까, 아니면 정보가 부족한 영역입니까?
- 02:47이 주제는 최근의 것입니까, 아니면 안정적인 것입니까?
- 02:50내 컨텍스트가 컨텍스트 창 안에 여유 있게 들어갑니까?
- 02:53내 지침은 구체적입니까, 아니면 내 말과 의도 사이에 여지가 있습니까?
- 02:58그런 다음 조정합니다.
- 03:00허위 생성이 집중될 수 있는 곳에서는 더 많은 검증을 합니다.
- 03:03모델이 무슨 뜻인지 추측할 수 없는 곳에서는 더 많은 컨텍스트를 제공합니다.
- 03:07추론 체인이 너무 길어질 때는 더 많은 체크포인트를 설정합니다.
- 03:10모델의 기능을 확장하는 데 도움이 되는 기능을 찾습니다.
- 03:14AI를 신뢰하지도, 불신하지도 않습니다.
- 03:18작업이 어디에 해당하는지 파악하고 그에 따라 습관을 설정합니다.
- 03:21그것이 AI Fluency의 진정한 본질입니다.
- 03:27그렇다면 이제 어디로 가야 합니까?
- 03:30실제 작업으로 연습하세요.
- 03:32머릿속 모델은 실제 출력과 대조해 볼수록 더 정확해집니다.
- 03:36AI 행동에 대한 예측이 맞는 부분과 빗나가는 부분에 주의를 기울이세요.
- 03:41이미 그 코스를 수강했다면 4D 프레임워크를 새로운 시각으로 다시 살펴보세요.
- 03:46네 가지 속성이 그것에 대한 새로운 시각을 제공합니다.
- 03:48수강하지 않았다면, 그것이 자연스러운 다음 단계입니다.
- 03:51경계를 시험하는 것입니다. 모델은 더 좋아지고, 컨텍스트 창은 더 커지며, 기능은
- 03:55이전에는 열려 있었던 격차를 메웠습니다. 경계는 움직이며, 밀어붙여 봄으로써 그 경계를 찾습니다.
- 04:01그것들을 바탕으로. 구체적인 숫자는 바뀔 것입니다. 각 경계의 정확한 위치는
- 04:06모델이 개선됨에 따라 이동하지만, 이러한 속성들의 형태는 유지됩니다. AI는 계속
- 04:11유창함이 정확성보다 앞서 나갈 수 있는 예측기로 남습니다. AI는 계속
- 04:15불균등한 지식과 기준 시점을 가진 채로 남습니다. AI는 계속
- 04:19유한한 창 안에서 작업합니다. AI는 계속
- 04:23단어와 의도 사이의 간극에도 불구하고 지침을 따릅니다. 그러한 사실들은 버전 번호가 올라가도 만료되지 않습니다. 구축한 것은
- 04:28의도적으로 오래 지속되는 정신 모델입니다. 표적은 계속 움직이고 이제 아는 것은
- 04:33그것을 추적하는 방법입니다.
기계에 대한 작은 모델
AI 역량 및 한계 프레임워크
AI가 여러분을 위해 할 수 있는 것과 할 수 없는 것을 결정하는 네 가지 속성입니다. 각 속성은 스펙트럼 위에 있으며 — 오른쪽으로 갈수록 더 많이 검증하고 보완해야 합니다.
역량한계
다음 토큰 예측AI의 답변은 어디에서 나오는가?
잘 다져진 경로: 요약, 재구성, 일반적인 개념 설명새로운 영역, 희소한 패턴, "사실 여부 vs. 그럴듯함"
지식AI가 실제로 알고 있는 것은 무엇인가?
빈번하고, 학습 시점에 가깝고, 일관된 것: 주류 주제, 인기 있는 언어희귀하거나, 학습 마감 이후이거나, 틈새이거나, 지역적이거나, 논쟁적인 주제
작업 메모리AI가 지금 주의를 기울이고 있는 것은 무엇인가?
자료가 편안하게 들어맞고, 세션이 최신이며, 관련 컨텍스트를 제공하는 경우매우 긴 문서/대화, 세션 간 연속성을 기대하는 경우 (절벽 현상)
조종 가능성내가 얼마나 통제하고 있는가?
짧고, 구체적이며, 검증 가능한 지시 ("표로 응답하세요", "100단어 이내로")긴 추론 체인, 추상적인 요청, 원어민 수준의 정밀함
핵심 요약
- 이제 여러분은 작동 가능한 멘탈 모델을 갖추었습니다: 연속체로서의 네 가지 속성, 속성 교차점으로서의 특징적인 실패.
- 이 프레임워크와 4D 프레임워크는 하나의 시스템을 이루는 양면입니다. 이 속성들은 4D 역량이 대응하는 대상을 설명합니다.
- **보정된 신뢰(Calibrated trust)**란 각 연속체에서 작업의 위치를 파악하고, 검증 및 컨텍스트 습관을 그 위치에 맞추는 것을 의미합니다.
- 모델은 계속 변화할 것입니다. 정확한 경계가 바뀌더라도 이러한 속성들의 형태는 계속 유용하게 남습니다.
연습
여러분의 다짐
Lesson 1에서 작성한 작업 목록으로 마지막으로 한 번 더 돌아가세요. 각 작업에 대해, 각 속성의 연속체에서 그 작업이 어디에 위치하는지, 그리고 어떤 완화 조치가 필요할지 빠르게 직감적으로 적어보세요.
이제 작업 하나와 이번 주에 실천할 변화 하나(검증 단계, 상시 컨텍스트 설정, 체크포인트, 형식만이 아닌 목표를 명시하는 습관)를 선택하세요. 그것을 적어두세요.
레슨 성찰
- Lesson 1부터 지금까지, AI 행동에 대한 생각에서 가장 큰 변화는 무엇인가요?
- 여기서 배운 내용으로 4D 중 어느 것이 가장 즉각적으로 날카로워졌다고 느껴지나요?
다음 단계
아직 AI Fluency Framework & Foundations 과정을 수강하지 않았다면, 그것이 자연스러운 다음 단계입니다. 이 과정은 이번 과정이 기계 측면의 맥락을 제공한 인간 역량에 대해 깊이 다룹니다. 그리고 계속해서 경계를 시험해 보세요: 속성은 안정적으로 유지되지만, 그 경계선이 어디에 위치하는지는 모델이 발전함에 따라 계속 변화할 것입니다.