AI 역량과 한계 과정에 오신 것을 환영합니다
AI 역량과 한계 소개 · 4 min
요약대본
4D 프레임워크는 여러분에게 AI와 협업하는 방법을 가르칩니다. 이 과정은 AI가 여러분과 함께 작업할 수 있는 방법을 가르칩니다. 이 둘은 함께 하나의 시스템을 이룹니다: 한쪽에는 인간의 역량이, 다른 쪽에는 기계의 속성이 있습니다.
한국어 대본
- 00:00안녕하세요, 저는 크리스틴이고 Anthropic의 교육 팀에서 일하고 있습니다.
- 00:12AI의 기능과 한계에 오신 것을 환영합니다.
- 00:15AI Fluency 프레임워크와 기초 코스를 수강하셨다면,
- 00:18이미 네 가지 D, 즉 위임, 설명, 판별력, 성실에 대해 알고 계실 것입니다.
- 00:23이것들은 인간의 역량입니다. AI와 협업할 때 여러분이 하는 일입니다.
- 00:28이 코스는 그에 짝이 되는 과정입니다. 인간이 AI에 프롬프트를 입력할 때 기계가 무엇을 하는지, 그리고
- 00:33그 이유에 대해 다룹니다. AI 출력이 실제로 어디서 오는지에 대한 실용적인 정신 모델을 구축하도록 도와드리겠습니다.
- 00:40중요하게도, 이 코스는 AI가 어떻게 만들어지는지에 초점을 맞추므로 AI 모델과 제품이 변하더라도
- 00:45유용하고 관련성을 유지할 것입니다.
- 00:51모델이 강한 부분과 약한 부분을 알지 못하면 AI에 작업을 위임할 수 없습니다.
- 00:56출력이 어떻게 생성되었는지, 무엇을 주의해야 하는지에 대한 그림 없이는 AI의 출력 품질을 판별할 수 없습니다.
- 01:01이 코스에서 배우는 모든 것은 네 가지 D를 통해 실행 가능합니다.
- 01:06AI가 예측 엔진이라는 것을 이해하면 작업을 설명하는 방식이 바뀝니다.
- 01:12컨텍스트 창을 이해하면 긴 작업을 위임하는 방식이 바뀝니다. 두 프레임워크는 서로 맞물립니다.
- 01:18이 코스의 로드맵은 다음과 같습니다. 먼저 AI에 성격을 부여하는 두 가지 훈련 단계와
- 01:26각 단계가 완성된 시스템에 남기는 지문을 살펴보겠습니다.
- 01:30사전 훈련과 미세 조정입니다. 사전 훈련은 문서 완성기를 만들고 미세 조정은 AI를
- 01:37어시스턴트로 만듭니다. 두 단계 모두 모델이 왜 그렇게 행동하는지 이해하는 데 중요합니다.
- 01:42그런 다음 생성형 AI의 네 가지 핵심 속성인 다음 토큰 예측, 지식,
- 01:49작업 기억, 조종 가능성을 다루겠습니다. 각 속성은 연속선입니다. 여러분은 작업이 각 속성의 연속선에서
- 01:56어디에 해당하는지 평가하는 방법을 배우게 됩니다.
- 01:59역량 영역에 있는지, 아니면 가장자리로 흘러가는지 말입니다.
- 02:02마지막으로 모든 것이 어떻게 서로 연결되는지 살펴보겠습니다.
- 02:06AI의 실제 실패 사례 대부분은 두 속성이 만나는 지점에서 발생합니다.
- 02:09환각 인용은 다음 토큰 예측이 지식 격차와 만나는 경우입니다.
- 02:14긴 대화에서의 주제 이탈은 작업 기억과 조종 가능성이 만나는 지점입니다.
- 02:18그 조합을 정확히 짚어낼 수 있다면, 왜 그런 일이 일어나는지와 어떻게 대처해야 하는지 알 수 있습니다.
- 02:26모델은 계속 변할 것입니다.
- 02:27컨텍스트 창은 커집니다.
- 02:29환각 발생률은 낮아집니다.
- 02:30새 기능이 매달 출시됩니다.
- 02:32세부 사항은 끊임없이 바뀝니다.
- 02:34하지만 이러한 속성들의 형태는 여전히 유용합니다.
- 02:37NextTokenPrediction은 여전히 NextTokenPrediction일 것입니다
- 02:391년 후에도.
- 02:40지식 컷오프는 바뀔 수 있지만, 여전히 존재할 것입니다.
- 02:44컨텍스트 창은 더 커질 수 있지만,
- 02:46하지만 여전히 한계가 있을 것입니다.
- 02:48여기서 구축하는 것은 오래 지속되는 정신 모델입니다,
- 02:50매일의 제품 업데이트와 모델 출시에도 살아남는 모델입니다.
- 02:56모든 코스와 마찬가지로, 작업을 수행하는 사람이 배움을 얻습니다.
- 03:00이 코스에서 최대한 얻어가려면, 연습문제를 푸는 데 시간을 투자하세요.
- 03:04배움은 연습문제에서 이루어집니다.
- 03:07자신이 전문가인 분야에서 자신의 작업을 통해 각 속성을 테스트하도록 설계했습니다.
- 03:12그것은 의도적입니다. 실제로 무언가 잘못되었는지 알 수 있는 상황을 탐색해야 합니다.
- 03:18그러니 실제 작업을 가져오고, 실제 프롬프트를 실행하세요.
- 03:21작업 기억을 다룰 때는 실제 긴 문서를 불러오세요.
- 03:24다음 토큰 예측을 다룰 때는 실제 전문 주제에 대해 물어보세요.
- 03:28목표는 느낄 수 있는 감각이지, 외우는 용어 목록이 아닙니다.
- 03:33좋습니다. 저와 우리 팀과 함께 이 학습 여정을 함께하게 되어 기쁩니다.
- 03:37함께 AI가 어떻게 작동하는지, 그리고 AI를 활용해 사고와 작업을 향상시킬 수 있는지 알아보겠습니다.
기계에 대한 멘탈 모델
핵심 요약
- **AI 유창성 프레임워크(4D)**는 인간의 역량을 설명합니다. 이 과정은 그러한 역량이 반응하는 기계의 속성을 설명합니다.
- 생성형 AI는 네 가지 핵심 속성을 가집니다: 다음 토큰 예측, 지식, 작업 메모리, 조정 가능성입니다.
- 이 자료는 지속적으로 유효합니다. 모델이 개선되더라도 속성은 안정적으로 유지되기 때문입니다. 경계는 변하지만 속성 자체는 동일하게 유지됩니다.
연습 문제
현재 AI 사용 현황 매핑하기
왜 필요한가요? 이것은 이 과정에서 이어지는 모든 연습의 기초가 됩니다.
- 지난 2주 동안 실제로 AI를 사용한 작업 4~6개를 나열하세요. 아직 AI를 많이 사용해보지 않았다면, 사용해보고 싶은 작업을 나열하세요. 구체적으로 작성하세요: "프로젝트 지연을 설명하는 고객 이메일을 작성했다"는 무언가를 알려줍니다. "글쓰기"는 그렇지 않습니다.
- 각 작업에 대해 한 줄로 기록하세요: 결과물이 첫 시도에서 바로 사용 가능했나요, 아니면 사용하기 전에 다시 작업해야 했나요? 너무 깊이 생각하지 마세요. 빠른 직감 체크로 충분합니다.
- 이제 목록을 Claude(또는 다른 AI 어시스턴트)와 공유하고 물어보세요: "이 작업들 각각에 대해, 제가 주의를 기울이지 않으면 어떤 식으로 잘못될 수 있을까요?" AI가 언급하는 실패 양상이 공감이 되는지 확인해보세요. 그렇지 않다면 반박해보세요: "그건 제 경험과 맞지 않아요. 실제로 잘못된 점은..."
이 목록을 보관해두세요. 이 과정의 모든 레슨에서 다시 이 목록으로 돌아올 것이며, 매번 다르게 보일 것입니다.
레슨 되돌아보기
- 나열한 작업 중 AI에게 맡기기에 "안전하다"고 느낀 것은 무엇이고, "위험하다"고 느낀 것은 무엇인가요? 아직 그 이유를 설명할 수 있나요?
- 당시에는 설명할 수 없었던, 여러분이 알아챈 AI의 행동(좋든 나쁘든) 한 가지는 무엇인가요?
다음 단계
네 가지 속성을 다루기 전에, 이 과정에서 "AI"가 의미하는 바의 경계를 먼저 그려야 합니다. 우리는 구체적으로 생성형 AI와 그것이 다른 형태의 AI와 어떻게 다른지에 대해 이야기하고 있습니다.