실습 연습이 포함된 심층 학습을 원하시나요? 전체 AI Capabilities & Limitations(opens in new tab) 과정을 수강해 보세요.
다음 토큰 예측
생성형 AI는 무엇이 무엇 다음에 오는 경향이 있는지를 기반으로 한 단어씩 답변을 작성합니다. 이는 매우 정교한 자동완성이지, 검색 엔진이 아닙니다.
이것이 가능하게 하는 것
- 어떤 스타일로든 유창하고 자연스러운 텍스트
- 방대한 자료에 대한 빠른 종합
- 학습 데이터와 유사한 작업에서의 뛰어난 성능
특징적으로 실패하는 지점
- 환각 — 그럴듯함이 곧 사실은 아닙니다
- 작화(confabulation)는 이름, 날짜, 인용, 통계, URL 같은 세부 사항에 집중됩니다
- 잘못된 확신 — 매끄러운 문장이 추측을 감싸고 있습니다
한계를 밀어내는 Claude 기능
지식
모델이 알고 있는 것은 전적으로 학습 데이터에서 비롯되며, 지식 컷오프 시점에 고정됩니다 — 즉, 모델이 읽은 내용과 읽기를 멈춘 시점입니다.
이것이 가능하게 하는 것
- 놀라울 정도로 폭넓은 일반 지식
- 잘 다루어진 영역에서의 깊은 역량
- 분야를 넘나드는 예상치 못한 연결
특징적으로 실패하는 지점
- 지식 컷오프 및 정보 노후화 — 그때는 사실이었어도 지금은 아닐 수 있음
- 틈새, 지역, 최신 주제에 대한 고르지 못한 커버리지
- 출처 기억 상실 — "어디선가 읽었다"는 인용이 아님
한계를 밀어내는 Claude 기능
작업 메모리
모델이 주의를 기울이는 모든 것은 고정된 크기의 컨텍스트 윈도우 안에 존재합니다. 컨텍스트는 지렛대입니다 — 한계에 도달하기 전까지는요.
이것이 가능하게 하는 것
- 귀하의 문서, 데이터, 제약 조건에 대한 빠른 세션 내 적응
- 공간이 남아 있는 동안 긴 스레드 전반에 걸친 일관된 작업
- 제공된 자료에 대한 정확한 근거
특징적으로 실패하는 지점
- 엄격한 길이 제한 — 점진적이 아닌 절벽
- “중간에 묻힘” — 숨겨진 세부 정보는 주목을 덜 받습니다
- 기본적으로 지속적인 메모리가 없음; 수정 사항이 이어지지 않음
한계를 밀어내는 Claude 기능
조종 가능성
모델은 의도를 이해해서가 아니라 패턴을 이어가는 방식으로 지시를 따릅니다. 놀라울 정도로 조종 가능하지만, 당신이 의도한 것과 실제로 전달된 것 사이에는 항상 간극이 존재합니다.
이것이 가능하게 하는 것
- 형식, 스타일, 길이, 톤에 대한 정밀한 제어
- 역할 설정 및 페르소나
- 다단계 실행 및 반복적 개선
특징적으로 실패하는 지점
- 추론 드리프트 — 긴 체인에서 작은 오류가 누적됨
- 정신보다 문구 — 지시는 따르지만 의도는 놓침
- 프롬프트 인젝션 — 컨텍스트 내 다른 텍스트도 이를 조종할 수 있음
한계를 밀어내는 Claude 기능
더 깊이 알아보기
Claude Academy · 무료 과정
AI 역량과 한계 과정
전체 과정에서 실습 연습, 동영상, 실제 예시를 통해 각 속성을 하나씩 학습합니다. AI가 여러분을 놀라게 할 때 어떤 속성이 작용하고 있는지 파악하고, 이에 어떻게 대처해야 하는지 배우게 됩니다.
과정 수강하기
약 90분