Claude Academy
로그인

조종 가능성

강의 1025분
이 레슨에서이 레슨을 마치면
  • 조종 가능성이 작동하는 이유(미세 조정을 통해 모델이 지시를 따르도록 학습됨)와 그 한계(지시는 이해가 아닌 패턴 매칭을 통해 따라짐)를 설명합니다
  • 제어가 가장 엄격한 경우(짧고 구체적이며 검증 가능한 지시)와 가장 느슨한 경우(긴 추론 체인, 추상적인 요청, 고유한 정밀도가 필요한 작업)를 예측합니다
  • 추론 표류, 문구 대 취지, 취약한 산술 연산을 조종 가능성의 특징적인 실패로 식별합니다
  • 시스템 프롬프트, 코드 실행, 가시적 추론, 구조화된 출력을 이러한 한계를 해결하는 제품 기능으로 인식합니다
Sign in to save your progressYou can keep reading without an account, but completed lessons won't be saved.
Sign in

조종 가능성이 생성형 AI 출력에 미치는 영향

조종 가능성 · 5분

요약대본

모델은 다른 모든 것을 처리하는 것과 동일한 방식으로 지시를 따릅니다: 패턴을 이어가는 방식입니다. 이는 모델을 놀랍도록 조종 가능하게 만듭니다. 또한 의도한 것과 실제로 전달된 것 사이에는 항상 간극이 존재하며, 흥미로운 실패의 대부분은 바로 그 간극에서 발생한다는 것을 의미합니다.

Watch on YouTube

실제로 얼마나 제어하고 있나요?

읽기 전에

AI에게 정확히 100단어로 작성, 그 이상은 안 됨를 요청합니다. 결과를 얼마나 꼼꼼히 확인해야 할까요? 연속선 위에서 지점을 선택한 다음 추측을 확정하세요.

조종 가능성

내가 얼마나 통제할 수 있을까요?

역량한계

지점을 선택한 다음 추측을 확정하세요. 그러면 레슨이 열립니다.

핵심 요약

  • **조종 가능성(Steerability)**은 모델이 다음 토큰 예측(Next Token Prediction)을 통해 지시를 따른다는 것을 의미합니다.
    • 역량 영역(Capability zone): 짧고 구체적이며 검증 가능한 지시. 형식 사양, 길이 제한, 명시적 역할.
    • 한계 영역(Limitation zone): 긴 추론 체인, 추상적이거나 모호한 지시, 고유한 수치적 또는 논리적 정밀도가 필요한 모든 것.
    • 특징적인 실패: 추론 표류(작은 오류가 누적됨)와 문구 대 취지(지시는 지켰지만 의도는 지키지 못함).
    • 시스템 프롬프트, 코드 실행, 가시적 추론, 구조화된 출력 모드는 여러분의 의도가 희석되지 않도록 존재합니다.
    • 지시가 문자 그대로 따라졌지만 쓸모없을 때는 목표를 다시 진술하세요. 지시를 더 강하게 반복해도 간극은 좁혀지지 않습니다.
  • 4D 연결: 조종 가능성은 Description을 강력하게 만드는 동시에 그것을 제한하는 요소입니다. 말과 의도 사이의 간극을 이해하면 프롬프트를 작성하는 방식과 체크포인트를 삽입하는 위치가 달라집니다.

연습

목표 재작성

왜 중요할까요? 말하는 것과 의미하는 것 사이의 간극이 바로 대부분의 조종 가능성 실패가 발생하는 곳입니다. 이 연습은 지시가 아니라 의도로부터 프롬프트를 작성하는 법을 가르쳐줍니다.

Lesson 1 목록에서 여러 단계 또는 특정 출력 형식이 포함된 작업을 하나 선택하세요. 목표를 한 문장으로 적어보세요: 출력이 어떤 모습이어야 하는지가 아니라, 실제로 달성하고자 하는 것이 무엇인지를 적으세요. ("이 일정이 현실적이라고 팀을 설득하기"는 목표입니다. "세 개의 글머리 기호"는 형식입니다.)

이제 세 가지 테스트를 실행해 보세요:

  1. 테스트 1: 엄격한 제어. 작업과 관련된 짧고 구체적이며 검증 가능한 지시를 내려보세요: "세 개의 열로 구성된 표로 응답하기," "정확히 다섯 개의 글머리 기호," "전체를 2인칭으로 작성하기." 정확히 지켜졌는지 확인하세요. 이것이 역량 영역입니다: 지시가 완벽하게 패턴 매칭될 만큼 단순합니다.
  2. 테스트 2: 추론 표류. 4~5개의 의존적인 단계가 필요한 작업 버전을 요청하세요. 출력을 단계별로 검토하세요. 초반의 작은 오류가 끝까지 이어졌나요? 이번에는 다시 시도하되, AI에게 계속하기 전에 2단계의 결과를 멈추고 보여달라고 요청하세요. 체크포인트를 삽입했을 때와 그냥 실행하게 했을 때의 결과를 비교하세요.
  3. 테스트 3: 문구 대 취지. 문자 그대로는 충족될 수 있지만 쓸모없는 지시를 내려보세요. 실제 문제가 구조에 있는 초안에 "더 짧게 만들어줘"라고 요청하기. 실제 문제가 요청 사항을 파묻고 있는 이메일에 "더 전문적으로 만들어줘"라고 요청하기. 결과를 확인하세요. 그런 다음 지시와 함께 목표를 명시적으로 진술하여 다시 프롬프트하세요: "더 짧게 만들어줘. 내 목표는 2페이지의 핵심 발견까지 경영진의 주의를 유지하는 것이야." 결과를 비교하세요.

작업 목록으로 돌아가세요. 여러 단계로 이루어진 작업의 경우, 체크포인트를 삽입할 위치를 적어두세요. 형식만으로 프롬프트를 작성해왔던 작업의 경우, 다음에 추가할 목표 진술을 작성해 보세요.

레슨 되돌아보기

  • 목표는 말하지 않고 형식만 말한 적이 얼마나 자주 있었나요? 둘 다 포함하면 무엇이 달라지나요?
  • 이번 주부터 중간 체크포인트를 추가할 반복적인 작업은 무엇인가요?

다음 단계

이제 네 가지 속성을 모두 개별적으로 살펴보았습니다. 다음 레슨에서는 이들이 어떻게 상호작용하는지 살펴볼 것입니다. 실제 세계의 실패 대부분은 두 속성이 만나는 지점에서 발생하기 때문입니다.