생성형 AI가 의미하는 것
AI가 의미하는 것 · 4분
요약대본
세상에 존재하는 대부분의 AI(스팸 필터, 추천, 사기 탐지)는 생성형이 아닙니다. 이 과정은 생성형 AI, 즉 한 번에 하나의 토큰씩 새로운 콘텐츠를 생성하는 트랜스포머 기반 텍스트 모델을 다룹니다.
한국어 대본
- 00:00더 나아가기 전에,
- 00:09AI가 무엇을 의미하는지 분명히 합시다.
- 00:12왜냐하면 AI는 실제로 다양한 것들을 뜻하는 광범위한 용어이기 때문입니다.
- 00:16다음 동영상을 추천하는 추천 엔진,
- 00:19받은 편지함의 스팸 필터,
- 00:21카드의 의심스러운 결제를 감지하는 사기 탐지 모델,
- 00:24고객 서비스 전화를 연결하는 시스템,
- 00:27이 모든 것이 AI입니다. 그러나 그중 어느 것도 생성형이 아닙니다. 이러한 시스템은 정렬하고, 순위를 매기고, 분류하고, 예측합니다.
- 00:35그것들은 매우 유용하며, 삶의 배경에서 끊임없이 작동하고 있습니다.
- 00:39또한 이것들은 이 시리즈가 다루는 내용이 아닙니다.
- 00:45최근 변화한 것은 생성형 AI의 부상입니다.
- 00:48이들은 기존 콘텐츠를 분류하는 대신 새로운 콘텐츠를 생성하는 시스템입니다.
- 00:54텍스트, 이미지, 코드, 오디오, 비디오.
- 00:57생성형 AI는 두 단계를 거쳐 만들어집니다.
- 01:00첫째, 방대한 양의 데이터로 패턴을 학습하도록 훈련됩니다.
- 01:04이것이 사전 학습입니다.
- 01:05그런 다음 전반적으로 안전하고 윤리적이며 유용하도록 정제됩니다.
- 01:08이것이 미세 조정입니다.
- 01:09다음 레슨에서 이에 대해 더 자세히 배우게 됩니다.
- 01:14생성형 AI는 본질적으로 예측 시스템입니다.
- 01:18AI는 균일하게 유능하지도 않고 균일하게 신뢰할 수 없지도 않습니다.
- 01:22AI는 특정하고 예측 가능한 축을 따라 강하고 약합니다.
- 01:26그리고 대부분의 경우, 강점과 약점은 기계의 동일한 근본 속성에서 비롯됩니다.
- 01:32AI는 예측 엔진이기 때문에 설득력 있게 글을 쓸 수 있습니다.
- 01:36또한 예측 엔진이기 때문에 환각을 일으킵니다.
- 01:39한쪽 끝에는 기능 영역이 있습니다. 다른 쪽 끝에는 한계 영역이 있습니다.
- 01:43메커니즘 자체는 항상 같은 방식으로 작동합니다.
- 01:46달라지는 것은 특정 작업이 그 선 위 어디에 놓이는지입니다.
- 01:51이 시리즈에서 기르는 기술은 그 경계가 어디인지 감지하는 법을 배우는 것입니다.
- 01:59이 코스에서 배우게 될 생성형 AI의 네 가지 속성을 간단히 살펴보겠습니다.
- 02:05다음은 토큰 예측입니다. 답은 실제로 어디에서 오는 것입니까? 활성화하거나
- 02:10외부 소스를 사용하도록 지시하지 않는 한, 모델은 찾아보는 것이 아닙니다. 그것은 이어질 내용을 쓰고 있습니다.
- 02:15훈련된 내용에 기반하여 한 번에 한 조각씩. 지식. 모델은 실제로 무엇을
- 02:20알고 있습니까? 그 지식은 광범위하지만 고르지 않고, 훈련 기준 시점에 고정되어 있으며, 그 형태는
- 02:26학습한 데이터에 포함된 내용에 의해 결정되었습니다. 작업 기억. 모델은 지금 무엇에 주의를 기울이고
- 02:32있습니까? 인간과 마찬가지로 모델도 무한한 기억을 가지고 있지 않습니다. 컨텍스트 창에 있는 것이
- 02:38AI가 사용할 수 있는 것입니다. 조종 가능성. 얼마나 통제하고 있습니까? 이러한 시스템은
- 02:44놀랍도록 조종이 쉽지만, 의도한 것과 실제로 전달된 것 사이에 차이가 있을 수 있습니다.
- 02:49이러한 각 속성과 그것을 아는 것이 AI를 사용할 때 좋은 결정을 내리는 데 어떻게 도움이 되는지 깊이 살펴보겠습니다.
- 02:56여기서의 목표는 AI를 불신하게 만드는 것이 아닙니다.
- 02:59또한 모든 작업을 완전히 위임하게 만드는 것도 아닙니다.
- 03:02그것은 보정된 신뢰이며, 신뢰를 전적으로 부여하지도 않고 전적으로 보류하지도 않습니다.
- 03:07이 코스를 마치면 다음을 물을 수 있습니다.
- 03:10내 작업은 생성형 AI의 각 속성에 대해 연속선 위 어디에 놓입니까?
- 03:14이것은 익숙한 영역입니까, 아니면 제가 가장자리 근처에 있습니까?
- 03:17가장자리. 제가 틀렸다면 위험은 무엇입니까? 이 모델을 사용하면 생성형 AI의 동작은
- 03:22예측 가능하게 느껴지기 시작하며, 그것이 통제력을 갖게 해줍니다.
기계에 대한 사고 모델 구축
AI 역량 및 한계 프레임워크
AI가 여러분을 위해 할 수 있는 것과 할 수 없는 것을 결정하는 네 가지 속성입니다. 각 속성은 스펙트럼 위에 있으며 — 오른쪽으로 갈수록 더 많이 검증하고 보완해야 합니다.
역량한계
다음 토큰 예측AI의 답변은 어디에서 나오는가?
잘 다져진 경로: 요약, 재구성, 일반적인 개념 설명새로운 영역, 희소한 패턴, "사실 여부 vs. 그럴듯함"
지식AI가 실제로 알고 있는 것은 무엇인가?
빈번하고, 학습 시점에 가깝고, 일관된 것: 주류 주제, 인기 있는 언어희귀하거나, 학습 마감 이후이거나, 틈새이거나, 지역적이거나, 논쟁적인 주제
작업 메모리AI가 지금 주의를 기울이고 있는 것은 무엇인가?
자료가 편안하게 들어맞고, 세션이 최신이며, 관련 컨텍스트를 제공하는 경우매우 긴 문서/대화, 세션 간 연속성을 기대하는 경우 (절벽 현상)
조종 가능성내가 얼마나 통제하고 있는가?
짧고, 구체적이며, 검증 가능한 지시 ("표로 응답하세요", "100단어 이내로")긴 추론 체인, 추상적인 요청, 원어민 수준의 정밀함
핵심 요약
- 생성형 AI는 기존 콘텐츠를 분류하는 대신 새로운 콘텐츠를 생성합니다.
- AI는 균일하게 능력이 있거나 균일하게 신뢰할 수 없는 것이 아닙니다. AI는 다음 토큰 예측, 지식, 작업 메모리, 조정 가능성이라는 네 가지 예측 가능한 축을 따라 강점과 약점을 가지고 있습니다.
- 각 속성은 연속선상에 있습니다. 동일한 메커니즘이 능력과 한계를 동시에 제공합니다.
- 보정된 신뢰란 신뢰를 전면적으로 부여하거나 보류하는 것이 아니라, 작업을 연속선상의 어디에 위치시킬지 파악하는 것을 의미합니다.
연습
생성형인가 아닌가?
왜 중요할까요? 방금 생성형 AI가 스팸을 필터링하고 다음 동영상을 추천하는 AI와 근본적으로 다르다는 것을 배웠습니다. 이제 그 구분을 자신의 경험에 적용해 볼 것입니다.
- 이번 주에 상호작용한 AI 기반 기능 다섯 가지를 나열하세요. 자동완성, 사진 태깅, 스팸 필터링, 챗봇 답변, 번역, 제품 추천, 음성 비서 등 폭넓게 생각해 보세요.
- 각 항목에 대해 자신의 판단을 적어보세요. 새로운 콘텐츠를 생성하는 것인가요, 아니면 기존 콘텐츠를 정렬, 순위화, 분류하는 것인가요?
- 목록을 AI와 공유하고 자신의 판단을 확인해 달라고 요청하세요. 틀렸거나 확신이 없었던 항목에 대해서는 한 문장으로 그 구분을 설명해 달라고 요청하세요. 그런 다음 이렇게 물어보세요: "이 다섯 가지 중 이 과정이 이해하는 데 도움을 줄 실패 모드를 가질 가능성이 가장 높은 것은 무엇인가요?"
- 레슨 1의 작업 목록으로 돌아가세요. 각 작업에 대해 지금 가장 관련성이 높다고 느껴지는 속성 질문으로 태그를 지정하세요:
- 답은 어디에서 나오는가? (다음 토큰 예측)
- 무엇을 알고 있는가? (지식)
- 무엇에 주의를 기울이고 있는가? (작업 메모리)
- 내가 얼마나 통제하고 있는가? (조정 가능성)
정답을 맞힐 것으로 기대되지는 않습니다. 다음 네 개의 레슨에서 검증할 예측을 만들어가는 과정입니다.
레슨 돌아보기
- AI의 생성형/분류형 구분이 사용하는 도구에 대한 생각을 바꾸었나요?
- 작업 목록에 태그를 지정한 방식을 살펴보세요. 어떤 작업이 하나 이상의 속성에 속할 수 있다고 느껴졌나요?
다음 단계
네 가지 속성을 깊이 살펴보기 전에, AI 시스템이 어떻게 성격을 갖게 되는지에 대해 한 레슨을 할애할 것입니다. 왜 정중하고, 도움이 되고, 정직한지, 왜 때때로 너무 쉽게 동의하는지, 왜 특정 사항을 거부하는지에 대해서요. 이러한 형성 과정은 이후 모든 것에 흔적을 남깁니다.