역량과 한계
역량과 한계 · 7분
이 영상에서는 현시점에서 생성형 AI가 효과적으로 수행할 수 있는 일과 수행하기 어려운 일을 살펴봅니다. 언어 작업 전반에서 생성형 AI가 얼마나 다양하게 활용될 수 있는지, 대화 흐름을 유지하는 능력, 그리고 추가 학습 없이 여러 작업으로 전환해 수행할 수 있는 능력을 중점적으로 다룹니다. 또한 지식 기준일, 할루시네이션(사실과 다른 부정확한 출력), 컨텍스트 윈도우의 제약, 복잡한 추론의 어려움 등 생성형 AI가 지닌 한계도 살펴봅니다. 이 분야가 빠르게 발전하고 있다는 점을 강조하며, 가장 효과적인 활용 방식은 인간과 AI가 함께 일하면서 서로의 보완적인 강점을 결합하는 것이라고 설명합니다.
한국어 대본
- 00:00이제 생성형 AI가 무엇을 할 수 있고 무엇을 할 수 없는지, Claude와 같은 대규모 언어 모델에 초점을 맞춰 살펴보겠습니다.
- 00:18이것은 새로운 동료를 알아가는 과정이라고 생각하세요. 그들의 강점과 한계를 이해하면 더 효과적으로 협업할 수 있습니다.
- 00:25먼저, 이러한 시스템이 놀랍도록 잘하는 것에 초점을 맞춰 보겠습니다.
- 00:30현대 언어 모델이 얼마나 다재다능한지 놀라실 수도 있습니다.
- 00:33그들은 불과 몇 년 전만 해도 불가능해 보였던 방식으로 언어에 능숙합니다.
- 00:39자신의 목소리를 담은 이메일 작성, 긴 보고서를 명확한 요약으로 압축,
- 00:45언어 간 번역, 그리고 수많은 분야에 걸친 복잡한 주제 설명
- 00:51미생물학부터 마케팅 전략까지.
- 00:54특히 주목할 만한 점은 이러한 모델이 서로 다른 작업 사이를 전환할 수 있다는 점이며
- 00:58추가 훈련 없이도 말입니다.
- 01:01시를 쓰는 데 도움을 주는
- 01:04또는 생일 파티 아이디어를 떠올리는 데 도움을 주는 바로 그 시스템은
- 01:07돌아서서
- 01:10양자 컴퓨팅 개념을 이해하도록
- 01:12또는 분기별 비즈니스 동향을 분석하도록
- 01:15도와줄 수 있으며, 이 모든 것을 간단한 대화를 통해 말이죠.
- 01:18이러한 모델은 대화의 흐름을 유지할 수도 있으며,
- 01:23앞서 논의한 내용을 기억하고
- 01:25그 위에 더해 나갈 수 있습니다.
- 01:27예를 들어 프로젝트 마감일을 지나가는 말로 언급하고, 나중에 대화 중에 그 내용을 다시 언급하면, AI는 일반적으로 인간 대화 상대처럼 무슨 말을 하는지 이해합니다.
- 01:40많은 현대 대규모 언어 모델은 이제 외부 도구와 정보 소스에 연결하여 자신의 지식 범위를 넘어설 수 있으며, 이를 통해 웹을 검색하고, 파일을 처리하고, 심지어 다른 애플리케이션을 사용하여 기능을 향상시킬 수 있습니다.
- 01:54이로써 그들이 도움을 줄 수 있는 범위가 극적으로 확장됩니다.
- 01:57하지만 다른 기술과 마찬가지로, 오늘날 존재하는 대규모 언어 모델에도 특정한 한계가 있습니다.
- 02:04첫째, AI 모델은 훈련 데이터에 의해 제한됩니다.
- 02:08대규모 언어 모델은 훈련 시점에 기반한 지식 컷오프 날짜, 즉 그 이후로는 세상에 대한 내재적 지식이 없는 시점이 있습니다.
- 02:17예를 들어, 지식 기준일이 2024년 11월인 모델은 2024년 11월 이후의 데이터로 학습되지 않았음을 의미합니다.
- 02:25특정 날짜에 인터넷 접속이 없는 곳으로 들어간 사람을 상상해 보세요.
- 02:30그들은 떠난 후에 일어난 사건들에 대해 알지 못할 것입니다.
- 02:34모델은 최근 발전에 대해 더 많이 알기 위해 웹 검색과 같은 도구가 필요합니다.
- 02:39또한, 학습 과정은 학습 데이터의 모든 사실을 검증하지 않습니다.
- 02:44이는 모델이 학습 데이터에 있던 부정확한 내용을 때때로 학습하고 재현할 수 있음을 의미합니다.
- 02:50데이터. 또한 배운 정보를 조합하려 할 때 실수를 할 수도 있습니다.
- 02:55이것은 종종 환각이라고 불리는 현상으로 이어집니다. AI가 그럴듯하게 들리는 무언가를 자신 있게 말하는 것
- 03:03그럴듯하지만 실제로는 틀린. 검색 엔진과 달리 단순히 기존 문서를 검색하는,
- 03:10LLM은 통계적 패턴에 기반하여 응답을 생성하며, 때때로 환각을 만들어 냅니다.
- 03:16절대적인 확신을 가지고 이야기를 하는 친구를 상상해 보세요. 그런데 그 세부 사항이 완전히
- 03:22틀린.
- 03:23AI도 때때로 그럴 수 있습니다.
- 03:25또 다른 중요한 제약은 앞서 언급한 컨텍스트 창입니다.
- 03:29다시 말하자면, 그것은 AI가 한 번에 처리할 수 있는 정보의 양입니다.
- 03:34모든 LLM은 단일
- 03:38상호작용 중에 고려할 수 있는 정보의 양에 최대 한도가 있습니다.
- 03:39이 한도를 초과하면 AI는 창 밖에 있는 정보를 기억하지 못할 것입니다
- 03:44창.
- 03:45선입선출 방식으로 처리됩니다. 모델의 크기에 따라 이는 능력을 제한할 수 있습니다
- 03:51대규모 문서를 처리하거나 전체 대화를 기억하는. 게다가 전통적인
- 03:56동일한 입력에 대해 동일한 출력을 생성하는 소프트웨어와 달리 LLM은 다소 예측 불가능합니다
- 04:02기본적으로, 비결정적이라고도 합니다. 같은 질문을 두 번 하면 여러분은 얻을 수도 있습니다
- 04:09매번 약간 다른 응답을. 이러한 변동성은 이러한
- 04:14모델이 텍스트를 생성하는 방식에서 비롯됩니다. 그들은 다음에 어떤 텍스트가 와야 하는지에 대해 확률적 결정을 내리고 있습니다.
- 04:20훈련 데이터의 패턴과 개발자가 조정할 수 있는 특정 설정에 기반합니다.
- 04:26이러한 창의적 변동성은 브레인스토밍과 다양한 아이디어 생성에 유용할 수 있습니다,
- 04:30하지만 일관성이나 정확성이 중요할 때는 인식이 필요합니다. 일부 LLM 인터페이스는 또한
- 04:38필요할 때 이 무작위성을 제어하는 설정을 제공합니다. 이 설정은 종종
- 04:44온도라고 합니다. 또한 이러한 모델은 빠르게 개선되고 있지만, 역사적으로는
- 04:50복잡한 추론 작업, 특히 수학적이거나 논리적인
- 04:55여러 단계가 필요한 문제에서 한계를 보여 왔습니다. 좋은 소식은 새로운 추론 또는 확장된 사고 모델이
- 05:02단계별로 생각하도록 특별히 설계되어, 이러한 영역에서 큰 진전을 보이고 있습니다.
- 05:08마지막으로, Claude와 같은 모델은 이제 외부 도구에 접근할 수 있지만, 특정 작업에 필요한 특정 데이터 소스나 전문 도구에는 여전히 접근하지 못할 수 있습니다.
- 05:20회사 내부 데이터베이스에 접근할 수 없는 뛰어난 동료가 있는 것과 같습니다.
- 05:25아무리 똑똑하더라도 도움을 줄 수 있는 능력은 제한적일 것입니다.
- 05:29모델이 질문에 답하는 데 필요한 데이터나 도구에 접근할 수 없다면, 그 질문에 답하는 데 도움을 줄 수 없다는 것은 놀라운 일이 아닙니다.
- 05:39생성형 AI 분야는 빠르게 진화하고 있습니다. 연구자들은 모델을 외부 지식 및 데이터 소스에 연결하는 검색 증강 생성과 같은 기술을 통해 현재의 한계를 해결하기 위해 노력하고 있으며, 도구 사용 능력을 확장하고 추론 능력을 개선하는 데에도 힘쓰고 있습니다.
- 06:00그렇긴 하지만, 일부 한계는 가까운 미래에도 남아 있을 가능성이 높습니다. 정확히 어떤 한계일지 알 수 없더라도 말입니다.
- 06:09AI가 무엇을 할 수 있고 할 수 없는지 이해하는 것은 AI Fluency에 필수적이며, 이러한 시스템을 업무와 일상생활에 가장 효과적으로 통합할 시기와 방법을 결정하는 데 도움이 됩니다.
- 06:20가장 효과적인 애플리케이션은 인간과 AI의 상호 보완적 강점을 활용할 것입니다.
- 06:26우리는 AI가 재현하기 어려워할 수 있는 비판적 사고, 판단력, 창의성, 윤리적 감독을 제공합니다,
- 06:32반면 AI는 속도, 규모, 패턴 인식, 방대한 양의 정보를 처리하는 능력을 제공합니다.
- 06:39이러한 상호 보완적 강점은 기술이 진화함에 따라 함께 진화할 것입니다.
- 06:43그렇기 때문에 지속적인 학습과 실험이 매우 가치 있는 것입니다.
- 06:47이러한 변화를 따라잡고 새로운 가능성을 발견하는 데 도움이 됩니다.
- 06:52이 코스 전반에 걸친 연습문제에서 Claude와의 대화를 통해 이러한 개념을 직접 탐구할 기회를 갖게 됩니다.
- 06:59이러한 직접적인 경험은 생성형 AI가 할 수 있는 일과 할 수 없는 일, 그리고 이를 가장 잘 활용하는 방법에 대한 직관적인 감각을 기르는 데 도움이 될 것입니다.
핵심 요점
- 생성형 AI는 기존 데이터를 분석하는 데 그치지 않고, 텍스트, 이미지, 코드와 같은 새로운 콘텐츠를 생성합니다.
- LLM과 같은 최신 시스템은 다음과 같은 세 가지 핵심 발전 덕분에 가능해졌습니다:
- 알고리즘 및 아키텍처의 혁신, 특히 트랜스포머 아키텍처
- 방대한 양의 디지털 학습 데이터
- 컴퓨팅 성능의 급격한 향상
- 생성형 AI는 두 단계로 학습합니다. 사전 학습은 수십억 개의 예시에서 패턴을 분석하는 과정이고, 파인튜닝은 지시를 따르고 유용한 응답을 제공하는 방법을 학습하는 과정입니다.
- 현재 생성형 AI의 역량에는 다양한 작업에 활용될 수 있는 유연성, 대화 맥락을 인식하는 능력, 외부 도구와 연결할 수 있는 능력이 포함됩니다.
- 현재의 한계에는 지식 기준일, 할루시네이션 가능성, 컨텍스트 윈도우의 제약, 복잡한 추론의 어려움이 포함됩니다.
- 가장 효과적인 활용 방식은 인간과 AI의 강점을 결합하는 것입니다. 이때 인간은 비판적 사고, 판단력, 창의성, 윤리적 감독을 제공합니다.
실습
성찰
다음 단계로 넘어가기 전에 잠시 생각해 보세요:
- 학습 데이터, 사전 학습, 파인튜닝과 같은 생성형 AI의 기술적 기반을 이해하면, 이러한 시스템과 함께 일하는 방식에 대한 생각이 어떻게 달라지나요?
- 이러한 시스템의 작동 방식과 현재의 한계를 학습한 후, 어떤 윤리적 고려 사항을 생각해 볼 수 있을까요?
다음 단계
다음 레슨에서는 4D 역량 중 첫 번째를 더 자세히 살펴봅니다: 위임. 목표와 AI의 역량을 모두 이해하는 것을 바탕으로, 본인과 AI 사이에서 작업을 어떻게 나눌지 전략적으로 결정하는 방법을 배우게 됩니다. 이러한 기초를 통해 창의적 작업과 문제 해결 프로세스에 AI를 언제, 어떻게 도입할지 신중하게 결정할 수 있습니다.