윤리와 AI
윤리 및 책임 있는 AI 사용 · 10분
요약대본
이 영상은 Delegation-Diligence 루프를 살펴봅니다. 7학년 과학 교사인 Okafor 선생님이 AI를 활용해 데이터 작업을 돕고 수업을 개선하는 모습을 보게 됩니다. 검증과 학생 데이터의 신중한 처리가 AI를 책임감 있고 윤리적인 방식으로 사용하도록 보장하는 방법을 확인할 수 있습니다.
한국어 대본
- 00:00오늘은 AI로 데이터를 다루는 작업에 대해 이야기하겠습니다. 구체적으로는 AI가 분석 작업을 정확히 처리할 수 있다는 확신을 쌓는 방법,
- 00:12그러면서도 학생 정보를 보호하는 방법에 대해 다룹니다.
- 00:19학생 데이터가 어디로 가는지, 결과를 신뢰할 수 있는지 걱정되어 AI를 데이터 작업에 사용하는 것을 망설여 왔다면,
- 00:23그것은 좋은 직감입니다. AI는 훌륭한 도구이지만,
- 00:29모든 경우에 적합한 도구는 아닙니다.
- 00:35이전 모듈에서 배운 내용을 바탕으로,
- 00:36우리는 이미 위임-성실 루프가
- 00:39어떤 작업을 AI에 맡길지,
- 00:42그리고 결과에 대해 어떻게 책임을 질지
- 00:44결정하는 데 도움을 주는 역량 집합이라는 것을 알고 있습니다.
- 00:47위임은 사전에 신중하게 생각하는 것입니다.
- 00:50위임은 묻습니다. 올바른 작업은 무엇입니까, 올바른 도구는 무엇입니까,
- 00:53그리고 AI에 제공할 올바른 데이터는 무엇입니까?
- 00:55성실은 그 이후에 이루어지는 것입니다.
- 00:57성실은 묻습니다. AI가 이를 제대로 처리했습니까?
- 00:59그리고 제가 결과에 책임을 지고 있습니까? 오늘은 실제
- 01:04시나리오를 통해 이 루프의 양쪽을 모두 살펴보겠습니다. 하지만 분석을 시작하기 전에 중요한 전제 조건,
- 01:11바로 학생 데이터를 안전하게 보호하는 것에 대해 이야기해야 합니다. Ms. Okafor와 그녀의 교실로 돌아가 보겠습니다. 매 분기마다 그녀는
- 01:16벤치마크 평가 데이터를 단원 퀴즈 점수 및 출구 티켓 추세와 함께 분석합니다. 그녀는
- 01:22교시별 성장도를 계산하고, 학생들이 숙달한 성취기준과 아직
- 01:26취약한 기준을 추적하며, 숙제 완료율이 실제로 평가
- 01:31성적과 상관관계가 있는지 살펴봅니다. 이 분석에는 몇 시간이 걸리며, 보통 주말에 이루어집니다. Ms. Okafor는
- 01:38AI가 도움이 될지 시험해 보고 싶어 하지만, 학생 성적 데이터를 다루는 작업이므로 FERPA가 적용됩니다.
- 01:43부주의한 업로드는 학생 개인 식별 정보를 노출할 수 있으며, 이는
- 01:48그녀와 학생들, 그리고 교육구에 문제가 됩니다. 그래서 Ms. Okafor는 AI를 사용하기 전에 곰곰이 생각해 봅니다.
- 01:55위임과 성실을 두 가지 질문을 통해 실천합니다. 첫째, 올바른 도구를 사용하고 있습니까? 둘째, 나는
- 02:02AI에게 올바른 요청을 맡기고 있습니까? 첫째, 도구입니다. 서로 다른 AI 도구와 요금제 유형은 서로 다른
- 02:08개인정보 보호 기능을 제공합니다. 대부분의 AI 기업은 서로 다른 설정과 요금제를 가지고 있으며
- 02:13다른 데이터 보존 정책을 가지고 있습니다. 교육구에는 이미 승인된 도구 목록이 있을 가능성이 높습니다,
- 02:18그렇다면 그 목록부터 시작하세요. 둘째, 데이터입니다. 오카포 선생님은 스스로에게 묻습니다. 내가 실제로
- 02:25AI에게 무엇을 시켜야 하는지. 자신의 수업 전반에서 패턴을 찾고 있으며, 개별 학생 기록을 검토하는 것이 아닙니다.
- 02:30그녀가 필요한 통찰은 이름을 전혀 요구하지 않습니다. 그래서 그녀는 학생 이름을 제거하고, 대체합니다
- 02:35그것들을 학생 1, 학생 2와 같은 일반 ID로 대체하고, 인구통계학적 필드를 제거하며, 그리고
- 02:41IEP 상태를 나타내는 열을 삭제합니다. 그녀는 수업 시간과 기준별 점수를 유지합니다. 왜냐하면
- 02:46그것이 분석이 실제로 요구하는 것이기 때문입니다. 이제 오카포 선생님은 테스트할 준비가 되었습니다. 그리고 이것은
- 02:52핵심 위임 원칙이 등장하는 지점입니다.
- 02:54이미 이해하고 있는 데이터로 AI를 검증하세요.
- 02:57그녀는 이전 점수 벤치마크 데이터를 가지고 있습니다.
- 02:59그녀는 이미 그것을 직접 분석했습니다.
- 03:01그녀는 결과가 어떻게 보여야 하는지 정확히 알고 있습니다.
- 03:03이것이 그녀의 테스트 사례입니다.
- 03:05그녀는 비식별화된 스프레드시트를 업로드합니다.
- 03:08그리고 Claude에게 성과 패턴을 분석하도록 요청합니다
- 03:10그녀의 다섯 수업 시간에 걸쳐 그리고 그래프로 나타내도록
- 03:12출구 티켓 완료율 간의 상관관계를
- 03:15그리고 벤치마크 점수
- 03:18AI는 요약으로 응답합니다.
- 03:20이것이 정확하다고 가정하기보다는, 오카포 선생님은 자신의 기록과 대조하여 확인합니다.
- 03:25AI는 2교시와 6교시가 다른 교시보다 성과가 높다는 것과 출구 티켓
- 03:29완료율이 벤치마크 성장과 상관관계가 있다는 것을 정확히 식별했지만, 무언가를 놓쳤습니다.
- 03:344교시는 분기 중반에 3주 동안 장기 대체 교사가 있었는데, 이는
- 03:37학생들의 노력과는 무관한 이유로 그 교시의 출구 티켓 수치에 영향을 미쳤습니다.
- 03:43그래서 그녀는 프롬프트를 다듬어, AI가 대체 교사 투입 날짜를 고려하고 어떤 교시에서
- 03:50완료율이 특정 기간 동안 급격히 떨어졌는지 표시하도록 요청합니다. 이번에는 AI가 그것을 발견하고 해석을
- 03:56조정합니다. 오카포 선생님은 향후 분기에는 이 분석을 위임할 때 일정 중단에 대한
- 04:01컨텍스트를 포함해야 한다고 기록합니다. 오카포 선생님이 방금 한 일은
- 04:07실제로 위임-성실 루프의 핵심입니다. 그녀는 자신의 인간적 판단과 자신의
- 04:12교실에 대한 지식을 사용하여 체계적으로 AI의 기능을 자신이 필요로 하는 것에 맞게 구축했습니다. 이것이 효과가 있는 이유는
- 04:17간단합니다. AI를 이미 답을 알고 있는 데이터로 검증하면 세 가지를
- 04:23배우게 됩니다. 첫째, AI가 추가 지침 없이도 잘 처리하는 것. 둘째, AI가 제대로 처리하려면 추가
- 04:31컨텍스트가 필요한 것, 예를 들어 대체 교사 투입 같은 것. 셋째, AI가 안정적으로 할 수 없는 것, 이는
- 04:37그 작업을 위임하지 말아야 한다는 것을 알려줍니다. 이 접근법은 또한 재사용 가능한 플레이북을 만듭니다. 오카포 선생님은 이제
- 04:42명확한 메모, 즉 포함해야 할 열과 자신이 직접 추가해야 할 컨텍스트에 관한 메모를 가지고 있습니다. 그녀가
- 04:47다음 분기에 새 데이터로 이 분석을 실행할 때, 그녀는 추측이 아니라
- 04:52검증된 확신을 바탕으로 작업합니다. 이제 시야를 넓혀 보겠습니다. 이 검증 우선 접근법은
- 05:00고려 중인 모든 분석 작업에 적용됩니다. 연간 읽기 수준 성장, 출석 패턴과 그것의
- 05:05성적과의 관계, 공통 평가에 대한 문항 분석, 시간대별 문제행동 의뢰 추이. 패턴은
- 05:11동일합니다. 이미 분석을 완료한 과거 데이터를 찾아 AI로
- 05:17재현하고, 무엇이 효과가 있고 없는지 평가한 다음 다듬으세요. 검증은 확신을 키우지만
- 05:23책임을 없애지는 않습니다. 교육에서 분석 오류는 사람들의 실제
- 05:29삶에 실질적인 영향을 미칠 수 있습니다. 성적 결정, 중재 배치, 가족과의
- 05:34대화. 오카포 선생님이 검증된 접근법을 새 데이터에 적용할 때, 그녀의 성실은 계속됩니다.
- 05:40그녀는 자신이 아이들에 대해 알고 있는 지식을 바탕으로 수치가 타당한지 확인합니다. 그녀는
- 05:45데이터 회의에 들어가는 모든 것에 대해 책임을 지고, AI의 역할에 대해
- 05:51관리자와 팀 리더가 물어볼 때 투명하게 설명합니다. 이 루프의 성실 측면에는 두 가지 핵심 요소가 있습니다. 첫째, 필요한 것은
- 05:58자신의 분석에 AI가 어떻게 기여했는지 분명히 하는 것입니다. 교육 코치, 교장,
- 06:03학년 팀은 작업이 어떻게 수행되었는지 이해해야 합니다. 둘째, 또한 검증해야 합니다.
- 06:09AI의 패턴을 자신의 교실 관찰 및 원본 데이터와 대조하여
- 06:13공유하거나 확실히 결과에 따라 행동하기 전에.
- 06:20위임과 성실은 데이터 개인정보 보호에 중요하지만,
- 06:23하지만 그것은 더 큰 그림의 한 부분일 뿐입니다.
- 06:26AI를 활용한 실천을 쌓아가면서,
- 06:28다른 문제들을 언급할 가치가 있습니다.
- 06:30특히 교실 맥락에서 나타나는,
- 06:33즉 의존, 탈사회화, 편향입니다.
- 06:36이것은 완전한 목록이 아닙니다.
- 06:38하지만 이는 생각해 보기 시작하는 데 도움이 될 것입니다.
- 06:40AI와 함께 겪는 문제에 어떻게 대처할지입니다.
- 06:43의존부터 시작해 보겠습니다.
- 06:45생성형 AI 도구는 인상적입니다.
- 06:47정보를 빠르게 종합하는 데 있어서 말입니다.
- 06:49하지만 사람들이 AI에 의존하여 답을 생성할 때,
- 06:51비판적 사고를
- 06:53그리고 정보 활용 능력을 방해할 수 있습니다.
- 06:54그리고 지금 우리는 그것들이 절실히 필요합니다.
- 06:56우리 중 많은 사람이 이런 격언을 들어 본 적이 있습니다.
- 06:58일을 하는 사람이 배움을 얻습니다.
- 07:00AI의 경우도 마찬가지입니다.
- 07:02AI가 우리가 중요한 지적 작업을 하는 것을 방해한다면,
- 07:05그것은 문제입니다.
- 07:07이제 탈사회화에 대해 논의해 보겠습니다.
- 07:09AI는 강력한 사고 파트너가 될 수 있지만,
- 07:12대면 협업을 대체해서는 안 되며
- 07:15인간 상호작용도.
- 07:16사실, 목표는 그것을 강화하는 것이어야 합니다.
- 07:18그리고 이 두 가지의 밑에는 더 깊은 문제, 편향이 자리하고 있습니다.
- 07:23AI 시스템은 기존 데이터로 훈련되며,
- 07:25이는 기존의 불평등을 재현할 수 있음을 의미합니다.
- 07:28AI의 편향은 다양한 방식으로 나타날 수 있습니다.
- 07:30아마 이미 익숙하시겠지만
- 07:32고정관념 같은 개념에,
- 07:34편향은 덜 직접적일 수도 있습니다,
- 07:36예를 들어 특정 유형의 답변이나 관점을 기본으로 삼거나
- 07:39특정 언어에서 더 나은 품질의 응답을 제공하는 경우입니다.
- 07:43AI가 한쪽을 더 많이 또는 더 설득력 있게 주장한다면
- 07:47또는 특정 관점과 교류하기를 거부한다면,
- 07:50사람들이 스스로 생각하도록 돕는 것이 아닙니다.
- 07:52교육자로서 이것은 매우 중요합니다.
- 07:54끊임없이 AI의 출력을 평가하며
- 07:57그것이 전체적인 그림을 나타내는지 확인하기 위해서입니다.
- 08:00이 모든 것이 위임-성실 루프가 중요한 이유입니다.
- 08:04AI를 가장 잘 활용할 수 있는 용도에 대한 판단
- 08:07그리고 AI의 출력을 윤리적으로 공유하는 방법.
- 08:10이 레슨을 마치면서,
- 08:11다른 윤리적 우려가 무엇인지 생각해 보세요
- 08:13AI 사용에 관한 가치관의 일부가 될 것입니다.
- 08:16그리고 더 많이 배우는 방법
- 08:17그리고 스스로 비판적으로 생각하는 방법
- 08:19그러한 문제들과 관련된 미묘한 차이에 대해.
- 08:22저희는 출발점을 제공합니다.
- 08:26AI를 사용할 때 자신을 보호하세요.
- 08:28교육구의 승인된 도구 목록부터 시작하고,
- 08:30학생 이름, ID 번호를 제거하고,
- 08:32그리고 업로드하기 전에 데이터셋에서 인구통계학적 플래그를 제거하고,
- 08:35강력한 개인정보 보호 기능을 갖춘 도구를 사용하더라도.
- 08:38IEP 세부 정보, 504 편의 제공 사항을 절대 입력하지 말고,
- 08:41또는 징계 기록을 일반 목적 AI 도구에 입력하지 말고.
- 08:45작업을 세분화하여 이해하고,
- 08:47AI가 실제로 필요로 하는 정보가 무엇인지
- 08:49습관적으로 포함하는 정보와 대비하여.
- 08:51AI 도구의 이용 약관을 읽고.
- 08:53그것들을 AI 대화에 넣을 수 있습니다.
- 08:55그리고 질문하여 더 빨리 이해할 수 있습니다.
- 08:58교육구의 기존 데이터 처리 프로토콜을 따르고.
- 09:01다른 클라우드 기반 도구에 적용하는 것과 동일한 원칙이
- 09:02여기서도 적용됩니다.
- 09:05AI 사용 시 AI 의존, 탈사회화, 편향 및 기타 윤리적 문제를 인식하고.
- 09:12그리고 실수로 공유해서는 안 될 것을 공유했다면 신속하게 조치를 취하세요.
- 09:16대화를 삭제하고, 필요하면 제공업체에 데이터 삭제를 요청하고, 교육구의 사고 대응 프로토콜을 따르세요.
- 09:23다른 소프트웨어 도구와 마찬가지로 생각하세요.
- 09:25실수로 민감한 이메일을 잘못된 학부모에게 보냈다면, 따라야 할 절차가 있을 것입니다.
- 09:29여기서도 같은 원칙입니다.
- 09:31AI를 활용한 안전하고 효과적인 데이터 작업은 두 가지로 요약됩니다.
- 09:34시작하기 전에 보호해야 할 것을 보호하고, AI가 할 수 있는 일을 신뢰하기 전에 검증하세요.
- 09:40위임-성실 루프는 두 가지 모두를 위한 프레임워크를 제공합니다.
Delegation ↔ Diligence 루프
외부 루프는 모든 AI 상호작용의 틀을 잡습니다: 먼저 무엇을 위임하는 것이 적절한지—올바른 작업, 올바른 도구, 올바른 데이터를—미리 결정합니다. 그 후에는 돌아온 결과에 대한 책임을 집니다.
Delegation무엇을 AI에 맡길 가치가 있는지 먼저 결정합니다.
Diligence최종 결과물을 검증하고, 출처를 밝히고, 책임을 집니다.
무엇을 위임할지 결정하세요.미리 결정하세요: AI에 가져갈 올바른 작업, 도구, 데이터—그리고 자신이 직접 맡아야 할 것을.
위임외부 루프검증
돌아온 결과에 책임을 지세요.자신이 아는 것과 대조하여 검증하고, AI의 역할에 대해 투명하게 밝히고, 결과를 책임지세요.
Quick check
데이터 작업 중 어떤 부분을 AI에 안전하게 맡길 수 있고, 어떤 부분은 직접 처리해야 하는지 결정합니다. 이것은 어떤 동작에 해당할까요?
DelegationDiligence
핵심 요약
- FERPA와 같은 데이터 보호 규정은 AI 도구에도 적용됩니다. 학생 정보가 포함된 모든 작업에는 교육구에서 승인한 도구만 사용하세요.
- 책임 있는 AI 사용에는 교육적 판단이 필요합니다. 정책이 다루지 않는 모호한 영역을 헤쳐나가야 합니다.
- 자신의 가치관은 이미 교육 방식을 이끌고 있습니다. 이를 AI와 연결하세요: 무엇을 위임하지 않을지, '유용함'이 무엇을 의미하는지 결정하세요.
- 윤리적인 AI 사용은 지속적인 과정입니다. 학생, 상황, 도구가 변화함에 따라 자신의 약속을 다시 점검하세요.
실습
교육자로서 자신의 윤리적 기준 명확히 하기
AI를 책임감 있게 사용하는 것은 단순히 규칙을 따르는 것이 아니라, 정책이 명확한 답을 주지 않는 모호한 영역에서의 윤리적 판단에 관한 것입니다. 자신에게 가장 중요한 관심사를 명확히 하고, 이를 지킬 수 있는 약속으로 바꿔보세요.
1부: 윤리적 긴장 요소 명확히 하기
교육자로서의 역할과 자신이 가르치는 학생들을 생각하며, 아래 관심사 중 하나 또는 두 가지—또는 다른 것—를 선택하세요. 지금 자신에게 가장 중요하거나 가장 해결되지 않은 것으로 느껴지는 것을 고르고, 자신의 상황에서 그것이 왜 중요한지 간단히 적어보세요.
- 의존성: AI에 대한 의존이 학생들이 스스로 해야 할 사고를 대체할 수 있는 경우는 언제일까요?
- 탈사회화: AI가 인간 간의 상호작용, 협업, 관계 형성을 대체할 수 있는 경우는 언제일까요?
- 편향: AI가 좁은 시각, 고정관념, 또는 기존의 불평등을 강화할 수 있는 경우는 언제일까요?
- 학생의 주체성: AI 사용 방식을 누가 통제하나요: 학생, 교육자, 아니면 시스템인가요?
- 접근의 공평성: AI로부터 누가 이익을 얻고, 접근성이나 자원 부족으로 누가 배제될 수 있나요?
- 환경적 영향: AI 시스템의 에너지 사용, 컴퓨팅 수요, 또는 규모가 자신의 윤리적 결정에 어떻게 영향을 미치나요?
2부: 윤리적 약속 작성하기
자신이 명확히 한 긴장 요소를 약속으로 바꾸어 The 4D Framework 수업에서 작성한 상황 문서에 추가하세요. 선택한 관심사를 염두에 두고, 다음 항목을 자신의 말로 완성하세요:
- 그 관심사를 방지하기 위해, 다음과 관련된 결정은 위임하지 않겠습니다: (예: 최종 판단, 관계적 피드백, 고위험 평가)
- AI는 저 또는 제 학생들이 (예: 연습하기, 아이디어 탐색하기, 막힌 부분을 해결하기) 하는 데 도움이 될 때 제 실무에서 유용합니다—단, 제가 명확히 한 긴장을 악화시키지 않는 한에서요.
- AI 사용이 윤리적인지 확신이 서지 않을 때, 저는: (예: 멈추기, 동료와 상담하기, 교육구 지침 검토하기, 신중하게 시범 적용하기)
방금 어떤 도구도 대신해줄 수 없는 개인적인 윤리적 입장을 작성했습니다. 학생, 상황, 도구가 변화함에 따라 이를 다시 점검하세요.
수업 되돌아보기
- AI로 데이터를 다루는 방식에서 구체적으로 어떤 변화를 만들 것인가요—그리고 실제로 승인된 도구는 무엇인가요?
- 가장 자주 하는 데이터 작업을 떠올려보세요: 학생 성과 분석, 출석 검토, 설문조사 결과 해석 등. 그 과정에서 AI가 실제로 도움이 될 수 있는 부분은 어디이고, 인간의 판단이 너무 중요해서 위임할 수 없는 부분은 어디라고 생각하나요?
다음 단계
다음 수업에서는 다양한 AI 모델이 어떻게 다른지 살펴보고, AI와 함께 작업하는 방식을 정의하는 의도, 원칙, 경계를 담은 개인 AI 가치 문서를 작성해 보겠습니다.