윤리와 AI
윤리 및 책임 있는 AI 사용 · 10분
이 영상은 Delegation-Diligence 루프를 살펴봅니다. 7학년 과학 교사인 Okafor 선생님이 AI를 활용해 데이터 작업을 돕고 수업을 개선하는 모습을 보게 됩니다. 검증과 학생 데이터의 신중한 처리가 AI를 책임감 있고 윤리적인 방식으로 사용하도록 보장하는 방법을 확인할 수 있습니다.
Delegation ↔ Diligence 루프
외부 루프는 모든 AI 상호작용의 틀을 잡습니다: 먼저 무엇을 위임하는 것이 적절한지—올바른 작업, 올바른 도구, 올바른 데이터를—미리 결정합니다. 그 후에는 돌아온 결과에 대한 책임을 집니다.
데이터 작업 중 어떤 부분을 AI에 안전하게 맡길 수 있고, 어떤 부분은 직접 처리해야 하는지 결정합니다. 이것은 어떤 동작에 해당할까요?
핵심 요약
- FERPA와 같은 데이터 보호 규정은 AI 도구에도 적용됩니다. 학생 정보가 포함된 모든 작업에는 교육구에서 승인한 도구만 사용하세요.
- 책임 있는 AI 사용에는 교육적 판단이 필요합니다. 정책이 다루지 않는 모호한 영역을 헤쳐나가야 합니다.
- 자신의 가치관은 이미 교육 방식을 이끌고 있습니다. 이를 AI와 연결하세요: 무엇을 위임하지 않을지, '유용함'이 무엇을 의미하는지 결정하세요.
- 윤리적인 AI 사용은 지속적인 과정입니다. 학생, 상황, 도구가 변화함에 따라 자신의 약속을 다시 점검하세요.
실습
교육자로서 자신의 윤리적 기준 명확히 하기
AI를 책임감 있게 사용하는 것은 단순히 규칙을 따르는 것이 아니라, 정책이 명확한 답을 주지 않는 모호한 영역에서의 윤리적 판단에 관한 것입니다. 자신에게 가장 중요한 관심사를 명확히 하고, 이를 지킬 수 있는 약속으로 바꿔보세요.
1부: 윤리적 긴장 요소 명확히 하기
교육자로서의 역할과 자신이 가르치는 학생들을 생각하며, 아래 관심사 중 하나 또는 두 가지—또는 다른 것—를 선택하세요. 지금 자신에게 가장 중요하거나 가장 해결되지 않은 것으로 느껴지는 것을 고르고, 자신의 상황에서 그것이 왜 중요한지 간단히 적어보세요.
- 의존성: AI에 대한 의존이 학생들이 스스로 해야 할 사고를 대체할 수 있는 경우는 언제일까요?
- 탈사회화: AI가 인간 간의 상호작용, 협업, 관계 형성을 대체할 수 있는 경우는 언제일까요?
- 편향: AI가 좁은 시각, 고정관념, 또는 기존의 불평등을 강화할 수 있는 경우는 언제일까요?
- 학생의 주체성: AI 사용 방식을 누가 통제하나요: 학생, 교육자, 아니면 시스템인가요?
- 접근의 공평성: AI로부터 누가 이익을 얻고, 접근성이나 자원 부족으로 누가 배제될 수 있나요?
- 환경적 영향: AI 시스템의 에너지 사용, 컴퓨팅 수요, 또는 규모가 자신의 윤리적 결정에 어떻게 영향을 미치나요?
2부: 윤리적 약속 작성하기
자신이 명확히 한 긴장 요소를 약속으로 바꾸어 The 4D Framework 수업에서 작성한 상황 문서에 추가하세요. 선택한 관심사를 염두에 두고, 다음 항목을 자신의 말로 완성하세요:
- 그 관심사를 방지하기 위해, 다음과 관련된 결정은 위임하지 않겠습니다: (예: 최종 판단, 관계적 피드백, 고위험 평가)
- AI는 저 또는 제 학생들이 (예: 연습하기, 아이디어 탐색하기, 막힌 부분을 해결하기) 하는 데 도움이 될 때 제 실무에서 유용합니다—단, 제가 명확히 한 긴장을 악화시키지 않는 한에서요.
- AI 사용이 윤리적인지 확신이 서지 않을 때, 저는: (예: 멈추기, 동료와 상담하기, 교육구 지침 검토하기, 신중하게 시범 적용하기)
방금 어떤 도구도 대신해줄 수 없는 개인적인 윤리적 입장을 작성했습니다. 학생, 상황, 도구가 변화함에 따라 이를 다시 점검하세요.
수업 되돌아보기
- AI로 데이터를 다루는 방식에서 구체적으로 어떤 변화를 만들 것인가요—그리고 실제로 승인된 도구는 무엇인가요?
- 가장 자주 하는 데이터 작업을 떠올려보세요: 학생 성과 분석, 출석 검토, 설문조사 결과 해석 등. 그 과정에서 AI가 실제로 도움이 될 수 있는 부분은 어디이고, 인간의 판단이 너무 중요해서 위임할 수 없는 부분은 어디라고 생각하나요?
다음 단계
다음 수업에서는 다양한 AI 모델이 어떻게 다른지 살펴보고, AI와 함께 작업하는 방식을 정의하는 의도, 원칙, 경계를 담은 개인 AI 가치 문서를 작성해 보겠습니다.