인공지능 기술의 발전은 교육 현장에도 큰 변화를 가져오고 있습니다. 활용 가능성이 높은 기술인 만큼, 부작용을 막을 인공지능 윤리 교육도 반드시 필요하단 목소리가 나오는데요. 먼저 영상 보고 오시겠습니다. [VCR] 지난해 말 대중에 공개된 대화형 인공지능 챗GPT 작문·번역·코딩까지 수준급 인공지능의 가능성 확인 과제 대필·딥페이크 범죄 등 기술 발전 부작용도 인공지능 활용과 함께 "윤리교육도 필수" 목소리 인공지능 윤리 어떻게 가르칠까 ------------- 서현아 앵커 최근 정부기관과 협력해 인공지능 윤리 교재를 발간한 서울 성남고 김영준 선생님과 이 문제 보다 자세히 이야기 나눠보겠습니다. 안녕하세요. 말씀드린 대로 인공지능 윤리 교재, 그중에서도 고등학교용 교재의 집필진 대표입니다. 이번 교재의 특징에 대해서 먼저 말씀 부탁드리겠습니다. 김영준 서울 성남고 교사 / 서울시교육청 정보교육원 직무연수 강사 이번 인공지능 윤리 교재는 정보통신정책연구원에서 총괄을 했고요. 인공지능교육을 해오신 정보, 기술, 사회, 윤리 선생님들이 모여 학생들의 인공지능 역량을 강화하고자 출판사 씨마스와 협업하여 윤리교육 교재를 발간하게 되었습니다. 학생들은 이미 일상생활 깊이 들어와 있는 그런 인공지능 기술들을 어떻게 활용하느냐에 따라서 긍정적이고 또는 부정적인 영향을 가져올 수 있는데요. 이 점이 가장 현재에도 이슈가 되고 있습니다. 학생들도 이제는 인공지능 기술이 야기할 수 있는 위험과 이슈에 유연하고 바람직하게 대처할 수 있도록 인공지능 윤리기준의 3대 원칙과 10대 요건을 통해 인공지능 시대에 살아가는 시민으로 갖추어야 하는 인공지능 윤리역량을 함양 시키는 것을 목표로 교재를 발간하게 되었습니다. 서현아 앵커 윤리하면 막연하게 느껴지기 쉬운데 3대 원칙과 10대 요건 상당히 구체적으로 명시가 돼 있는 것 같습니다. 그렇다면 이 교재를 활용한 수업은 주로 정보과에서 이뤄지게 되는 걸까요? 김영준 서울 성남고 교사 / 서울시교육청 정보교육원 직무연수 강사 아닙니다. 이번 교재는 인공지능에 대한 기초 전문지식이 없어도 초·중·고 교재가 10대 원칙을 바탕으로 학생들이 활동할 수 있는 모듈형 프로그램으로 개발되었기 때문에 범교과적으로 활용하고 연계할 수 있습니다. 그래서 창의적체험활동이나 동아리, 자유학년제, 캠프, 등에서도 언제든 활용할 수 있는 교재로 만들어졌습니다. 서현아 앵커 초중고 이렇게 수준에 따라서 교재가 각각 다른 점도 특징이라고 볼 수 있는데요. 어떤 차이점들이 있습니까? 김영준 서울 성남고 교사 / 서울시교육청 정보교육원 직무연수 강사 가장 큰 차이점으로는 학생들의 인지 수준에 맞춰서 단원이 구성되어 있다는 점이고요. 초등은 3대 원칙과 10대 요건을 중심으로 세 단원의 놀이 체험 형태로 구성되어 있습니다. 그리고 중등은 비슷한 요건들로 묶어진 사건과 사례를 바탕으로 이론과 체험을 할 수 있도록, 고등은 10대 요건을 각 단원으로 맞춰서 좀 더 심화되고 개념 있게 그리고 기초 활동과 심화 활동으로 인공지능 윤리를 이해할 수 있도록 구성되어 있습니다. 서현아 앵커 인공지능 기술의 발전만큼이나 윤리 교육의 필요성이 주목을 받고 있는데요. 현장에서 인공지능 수업을 하시면서 좀 느끼신 점도 있으실 것 같습니다. 어떻습니까? 김영준 서울 성남고 교사 / 서울시교육청 정보교육원 직무연수 강사 인공지능 발전으로 인해서 사회에 미치는 영향이 커지고 있습니다. 인공지능 윤리적 문제도 증가하고 있고요. 학생들도 최근 검색 엔진이나 이런 소셜미디어나 관심사를 선호하는 영상과 정보로 수집된 알고리즘이 개인화된 추천 필터버블이라는 현상이 심각화되고 있는데요. 이는 학생들이 다양성과 공감 능력을 저하할 수 있다고 생각합니다. 그래서 학생들에게 어떤 알고리즘으로 사용되고 있는지, 어떤 요소를 기반으로 맞춤형 콘텐츠를 추천하는지 명확하게 공개되거나 투명성이 없는 현재 인공지능 기술이 학생들도 이러한 부분을 인지하고 학습하고 필요한 윤리의식을 갖춰야 한다고 생각하고 있습니다. 서현아 앵커 인공지능 기술 자체에 대한 이해가 선행될 필요도 있겠습니다. 요즘 정말 핫한 기술이죠. 챗GPT도 이미 수업에 활용하고 계시다고요? 김영준 서울 성남고 교사 / 서울시교육청 정보교육원 직무연수 강사 저도 최근에 챗GPT를 활용해서 수업을 적용하고 있는데요. 인공지능 자연어 처리 기술로 우리와 상호작용하는 부분에서 매우 유용하게 수업에 도움이 되고 있습니다. 하지만 이 기술도 결국에 대규모 데이터셋을 학습하여 자연어 처리 및 대화 능력을 향상시키고 있기 때문에 수집된 데이터 특성에 따라 편향될 수 있다고 생각합니다. 예를 들어서 특정 지역이나 인종 그리고 집단에 따라 편향된 결과를 내놓을 수 있는데 이런 점들을 학생들이 올바르게 인지하고 그러한 정보를 가지고 사용하기 위해서는 인공지능의 신뢰성과 그다음에 공공성을 떨어뜨릴 수 있다는 것을 알아야 합니다. 그래서 인공지능은 가전제품의 오작동과 같이 사소한 문제로 끝나는 게 아니라 도덕적 사회적 문제를 유발할 수 있기 때문에 학생들은 데이터와 결과의 공공성 그다음에 공정성, 개인정보 보호, 이러한 불특정한 일을 막기 위한 개인적인 책임도 필요하다고 생각합니다. 서현아 앵커 네, 요즘 전국적으로 인공지능 선도학교 등을 지정해서 관련 교육을 확대하고 있습니다. 그런데 무엇보다 중요한 건 현장에 잘 뿌리를 내려야 할 텐데요. 어떤 조건이 필요할까요? 김영준 서울 성남고 교사 / 서울시교육청 정보교육원 직무연수 강사 지금 각 교육청에서도 인공지능 선도학교 그리고 인공지능 사물인터넷 시범학교 그리고 신나는 AI교실 등 다양한 사업으로 학교 예산 및 교실 구축 지원을 하고 있고요. 이를 담당하는 선생님들과 장학사님들 모두 엄청 고생을 하고 계십니다. 아직 시작에 불과한 인공지능 교육이 현장에 뿌리 내리기 위해서는 인공지능 관련 수업 사례도 만들고 그리고 먼저 선행해 온 학교의 컨설팅과 교사 역량 강화를 위한 직무 연수 등 처음 시작하는 학교에 도움이 되고자 현재도 많이 노력을 하고 있습니다. 서현아 앵커 네, 그렇다면 이 선생님들을 대상으로 한 연수는 충분한 상황입니까? 김영준 서울 성남고 교사 / 서울시교육청 정보교육원 직무연수 강사 한 해가 지날수록 인공지능 관련된 교사 연수는 많이 늘어나고 있습니다. 플랫폼을 활용한다거나 실제 인공지능 프로그램이나 개발을 해본다거나 이러한 교사의 역량 강화 역시 많이 이루어지고 있지만 하지만 무엇보다 인공지능을 담당하는 교사뿐만 아니라 같은 학교 교사 선생님들이나 관리자 선생님들의 많은 관심이 필요하다고 생각합니다. 한 교과에서 광범위하게 인공지능을 한 선생님이 담당하기에는 사실 엄청 어려운 현실입니다. 아직 수능이라는 입시 교육으로 인해 학교 변화보다는 그대로 유지하는 경우가 많아서 여러 선생님들과 함께 학생 중심, 활동 중심 교육으로 학생들이 다양한 교과 속에서 인공지능 내용을 경험하고 그리고 시야를 넓혀 나갈 수 있도록 노력해야 될 것 같습니다. 인공지능을 전공하고 공부해서 이렇게 교단에 서 있는 선생님들은 거의 없으실 거예요. 그래서 부담도 지금 상당히 심한 상태고요. 인공지능을 다 알아야 가르칠 수 있다라는 그런 부담을 내려놓으시고 학생들과 함께 공부하고 알아간다는 내용을 선생님들이 인지하시면서 이렇게 변화하신다면 인공지능 교육은 앞으로도 더 잘 이루어질 수 있을 거라 생각합니다. 서현아 앵커 네, 사실 요즘엔 이 첨단 기술을 가장 빠르게 익히는 게 우리 청소년들이지 않습니까. 그만큼 공교육에서 그 부작용을 최소화할 교육이 반드시 필요해 보입니다. 오늘 말씀 잘 들었습니다. |