Home > Vol. 37, No. 1

학습자 히스토리를 활용한 녹화 영상 기반 수업 지원 시스템 디자인에 대한 연구
Are You Watching Me?: The Design of a Video-based Learning Management System Using Learners' History Data
  • Moon-Hwan Lee : Department of Design Engineering, Assistant Professor, Korea Polytechnic University, Siheung, Korea
  • 이 문환 : 한국산업기술대학교 디자인공학부, 조교수, 시흥, 대한민국
  • Hyeok-Min Lee : Department of Computer Engineering, Master Student, Korea Polytechnic University, Siheung, Korea
  • 이 혁민 : 한국산업기술대학교 컴퓨터공학과, 석사과정, 시흥, 대한민국
  • Sung-Taek Chung : Department of Computer Engineering, Professor, Korea Polytechnic University, Siheung, Korea
  • 정 성택 : 한국산업기술대학교 컴퓨터공학과, 교수, 시흥, 대한민국

연구배경 각종 온라인 플랫폼을 활용한 비대면 교육은 학습 관리 측면에서 많은 문제점들을 동반하고 있다. 특히 녹화 영상 기반의 온라인 수업은 학습자가 자기주도적으로 수업을 진행해야 하므로 학생의 학습 참여나 학습 관리 측면에서 문제가 발생하기 쉽다.

연구방법 본 연구는 녹화 영상 기반 온라인 수업에서의 문제점을 확인하는 한편, 전인적 교육 효과까지 고려하는 학습 관리 시스템을 개발하는데 학습자의 히스토리 데이터의 활용 가능성과 효과에 대해서 탐색하였다. 먼저, 녹화 영상 기반 온라인 수업에서의 문제점을 교수자 및 학습자와의 인터뷰를 통해서 확인하였다. 학습자의 온라인 녹화 영상에 대한 히스토리 데이터가 수업 진행에 도움이 될 수 있는지를 알아보기 위해서 학습 시스템을 개발하여 사용자 조사를 진행하였다.

연구결과 학습자들은 녹화 영상 기반 수업을 할 때 히스토리 데이터를 복습에 활용할 수 있다는 점과 수업 중 자기 감시가 가능하다는 점을 긍정적으로 평가하였다. 교수자들은 학습자가 기록해놓은 의식적 북마킹이 수업에 대한 반응을 파악하는 데 도움이 된다고 언급하였다. 그러나 학습자 개개인의 무의식적 히스토리 데이터는 영상 수강 환경이나 개인의 특성에 따라서 편차가 크기 때문에 교수자가 수업 진행에 활용하기는 어려워하였다. 마지막으로 사적 데이터 활용이 부작용을 일으킬 수 있으며, 사용자의 특성과 행동에 맞는 학습 히스토리 유형을 활용해야 한다는 점을 발견하였다.

결론 본 연구는 학습자 및 교수자 측면에서 녹화 영상 기반 온라인 수업에서의 문제점을 확인하였다. 본 연구에서 제안하는 학습자의 온라인 녹화 영상에 대한 히스토리 데이터 활용 방식은 학습 결손 문제가 심각한 사용자들을 위한 교육 시스템 개발에도 확장 적용이 가능할 것이다.

Abstract, Translated

Background Non-face-to-face education using various online platforms is accompanied by many problems in terms of learning management. In particular, online classes based on recorded video should be self-directed by learners. Thus, problems are likely to arise in terms of students' participation in learning and learning management.

Methods This study explored the possibility of learning management systems using learners' history data to improve the problem in recorded video-based online classes. At first, the problems in the recorded video-based online class were identified through interviews with the faculty and learners. To find out if a learner's history data on recorded videos could be helpful in class progress, a learning system was developed and user investigation was conducted.

Results The learners positively assessed that the history can be utilized for reviewing a course and that self-monitoring is possible during the class. The professors noted that conscious bookmarking would help to identify learners' responses. However, each learner's unconscious history data was difficult to utilize in class progress due to the large deviation depending on the video-taking environment or individual characteristics. Finally, we found that the utilization of private data can cause side effects and that learning history types should be utilized to suit user characteristics and behaviors.

Conclusions Based on design considerations or findings in this study, an extended study could be conducted from a real-time online class approach to a system that can support learners or professors. The findings of this study will also be available for the development of support systems that focus on educational facilities and users with severe learning problems.

Keywords:
Recorded Course Video, Learning Management System, Learner’s History Data, Self-Directed Learning, Research-Through-Design, 온라인 녹화 영상 수업, 학습 히스토리 데이터, 학습 관리 시스템, 자기주도 학습, 디자인을 통한 연구.
pISSN: 1226-8046
eISSN: 2288-2987
Publisher: 한국디자인학회Publisher: Korean Society of Design Science
Received: 02 Aug, 2021
Revised: 29 Sep, 2021
Accepted: 22 Oct, 2021
Printed: 30, Nov, 2021
Volume: 34 Issue: 4
Page: 225 ~ 239
DOI: https://doi.org/10.15187/adr.2021.11.34.4.225
Corresponding Author: Moon-Hwan Lee (moonhwanlee@kpu.ac.kr)
PDF Download:

Funding Information ▼
Citation: Lee, M. -H., Lee, H. -M., & Chung, S. -T. (2021). Are You Watching Me?: The Design of a Video-based Learning Management System Using Learners' History Data. Archives of Design Research, 34(4), 225-239.

Copyright : This is an Open Access article distributed under the terms of the Creative Commons Attribution Non-Commercial License (http://creativecommons.org/licenses/by-nc/3.0/), which permits unrestricted educational and non-commercial use, provided the original work is properly cited.

1. 연구배경

최근 COVID-19로 인하여 사회적 거리두기가 중요시됨에 따라 온라인 비대면 교육 방식을 활용하는 교육 기관들이 증가하였다. 각종 온라인 플랫폼을 활용한 비대면 교육 방식은 대면 교육과 비교하여 장소와 시간의 제약을 받지 않는다는 장점도 있지만, 학습 관리 측면에서 많은 문제점들을 동반하고 있다(Sim & Han, 2021).

Zoom(https://zoom.us/)과 같은 실시간 소통 플랫폼을 활용한 실시간 온라인 교육은 그나마 수업 시간 동안 교수자가 학습자와 소통하고 학습자를 통제하며 수업을 진행할 수 있다. 그러나 녹화 영상 기반의 온라인 수업은 학습자가 자기주도적으로 수업을 진행하고 참여해야 하므로 학생의 학습 참여나 학습 관리 면에서 문제점이 발생하기 쉽다. 따라서 본 연구는 녹화된 영상을 학습 관리 시스템(Learning Management System)에 올려두고 수업을 진행하는 ‘녹화 영상 기반 온라인 수업’에 초점을 두고 연구를 진행하였다.

기존 연구들도 특히 녹화 영상 기반 수업의 문제점을 지적해왔다. 학생 입장에서는 온라인 수업 중 자기주도적으로 수강 일정을 관리하기 어려워 오히려 온라인 수업을 소홀히 할 수 있는 문제가 있다. 또한 교수자와의 상호작용과 소통에 한계가 있어 학생들의 이해 및 집중도가 낮은 것으로 나타났다(Choi, Kwon, & Choi, 2020). 한편 교수자 입장에서는 학생들의 온라인 수업 성취 수준을 가늠하기 어려워 맞춤화된 수업이 어렵다는 단점이 있다(M. Giannakos, Krogstie, Giannakos John Krogstie Nikos Chrisochoides, Giannakos, & Chrisochoides, 2014). 즉, 학생 개개인 혹은 한 반의 학습 이해도 및 참여도에 대한 파악이 어려워 수업 내용에 대한 피드백 제공이나 수업 콘텐츠 수정이 불가능하다는 것이다.

녹화 영상 기반 온라인 교육에서의 문제에 대응하기 위해 HCI(Human Computer Interaction) 분야에서는 학습자 상태 모니터링 시스템과 학습자 히스토리 데이터 활용에 대한 연구들이 진행되어 왔다(M. Giannakos et al., 2014; M. N. Giannakos, Sampson, & Kidziński, 2016). 특히, 학습자의 녹화 영상에 대한 의식적 또는 무의식적 학습 히스토리 데이터는 수업에 대한 개인화된 모니터링을 하는데 효과적인 것으로 조사된바 있다(Pham & Wang, 2018). 그러나 기존에 개발되어온 시스템들은 학습자를 관리의 대상으로 간주하여, 학생의 집중 여부를 잘 감시할 수 있는 기술 개발에만 초점을 두고 있다는 한계가 있다. 교육적 효과를 달성하기 위해서는 이러한 학습 모니터링이 학습자의 주도적 참여를 유도하는지, 학습자에게 동기를 부여하는지, 학습자 간의 건강한 경쟁을 유도하는지 등의 학습 전반에 대한 효과 검증이 필요하다.

본 연구는 녹화 영상 기반 온라인 수업에서의 문제점을 확인하는 한편, 전인적 교육 효과까지 고려하는 학습 관리 시스템을 개발하는데 학습 히스토리 데이터의 활용 가능성과 수업 진행에의 효과에 대해서 탐색하는 것을 목표로 한다. 이를 위해 먼저, 녹화 영상 기반 온라인 수업에서의 문제점을 교수자 및 학습자와의 인터뷰를 통해서 확인하였다. 학습자의 온라인 녹화 영상에 대한 히스토리 데이터가 수업 진행에 도움이 될 수 있는지를 알아보기 위해서 디자인을 통한 연구(Research-through-design) 방식을 활용하였다(Zimmerman, Forlizzi, & Evenson, 2007). 이러한 연구 방식을 채택한 이유는 사용성이 높거나, 실현 가능성이 높은 시스템 개발에 초점을 두기보다는 사용 가능한 프로토타입을 활용하여 추후 발생할 수 있는 문제점과 가능성을 미리 알아볼 수 있기 때문이다.

따라서 기존 문헌들과 인터뷰를 토대로 하여 학습자의 무의식적 혹은 의식적 학습 히스토리 데이터를 토대로 학습 상태를 모니터링하는 녹화 영상 기반 학습 시스템을 개발하였다. 제안된 시스템을 사용해보게 한 후 학생, 교수자, 교육 전문가의 의견을 청취함으로써 이러한 시스템의 학생 자기주도학습, 교수자의 수업 관리 측면에서의 효용가치, 녹화 영상 학습 히스토리를 활용한 인간친화적인 학습 관리 시스템에 대한 고려사항을 파악하였다.

2. 연구 방법1: 녹화 영상 기반 교육에서의 문제점을 확인하기 위한 인터뷰
2. 1. 사용자 조사 목적 및 방법

학습자 히스토리 데이터를 활용한 온라인 강의 지원 시스템을 디자인하기에 앞서 현재 대학교에서의 녹화 영상 기반 온라인 수업 경험을 들어보고 문제점을 확인해보고자 하였다.

실험에는 녹화 영상을 활용하여 디자인 모델링 과목, 디자인 이론 과목을 진행하고 있는 대학교수 3명이 참여하였다. 해당 수업에 참여하고 있는 학부생 7명도 인터뷰 참가자로 모집하였다.

인터뷰 진행 전 교수자에게 사전 과제를 제공하여 수업 시간표, 온라인 강의에 대한 교수자만의 노하우, 온라인 강의에 주로 활용하는 프로그램 및 플랫폼에 대해 미리 기록 후 제출하도록 하였다. 학습자에게도 사전 과제로 수업시간표와 본인의 수업 태도, 온라인 수업에 주로 활용하는 프로그램 및 플랫폼을 기록해달라고 요구하였다.

사용자 조사 사전 과제 작성은 인터뷰 전 7일간 작성하도록 안내하고, 본 인터뷰는 미리 작성된 사전 과제 내용을 바탕으로 진행되었다. 주 인터뷰 세션에서는 학습자의 자기주도적 학습 관점에서의 녹화 영상 기반 수업의 문제점, 교수자의 학습자 관리와 수업 준비 관점에서의 문제점에 초점을 두어 참여자들의 경험을 청취하였다. 수집된 데이터는 주제분석(Thematic Analysis)을 활용하여 주요 키워드와 유형을 도출한 후, 주제를 정의하여 계층화하였다(Braun & Clarke, 2006). 이 분석 과정은 두 명의 연구자가 상호 검토하며 반복적으로 수행하였다.

2. 2. 사용자 조사 결과

본 연구의 실험 참가자들은 녹화 영상 기반 온라인 수업을 위해 학습 관리 시스템 중 ‘e-class’를 활용하고 있었다. 이는 국내 많은 대학들이 수업 관리를 위해서 활용하고 있는 교육 관리 시스템이며 이 시스템에 강의 녹화 영상을 올려놓을 수도 있고 실시간 영상 강의도 다른 플랫폼과 연계하여 진행할 수 있다. 또한 이 플랫폼에서 교수자가 강의 자료를 제공하고, 과제 확인 및 코멘트 제공 등의 소통도 이루어지고 있었다. 이 플랫폼 말고도 교수자와 학생은 다양한 플랫폼들을 복합적으로 활용하여 소통을 하거나 수업을 보충하기도 한다고 응답하였다. 예를 들면, 교수자1은 그룹 메신저를 사용하여 학생들의 질문에 대해서 답변하는 등 학생과의 소통을 개선하려 했다고 응답하였다. 학습 관리 관점에서 녹화 영상 기반 수업에 대한 학습자와 교수자들의 의견은 다음과 같다.

2. 2. 1. 학생의 자발적인 학습 관리의 어려움

다수의 인터뷰 참가자들은 녹화 영상 시청 기반 수업의 경우 기한의 강제성이 없어 영상을 시청을 미루는 문제가 있다고 언급하였다. 교수자들의 경우 학생들이 수업 수강을 미루지 않고 참여하도록 하기 위해 학습 관리 시스템에서 수업 출결 사항을 녹화 영상 시청 여부와 연동하는 방식을 취한다고 언급하였다. 그러나 학생들마다의 사정을 배려하여 녹화 영상을 볼 수 있는 기간을 제한하지 않을 경우, 학생들이 주로 다음주 수업 전날에 이르러서야 한꺼번에 수업을 듣는 경우도 있다고 말하였다: “실시간 수업이 아닌 경우에는 어느 때 수업을 들어도 문제가 없기 때문에 마지막까지 미뤘다가 수업을 듣는다” (학습자1).

2. 2. 2. 수업 중 학습자 흥미 유지의 어려움

녹화 영상 기반 수업에 대하여 학생 참가자들은 수업 방식이 매우 단조롭고 지루하다는 문제점을 지적하였다. 대면 수업에서는 교수자가 중간중간 학습자에게 질문을 던지거나 조별 토의를 시키는 등의 참여를 유도하면서 집중할 수 있는 환경을 조성하였다. 그러나 녹화 영상 수업은 교수자의 일방적인 강의 형식으로 이루어지는 경우가 많아 학습자가 장기간 흥미를 유지하기 어려운 경우가 많았다고 설명하였다: “영상 시간이 긴 경우, 보다가 딴짓을 하게 되는 경우가 많다” (학습자1). 교수자3의 경우에는 학생들의 이러한 상황을 고려하여 강의 영상을 제작한다고 설명하였다: “유튜브 콘텐츠에 익숙한 학생들을 위해서 되도록 짧은 영상을 여러 개 만들어서 올리려고 하는 편이다” (교수자3).

수업 진행 중에 ‘학습자와 학습자’, ‘학습자와 교수자’의 소통이 부족해진 점도 문제점으로 확인되었다. 일반적으로 디자인학과의 대면 수업 중 교수자는 학생들과 우수 실습 사례를 공유하거나, 학생들이 수업 중 동료 학생의 작업물을 자연스럽게 보게 되면서 동기부여가 되는데 녹화 영상 수업에서는 동료 학생의 작업물을 볼 수 없는 경우가 많아, 학습자들끼리 자극을 받고 학습 동기를 갖게 되기 어렵다는 점을 확인할 수 있었다.

그리고 대부분의 학습자들은 교수자와 소통 방식에 어려움을 느꼈다. 학습자5, 학습자7은 학습자가 교수자의 메일 또는 게시판을 통해 질문이나 피드백을 요청하면, 교수자로부터 오랜 시간 답변을 기다려야 하고, 디지털상에서의 매너를 신경을 써야 하는 점이 불편했다고 언급했다. 동시에 교수자들은 현재 학습 관리 시스템의 게시판이나 이메일로는 학습자에게 실습 내용을 설명하기에 한계가 많다고 말하였다.

학생들끼리는 수업 중 잘 모르는 내용을 서로 물어보고 도움을 받는 경우도 많았는데, 녹화 영상 수업에서는 그런 학생들끼리의 상호작용이 어렵다는 점도 지적하였다: “수업을 듣다가 모르는 것이 생기면, 교수님께도 질문을 하기도 하지만 답변이 늦는 경우가 많았다. 그래서 친구들에게 메신저로 모르는 내용을 도움받는 경우도 있다” (학습자2).

2. 2. 3. 학습 상태 및 이해도 확인의 어려움

교수자들은 학생들이 수업 내용을 잘 이해하고 수업에 적극적으로 동참하는지 알 수가 없어 불편한 부분이 있다고 답했다: “대면 수업과 달리 학생들의 반응을 알 수 있는 방법이 없다. 이해를 잘하고 있는지, 난이도가 적당한지 알 수 없어 답답하다” (교수자1).

다수의 학생 참가자들은 교수자들이 과제 부여와 제출 현황을 통해 학습 상태를 확인하려고 한다고 말하였다. 하지만 학생 참가자들은 과도한 과제로 인한 피로감을 언급하며, 학습 상태 파악의 문제가 교수자와 학생 모두에게 심각하다는 것을 설명하였다.

3. 디자인 제안

위 실험을 통해서 녹화 영상 기반 수업이 학생의 자발적 학습 진행, 학습 관리, 수업 참여자 간 상호작용, 학습 이해도 파악에 취약하다는 점을 확인하였다. 본 연구진은 이 상황을 개선하기 위한 대안 중 하나로 학습자의 ‘학습 히스토리 데이터를 활용한 녹화 영상 기반 수업 시스템’에 대해서 탐색하고자 한다. 학습 히스토리 데이터를 활용하는 녹화 영상 기반 교육 시스템을 제안하기 위해서 영상 감상 중에 사용자의 반응을 모니터링하는 연구 사례들을 분석하였고, 그 중 녹화 영상 기반 수업 중 학습자의 상태를 확인할 수 있는 실현 가능한 방법을 추려내었다. 수업 진행 및 학습에의 적합도와 실현 가능성을 종합하여 최종 시스템을 디자인 및 개발하였다.

3. 1. 디자인 대안 탐색

기존 연구 사례 중 영상을 시청할 때 시청자의 히스토리 데이터를 생성하여 상태를 모니터링하는 방식을 조사하여, 여러 디자인 가능성을 탐색하였다. 그 결과로 아래와 같이 녹화 영상 기반 학습 히스토리를 생성할 수 있는 다양한 방식들을 도출할 수 있었다(Table 1).

Table 1
Types of learners' history data to the recorded video

학습 영상 시청 중 모니터링 가능한 학습자 히스토리 종류 관련 연구 사례
무의식적
반응 히스토리
학습자가 영상 강의를 시청할 때, 학습자가 자각하지 않는 상태로 시스템이 측정할 수 있는 생체적, 행동적 반응들을 활용할 수 있는 학습 히스토리 생체신호 기반
히스토리
• 뇌파 (EEG 신호) 활용 (Wang, Zhu, Wu, & Ji, 2014)
• 심박 신호 활용 (Chakraborty & Tjondronegoro, 2015; Pham & Wang, 2018; Xiao & Wang, 2016)
행동 기반
히스토리
• 영상 내 화면에의 시선 경로 기록 (Srivastava et al., 2021)
• 신체 움직임 (Kim & Kim, 2018; Terai et al., 2020)
스크린 인터랙션
기반 히스토리
• 화면 넘김/ 영상 속도조정 / 화면포커스 등을 기록 (M. N. Giannakos, Chorianopoulos, & Chrisochoides, 2015; Sinha, Jermann, Li, & Dillenbourg, 2015)
의식적
반응 히스토리
영상 강의을 보면서 학습자가 질문을 남기거나, 타임라인에 마킹을 해놓는 등의 히스토리 타임라인 마킹 • 영상 재생 중 마킹을 남기기 (Shin, Ko, Williams, & Kim, 2018)
메모 • 영상에 대한 짧은 메모 기록 (Lee, Cha, & Nam, 2015)

본 연구진은 크게 학습자의 의식, 무의식 상태를 기준으로 활용 가능한 학습자 히스토리 데이터를 분류해보았다. 무의식적 반응 히스토리란 학습자가 영상 강의를 시청할 때 학습자가 자각하지 않는 상태로 시스템이 측정할 수 있는 생체적, 행동적 반응들로 정의할 수 있다. 또한 마우스의 움직이나 화면 전환과 같은 스크린 내 인터랙션 기록도 포함된다.

의식적 반응 히스토리란 영상 강의을 보면서 학습자가 질문을 남기거나, 타임라인에 마킹을 해놓는 등의 기록을 의미한다. 즉, 학습자가 의식하고 판단하여 추후 학습이나 교수자와의 상호작용을 위해 남기는 기록이라고 볼 수 있다. 기존의 상용화된 시스템들은 주로 이러한 방식으로만 학습 기록을 남기고, 학습자 본인만이 그 기록을 확인하는 방식이다.

본 연구진은 학습자 히스토리를 활용한 녹화 영상 기반 학습 시스템을 디자인 및 개발할 때 조사했던 히스토리 수집 방식들 중 일부만을 선별적으로 활용하였다. 학습자의 공부하는 상황을 방해하지 않아야 하기 때문에 부피가 크고 착용이 불편한 센서를 활용해야 하는 경우는 활용을 배제하였다. 또한 사용자의 사적인 정보가 너무 많이 노출될 수 있다고 판단한 경우도 활용에서 배제하였다.

3. 2. 학습자 히스토리를 활용한 녹화 영상 수업 시스템 제안

본 연구진의 위와 같은 디자인 대안들을 탐색하고, 현재의 녹화 영상 기반 교육 시스템에 학습자 반응 히스토리를 활용한 기반의 기능들을 더하여 ‘Spark Player’라는 학습자 히스토리 활용 녹화 영상 시스템을 제안한다 (설명 영상: https://youtu.be/CAWrZQltVDc).

3. 2. 1. 시스템 구성

본 Spark Player 시스템은 온라인 강의를 학습하는 동안 집중력을 측정하기 위한 뇌파 측정 센서(NeuroSky MindWave Mobile+)와 학습자가 자리에 위치하고 있는지 확인하기 위한 웹캠(Logotech 1.3-MP Webcam C300), 그리고 영상 강의를 시청하고 히스토리를 제어하는 인터페이스로 구성된다(Figure 1, Figure 2). 전체 인터페이스는 .Net Framework 3.7 기반의 WPF(Windows Presentation Foundation)을 기반으로 개발하였으며, 영상을 제어하는 인터페이스는 WPF에서 제공하는 Media Element를 사용하였다.


Figure 1 Hardware Configuration of Spark Player

Figure 2 Interface of Spark Player
3. 2. 2. 학습 지원 주요 기능과 구현

이 시스템은 녹화 영상 기반 수업을 수강하면서 학습자의 히스토리 데이터를 남겨 학습자와 교수자의 수업 진행을 지원할 수 있는 기능들을 내장하고 있다(Figure 3-5).

(1) 무의식적 학습 히스토리 기록

Spark Player는 세 가지 방식으로 학습자의 무의식적 학습 히스토리를 기록할 수 있다.

• 뇌파 모니터링: 뇌파신호 중 EEG는 학습자가 의식하지 않아도 학습자의 집중도를 측정할 수 있는 지표가 된다. 본 연구에서 사용하는 Mindwave 센서는 1-Channel의 건식전극으로 구성되어 전두엽(Fp1)의 EEG 신호를 기록하기 위한 장치이다. 이를 사용하면 512Hz의 Row Data, 주파수 대역의 크기(델타(δ)파, 세타(θ)파, 알파 (α)파, 베타 (β)파, 감마 (γ)파)뿐만 아니라 Meditation/Relaxation(명상/이완), Attention/Focus(주의/집중), Blink(눈 깜박거림) 모드를 활용하여 채널 정보를 수집할 수 있다. 본 연구에서는 Neurosky Developer에서 제공하는 ThinkGear SDK for .Net을 기반으로 C# 개발 환경에서의 라이브러리를 통해 Attention/Focus(주의/ 집중) 지표를 수집하였다.

• 착석 및 모니터 응시 여부 모니터링: Spark Player는 컴퓨터 웹캠을 통해서 학습자의 얼굴을 인식하고 학습자가 모니터를 응시하고 있는지를 감지한다. 이를 통해서 녹화 영상을 켜둔 채로 자리를 이탈하는지 또는 산만한 행동을 하고 있지 않는지 등의 상황을 감지할 수 있다. 이와 같은 기능은 OpenCV(Open Source Computer Vision) 라이브러리의 Haar Cascade를 사용하였다. 본 연구에서는 OpenCV에 미리 학습된 Haar의 얼굴 검출기를 사용하였으며, 1초 단위로 샘플링하여 웹캠의 화면으로부터 얼굴의 정면이 나타나지 않을 시 Figure 3과 같이 알림을 띄워주고 영상을 일시정지 상태로 변환한다.


Figure 3 Collecting a learner's unconscious history data

• 마우스 커서의 화면포커스 여부 모니터링: 온라인 강의를 수강하는 상황에서 학습자들은 학습 영상을 재생시켜둔 채로 다른 콘텐츠나 서비스를 이용하는 경우가 많이 있다. 예를 들면, 학습자가 강의 영상을 켜둔 채로 뉴스 기사를 읽거나 웹툰을 감상하는 등 강의에 집중하지 못하는 상황은 우리 일상에서도 흔히 마주칠 수 있는 문제 상황이다. Spark Player는 녹화 영상을 재생하는 중에 플레이어에 마우스 커서가 포커스되어 있는지(커서가 해당 창에 올라와 있는지) 아닌지를 모니터링한다. 만약에 다른 창에 마우스 커서가 올라가 있다면 학습자가 수업에 집중하지 않는 구간으로 히스토리를 생성한다.

(2) 의식적 학습 히스토리 기록


Figure 4 Creating a learner's conscious bookmark and memo

Spark Player는 일반적인 동영상 플레이어와 같이 학습자가 수업 영상을 보다가 원하는 시점에 북마크를 남길 수 있는 기능을 지원한다. 녹화 영상을 보다가 북마크를 남겨 몇 분 몇 초였는지를 기록하고 그 부분에서 궁금했던 점이나 생각을 메모글로 남겨놓을 수 있다.

(3) 학습자 히스토리 기반 영상 다시보기

Spark Player는 학습 영상을 시청하는 중에 1초 단위로 주의력/집중력(Attention), 착석 및 모니터 응시, 학습 화면에의 마우스 커서 포커스, 의식적 북마크와 메모를 CSV파일로 저장한다. 예를 들어, 학습자A의 데이터는 <Table 2>와 같다.

Table 2
Example of a history data stored after learner's watching a video

Time(s) 뇌파 활용 주의/
집중 점수
뇌파 활용 주의/
집중 여부
자리 이탈 여부 화면 포커스 의식적 북마크
여부
의식적 북마크
메모
1 65 TRUE FALSE FALSE - -
2 66 TRUE FALSE FALSE - -
3 68 TRUE FALSE FALSE - -
4 72 TRUE FALSE FALSE - -
5 77 TRUE TRUE FALSE - -
6 89 TRUE TRUE FALSE - -
7 98 TRUE TRUE FALSE - -
8 92 TRUE TRUE FALSE - -
9 88 TRUE TRUE FALSE - -
10 75 TRUE TRUE FALSE TRUE 수업시작!
11 55 FALSE TRUE FALSE - -
12 42 FALSE FALSE FALSE TRUE CSS 개념에 대한 설명
2000 87 TRUE FALSE FALSE - -

Spark Player는 이러한 히스토리 데이터를 기반으로 복습을 할 수 있도록 지원한다. 녹화 영상이 모두 재생되면, 전반적인 학습 상태에 대해서 평가한 결과를 보여준다. 뇌파를 활용한 주의력/집중력 지수가 60점 미만(F와 D)일 경우 FALSE로 저장되어 집중하지 못한 파트로 판단하여, 결과 인터페이스에서 복습할 수 있다(Figure5). 이런 기준값들은 여러 차례의 파일럿 테스트를 거쳐 시청자의 집중/비집중 시의 신호값을 통해서 도출해낸 것이다. 뇌파 데이터와 동일하게 자리 이탈 및 마우스의 화면포커스 데이터가 TRUE일 시 그 시간의 영상 부분은 제대로 시청하지 않은 것으로 판단하여, 복습을 할 수 있도록 지원한다. 즉, 뇌파 센서, 카메라, 화면포커스 여부로 무의식적 학습 상태를 기록할 수 있었는데, 강의 영상을 다 보고 나서 Spark Player는 하나의 영상을 본 히스토리를 생성하고 특히 집중도가 낮은 것으로 파악되는 부분에는 북마크를 생성해준다. 다양한 이유들로 인해서 학습자가 녹화 영상에 집중하지 못한 부분들을 시스템이 알려주고 다시 재생할 수 있도록 하여 필요한 부분만 집중적으로 복습할 수 있도록 한다.


Figure 5 Replaying a video based on the learner's history data

의식적으로 북마킹을 해놓은 히스토리들도 의도적 북마크을 클릭하면 해당 부분으로 영상을 돌려볼 수 있고, 그때의 메모도 다시 확인할 수 있어 교수자와의 소통 또는 학습자의 주도적 학습에 활용할 수 있다.

4. 연구2: 학습자 히스토리 활용 학습 관리 시스템에 대한 효용성 예측과 평가
4. 1. 사용자 조사 목적 및 방법

이 조사 단계에서는 학습자의 녹화 영상에 대한 히스토리 데이터 생성이 수업 진행에 도움이 될 수 있는지 알아보고 동반될 수 있는 문제점을 탐색해보고자 사용자 조사를 진행하였다. 세부적으로 (1) 학습자의 경우, 자기주도적 학습에 도움이 되는가 , (2) 교수자의 경우, 학습자 관리 및 수업 준비에 도움이 되는가, (3) (학생, 교수 공통) 학습자 모니터링 정보는 어떻게 수집하고 관리되어야 하는지를 중심으로 연구를 수행하였다.

녹화 영상을 기반으로 온라인 수업을 진행하는 교수자 2명을 실험 참가자로 먼저 섭외하였다. 실험 진행을 위해 교수자인 실험 참가자에게 본인의 녹화 영상 2주치를 미리 요청하여 Spark Player에서 재생이 가능하도록 설치하였다. 교수자1의 수업은 영상 제작에 대한 실습 수업이며 교수자2의 수업은 프로그래밍 이론과 실습 관련 수업이었다. 그리고 해당 수업을 수강해보지 않은 학부 학생을 4명 모집하여 녹화 영상을 기반으로 수업을 진행해보도록 하였다. 각 2명씩 교수자1과 교수자2의 수업에 참여를 배정하였다. 2주간에 걸쳐서 1주일에 하나씩 수업 자료들을 Spark Player로 수강하게 하였으며 그때의 학생 상태를 모니터링하고 기록하였다. 학생들에게 실제로 온라인 녹화 영상 수업에 참여하는 느낌을 주기 위해서, 실험을 참가하는 환경을 최대한 일상적인 공간처럼 꾸며놓고 참가자가 편안함을 느낄 수 있도록 하였다.

1주치의 수업 영상을 다 보고 나서, 해당 학습 히스토리 데이터를 학습자 본인뿐만 아니라 교수자도 볼 수 있도록 하였다. 그리고 나서 학습자 히스토리 활용 시스템에 대한 의견과 평가를 듣기 위한 인터뷰를 진행하였다. 학습자의 경우, 자기주도적 학습에 도움이 되는가를 중심으로 교수자의 경우, 학습자 관리 및 수업 준비에 도움이 되는가를 중심으로 인터뷰를 진행하였다

2주차에도 동일한 절차로 실험을 진행하였다. 2주차에는 특히나 Spark Player의 문제점, 개선 방식에 대한 의견을 들어보았다. 세부적인 사용성 이슈에 집중하기보다는 학습자 모니터링 데이터는 어떻게 수집하고 관리되어야 하는지의 이슈에 초점을 맞추었다. 또한 이러한 학습자의 히스토리 데이터를 활용한 시스템의 교육적 효과, 윤리적 적절성 등에 대해서도 파악하고자 하였다. 연구 방법1과 같이 수집한 데이터는 주제 분석을 활용하여 주제를 정의하였다. 이 분석 과정은 두 명의 연구자가 상호 검토하며 반복적으로 수행하였다.

4. 2. 사용자 조사 결과

실험 참가자들의 의견을 ‘학습자의 온라인 녹화 영상에 대한 학습 히스토리 데이터는 온라인 녹화 영상을 활용한 수업 진행에 도움이 되는가’를 중심으로 분석하였다.

4. 2. 1. 학습자의 자기주도적 학습에 도움이 되나?

(1) 녹화 영상 중 주요 부분 재학습

학습자1~4는 모두 녹화 강의 영상을 여러 차례 반복적으로 보면서 학습을 하는 경우가 많다고 하였다. 녹화 영상을 재차 보면서 복습을 할 때, 본인이 남겨둔 학습 히스토리가 도움이 된다는 의견이 있었다: “제가 쓰는 LMS상에서는 북마크 같은 걸 남길 수 있는 기능이 없는데, 여기서는 다양한 방식으로 북마크가 남겨져서 복습할 때 시간을 아낄 수 있을 것 같아요” (학습자2), “길이가 한 시간 정도 되는 강의 영상을 올리시는 교수님도 계시는데, 그런 영상에서 주요 요약본이 생기는 거라서 필요한 기능인 것 같다” (학습자3).

교수자의 입장에서도 학생들이 북마크를 만들어두었다가, 모르는 부분에 대해서 더욱 적극적으로 질문할 수 있지 않을까라는 긍정적인 전망을 하기도 하였다: “보통은 학생들이 질문을 잘 하지 않아요. 그래서 저는 수업 때 퀴즈를 보게 하거나 영상에 대한 질문을 2개 이상 남기라고 시킵니다. 근데 이런 시스템이 있으면 학생들이 자기가 모르는 부분을 교수자에게 더욱 자세히 전달하고 피드백을 받으려고 할 것 같아요” (교수자2).

(2) 수업 중 자기 감시

실험에 참여한 학생들의 경우, 본 시스템이 학습 상황에 집중하게 도움을 주고 홀로 학습할 때의 문제를 잡아주는 느낌이었다고 언급하였다. 이 시스템이 학습자를 지속적으로 모니터링하고 있다는 점과 학습 태도에 대한 평가를 보여준다는 점에서 학습자들은 수업 중 적당한 수준의 긴장감을 갖고 녹화 영상을 시청하였다고 말했다: “현재 시스템에서 영상 재생 중에 내가 집중하고 있는지 아닌지 지적하는 것만으로도 충분히 자극이 된다. 마지막에 보여주는 집중도 등급이 신경쓰인다.” (학습자1), “데이터 페이지를 통해 복습할 수 있는 것은 좋은 것 같고 집중력이 낮은 부분을 보여주니까 많이 나온만큼 반성을 하게 되는 것 같다” (학습자4).

학습자1, 2의 경우에는 원래 친구 관계로 본 실험에서 같은 수업을 수강하였는데, 친구끼리 학습 히스토리를 비교하는 상황도 발생하였다. 본인과 상대방의 학습 히스토리가 어떠하였는지 비교하며 경쟁심을 느끼는 듯한 인상을 받을 수 있었다. 그렇지만, 누군가가 나의 집중력을 테스트하고 있다는 느낌으로 부담감을 갖게 되고 긴장하게 되어 오히려 공부에 방해된다는 의견도 있었다: “이 시스템이 나의 집중도 뇌파를 감지하고 있다는 생각을 하다보면 영상 콘텐츠에 오히려 집중을 못 하게 되기도 하였다” (학습자2). 학생1은 영상을 시청하는 동안 잠깐 멈추고 있을 때에도 집중력이 낮게 측정될까봐 걱정이 되었다고 언급하였다. 이처럼 수업 내용에 대한 이해도나 수업 참여에서의 태도에 대한 우려보다 시스템이 측정하는 집중도 데이터 자체에 대해서 과도하게 신경을 쓰게 되는 현상도 발견되었다.

(3) 습관 개선을 위한 학습 태도 코칭

교수 참가자 중 한명은 Spark Player가 학생 개개인의 특징을 잡아내서 학생 스스로 본인의 학습 태도를 깨닫게 하는 방식이 가능할 것으로 예상하였다: “학생들만의 고유의 습관이 있어요. 어떤 학생은 수업 자료를 몰아보기도 하고 새벽에 보기도 하고 콘텐츠를 조금씩 자주 보기도 해요. 근데 그거를 본인은 모를 수 있단 말이에요. 이러한 학습 습관을 데이터로 시각화해서 보여주면 학생들도 본인의 습관을 파악하고 저(교수)도 파악하는 데에 도움이 될 것 같아요” (교수1).

실제 예시로 학생 참가자들은 인터뷰 중 녹화 수업 수강 집중도를 높이기 위한 본인만의 습관이 있다고 언급하였다: “저는 조용한 새벽에 강의 영상을 보는 편이다. 1시간에서 2시간 정도 되면 그다음부터는 집중이 안 되기 때문에, 다른 일을 하다가 돌아오든지 한다” (학습자4). 이러한 학생들의 자기만의 학습 습관에 대해서, 교수자1은 시스템의 결과값을 기반으로 교수자가 학생의 태도에 대해서 지적하기보다는 성인인 학생 스스로가 깨닫고 태도를 개선할 수 있게 지원하는게 좋겠다고 언급하였다.

그러나 실험에 참여한 교수2의 경우, 하나의 영상에 대한 학생 여러 명의 학습 데이터를 종합하여 한 반의 학생들의 공통적인 어려움을 파악할 수는 없을 것이라고 언급하였다. 그 이유로 학생의 수업 태도에 영향을 주는 변인들이 너무 많을 것이기 때문이라고 설명하였다.

4. 2. 2. 교수자의 학습자 관리 및 수업 준비에 도움이 되나?

(1) 의식적 북마킹을 교수의 수업 자료 개선 용도로 활용

실험에 참여한 교수1은 학생들이 시스템을 사용해보고 직접 북마킹을 하여 모르는 부분에 대해서 표시해놓은 부분은 수강생들이 어떤 부분을 어려워하는지 정확하게 파악할 수 있게 함으로써 교수자에게 도움이 된다고 언급하였다. 학생들의 북마크 위치와 메모 내용을 활용하면 수업 자료를 교수자가 직접 평가해보고 수정하는 데 도움이 될 것으로 판단하였다. 또한 학생 참가자1~4도 교수자가 수업 난이도를 조절하거나 학생들과 상호작용하는 데 수업 데이터를 활용하면 좋겠다고 언급하였다. 단, 교수자1은 정성적인 데이터가 보충이 되면 더 도움이 될 것 같다고 응답하였다: “구간별로 학생들이 (남긴) 정성적인 정보, '교수님 이부분에선 너무 지루했어요.'와 같은 실제 수업에 대한 피드백, 수업 발전에 도움을 주는 정성적인 코멘트들을 볼 수 있다면 수업에 반영하려고 할 것이다” (교수자1).

(2) 무의식적 히스토리를 통한 학습 태도 및 이해도 파악의 어려움

실험에 참여한 교수자들은 학생별 무의식적 히스토리와 그것을 종합한 평가 데이터를 학생 개개인의 학습 태도나 수업에 대한 이해도를 평가하는 데 활용하기는 어렵다고 언급하였다. 그 이유로는 학생마다의 개인차, 학생마다의 환경적 요인 등 녹화 수업 중 기록된 데이터에 영향을 줄 수 있는 변수들이 너무 많기 때문이었다: “학생들이 영상 수업을 할 때 대부분 초반에 집중력이 높거든요. 근데 어느 순간 떨어지는 거는 되게 개별적인 변수가 되게 많을 거 같아요. 수강한 시간에 따라서, 장소에 따라서도 변할 수 있어요” (교수자1).

이처럼 학생별로 수업 집중에 영향을 주는 요인이 다양하여 학생들의 상황에 대해서 교수가 평상시의 학생에 대한 정보를 종합하여 판단해야 하는 부분도 있을 것이라고 언급하였다. 즉, 교수자가 학생의 상황을 어느 정도 파악할 수 있고, 보다 잘 파악하는데 보조적인 역할로서 시스템을 활용해야 한다고 제안하였다: “제가 지금 실시간 강의를 하고 있는데 누가 졸고 있으면, 집중력이 떨어진다거나 학생들이 다른 걸 보고 있다고 실시간으로 알려주면 그걸 가지고 제가 얘기를 할 수 있을 것 같긴 해요. 근데 녹화 영상 수업을 진행하는데, 사후의 데이터를 가지고 학생들에게 ‘왜 안 보니’ 같은 방식으로 지적할 수는 없을 것이다.” (교수자2)

4. 2. 3. 학습자 모니터링 정보는 어떻게 수집하고 관리되어야 하나?

(1) 민감한 사적 데이터 활용의 부작용 우려

학습자와 교수자 모두 학습 히스토리 데이터가 공개되는 것은 주의해야 한다는 의견이 지배적이었다. 단순히 정보의 공개를 넘어서서 사용자의 정보가 악용되지 않도록 관리해야 한다는 의견들을 얻을 수 있었다.

예를 들면, 학생 참가자들은 동료 학생들과의 비교, 공유는 과도하다고 지적하였다. 학생 참가자들은 이 시스템이 자기주도적 수업, 본인 관리에는 도움이 될 수 있다고 평가하였으나 동료 학생과의 비교를 통하여 학습을 자극하는 활용 방식에는 부정적이었다: “다른 사람이 얼마나 집중했는지보다 내가 얼마나 집중했는지가 더 중요하다” (학습자3), "서로의 동기부여까지는 안 될 수도 있을 것 같다. 더 개인적으로 접근해야 한다. 아니면 상대적 박탈감에 휩싸일 것 같다” (학습자4).

또한 교수자나 부모가 학생들의 히스토리 데이터를 실제 학생을 평가하는 용도로 사용하면 안 된다고 우려하였다. 예를 들면, 학습자3은 학생이 스스로 예습과 복습을 하여 수업 중 이해되지 않았던 부분을 해결해 나갈 수도 있는데, 학생의 초기 집중도가 낮다고 하여 교수자가 바로 수업 난이도를 낮추거나 학생의 수준을 단정해버리는 것은 학생에게 불이익이 될 수 있다고 말하였다. 학습자의 평가 용도로 학습 히스토리가 활용된다면, 학생들이 수업에 집중하는 척을 하거나 수업에 집중했다는 결과를 만들어내기 위해 다양한 속임수를 쓸 수도 있다고 언급하는 참가자(학습자1,2,3)도 있었다: “옆에 유튜브 화면을 틀어놓는다든가 하면은 다른 거에 집중해가지고 오히려 그런 면에서 막 다르게 해가지고 집중하는 걸로 할 수 있지 않을까요?” (학습자3).

(2) 사용자의 특성과 행동에 맞는 히스토리 데이터 활용 필요

실험 참가자들은 학습 관리의 최적화를 위해서는 사용자의 특성과 행동에 맞는 반응을 확보하는 것이 중요할 것이라는 의견을 피력하였다. 예를 들어, 학습자1-4는 대학생들이 출석 인증만을 위해서 영상 배속을 높여서 영상을 시청하는 경우가 많다고 언급하였다. 반면에 초등학생의 경우에는 성인에 비해서 집중할 수 있는 시간이 짧아 수업을 듣다가 자리를 이탈하는 것 같은 행동 기반 반응이 더욱 도드라질 것이다.

이처럼 시스템이 수행할 수 있는 학습자 히스토리 생성과 모니터링 방식을 모두 사용하는 것보다는 사용자의 특직정인 상황만을 포착하여 히스토리 데이터를 최소화하는 것이 바람직할 것이라고 언급하였다: “생체 데이터에 대해서는 신중해야 할 수 있다. 다 큰 성인이고 사생활 침해하지 않는 선에서 학생들의 습관을 모니터링할 수 있지 않을지 고민해야 한다” (교수자2). 즉, 타깃 유저별 특성을 탐색하여 너무 과한 사용자 반응은 제한하여 사용하는 편이 바람직할 것이다.

5. 논의 및 결론

본 연구는 다양한 온라인 수업의 형태 중 녹화된 영상을 학습 관리 시스템 (Learning Management System)에 올려두고 수업을 진행하는 ‘녹화 영상 기반 온라인 수업’에 초점을 두고 연구를 진행하였다. 학습자 및 교수자와의 인터뷰를 통해서 녹화 영상 기반 수업이 자기주도적인 학습 일정 관리, 학습 중 흥미 유지, 학습자의 성취 수준 모니터링에 취약하다는 점을 확인하였다.

현 상황을 개선하여 전인적 교육 효과와 수업 진행 지원을 위한 대안 중 하나로 학습자의 학습 히스토리 데이터를 활용한 녹화 영상 기반 수업 시스템에 대해서 연구를 진행하였다. 영상 감상 중 사용자의 무의식적 또는 의식적 학습 히스토리를 기록하는 Spark Player를 개발하였으며, 학습자 및 교수자와를 대상으로 하는 실험을 통해서 그 효과에 대해서 알아보았다. 학습자들은 히스토리를 복습에 활용할 수 있다는 점과 수업 중 자기 감시가 가능하다는 점을 긍정적으로 평가하였다. 교수자들은 의식적 북마킹은 학습자들의 반응을 파악하는 데 도움이 될 것으로 언급하였다. 그러나 학습자 개개인의 무의식적 히스토리 데이터는 영상 수강 환경이나 개인의 특성에 따라서 매우 편차가 크기 때문에 수업 진행에 활용하기 어려워하였다. 마지막으로 사적 데이터 활용이 부작용을 낳을 수 있으며, 사용자의 특성과 행동에 맞는 학습 히스토리 유형을 활용해야 한다는 점을 발견하였다.

교과목들의 다양한 특성을 반영하지 못한 점과 녹화 영상 기반의 온라인 수업 방식에 한정하여 시스템 제안과 실험을 진행한 점은 연구의 한계로 남아있다. 수업의 진행 방식이나 수업의 내용, 교수자의 콘텐츠 제작 유형, 학생의 연령 등도 학습자에게 복합적으로 영향을 줄 수 있을 것이기에 추후 연구가 필요하다. 하지만 이 연구에서 얻어낸 디자인 고려사항이나 발견점을 토대로 하여 실시간 온라인 수업 방식에서 학습자나 교수자를 지원할 수 있는 시스템으로의 확장 연구를 진행할 수 있을 것이다. 또한 온라인 수업 방식을 통한 자기주도 학습에 익숙하지 않은 사용자에 초점을 둔 학습 지원 시스템 개발에도 본 연구의 결과를 활용할 수 있을 것이다.

Acknowledgments

This work was supported by the National Research Foundation of Korea Grant funded by the Korean Government (NRF-2020R1F1A1048190).

References
  1. 1 . Braun, V., & Clarke, V. (2006). Using thematic analysis in psychology. Qualitative research in psychology, 3(2), 77-101. [https://doi.org/10.1191/1478088706qp063oa]
  2. 2 . Chakraborty, P. R., Zhang, L., Tjondronegoro, D., & Chandran, V. (2015, June). Using viewer's facial expression and heart rate for sports video highlights detection. In Proceedings of the 5th ACM on International Conference on Multimedia Retrieval (pp. 371-378). [https://doi.org/10.1145/2671188.2749361]
  3. 3 . Choi, J., Kwon, M., & Choi, E.-K. (2020). A Study on the Instructor Perceptions and Satisfaction levels of Real-time Online Classes: Focusing on the case of Korean language program at D University. Journal of Dong-Ak Language and Literature, 81, 135-168. [https://doi.org/10.25150/dongak.2020..81.005]
  4. 4 . Giannakos, M., Krogstie, J., Giannakos John Krogstie Nikos Chrisochoides, M., Giannakos, M. N., & Chrisochoides, N. (2014). Reviewing the Flipped Classroom Research: Reflections for Computer Science Education. ACM, 7, 23-29. [https://doi.org/10.1145/2691352.2691354]
  5. 5 . Giannakos, M. N., Chorianopoulos, K., & Chrisochoides, N. (2015). Making sense of video analytics: Lessons learned from clickstream interactions, attitudes, and learning outcome in a video-assisted course. International Review of Research in Open and Distance Learning, 16(1), 260-283. [https://doi.org/10.19173/irrodl.v16i1.1976]
  6. 6 . Giannakos, M. N., Sampson, D. G., & Kidziński, Ł. (2016). Introduction to smart learning analytics: foundations and developments in video-based learning. Smart Learning Environments, 3(1), 12. [https://doi.org/10.1186/s40561-016-0034-2]
  7. 7 . Kim, S., & Kim, C. (2018). Study on Flow-emotion-state for Analyzing Flow-situation of Video Content Viewers. Journal of Korea Multimedia Society, 21(3), 400-414.
  8. 8 . Lee, M.-H., Cha, S., & Nam, T.-J. (2015). Impact of digital traces on the appreciation of movie contents. Digital Creativity, 26(3-4). [https://doi.org/10.1080/14626268.2015.1087410]
  9. 9 . Pham, P., & Wang, J. (2018). Adaptive Review for Mobile MOOC Learning via Multimodal Physiological Signal Sensing - A Longitudinal Study. Proceedings of the 2018 on International Conference on Multimodal Interaction - ICMI'18, 63-72. [https://doi.org/10.1145/3242969.3243002]
  10. 10 . Shin, H., Ko, E.-Y., Williams, J. J., & Kim, J. (2018). Understanding the Effect of In-Video Prompting on Learners and Instructors. Proceedings of the 2018 CHI Conference on Human Factors in Computing Systems - CHI'18, 1-12. [https://doi.org/10.1145/3173574.3173893]
  11. 11 . Sim, S., & Han, K.-S. (2021). A Meta-analysis on the Self-Directed Learning of Gifted and Students in Online Distance Learning: Elementary vs. High School and vs. Online Class. Journal of Gifted/Talented Education, 31(1), 17-35. [https://doi.org/10.9722/JGTE.2021.31.1.17]
  12. 12 . Sinha, T., Jermann, P., Li, N., & Dillenbourg, P. (2015). Your click decides your fate: Inferring Information Processing and Attrition Behavior from MOOC Video Clickstream Interactions. Proceedings of the 2014 Conference on Empirical Methods in Natural Language Processing (EMNLP), 3-14. [https://doi.org/10.3115/v1/W14-4102]
  13. 13 . Srivastava, N., Nawaz, S., Newn, J., Lodge, J., Velloso, E., Erfani, S. M., … Bailey, J. (2021). Are you with me? Measurement of learners' video-watching attention with eye tracking. ACM International Conference Proceeding Series, 88-98. [https://doi.org/10.1145/3448139.3448148]
  14. 14 . Terai, S., Shirai, S., Alizadeh, M., Kawamura, R., Takemura, N., Uranishi, Y., … Nagahara, H. (2020). Detecting learner drowsiness based on facial expressions and head movements in online courses. International Conference on Intelligent User Interfaces, Proceedings IUI, 124-125. [https://doi.org/10.1145/3379336.3381500]
  15. 15 . Wang, S., Zhu, Y., Wu, G., & Ji, Q. (2014). Hybrid video emotional tagging using users' EEG and video content. Multimedia Tools and Applications, 72, 1257-1283. [https://doi.org/10.1007/s11042-013-1450-8]
  16. 16 . Xiao, X., & Wang, J. (2016). Context and cognitive state triggered interventions for mobile MOOC learning. Proceedings of the 18th ACM International Conference on Multimodal Interaction - ICMI 2016, 378-385. [https://doi.org/10.1145/2993148.2993177]
  17. 17 . Zimmerman, J., Forlizzi, J., & Evenson, S. (2007). Research through design as a method for interaction design research in HCI. In Proceedings of the SIGCHI conference on Human factors in computing systems - CHI '07 (pp. 493-502). [https://doi.org/10.1145/1240624.1240704]