“ ChatGPT가 무섭다. 우리는 위험할 정도로 강한 인공지능으로부터 멀리 있지 않다.”1)

 ChatGPT의 출발점은 일론 머스크(Elon Musk)였다. 그는 2015년 샘 알트만(Sam Altman)과 함께 비영리단체인 Open AI를 설립하며, 인류에게 안전하고 유익한 인공지능을 개발하기로 하였다. 근 미래에 강한 인공지능(strong AI)2)의 시대가 된다면 인간을 위협할 수 있으니, 이에 맞서기 위해 인간이 초인으로 거듭나야 한다는 것이 그의 생각이었다.3) 그는 경영상의 이유로 Open AI를 떠났지만, 2023년 2월 아랍에미리트 두바이에서 열린 세계정부정상회의(World Government Summit)에서 “미래 문명에서 가장 큰 위험 중 하나가 인공지능(One of the biggest risks to the future of civilization is AI)”이라고 말했다.4)

 ChatGPT는 ‘Generative Pre-Training(생성형 사전학습)’에 기초한 언어 모델이다. 이때, ‘Generative’, 즉 ‘생성’이 무슨 뜻인가? 고정된 답변을 내놓는 것이 아니라, 물어볼 때마다 새로운 답변을 한다는 것이다. 만일 오답을 내놓는다면, 오답노트를 통해 정답을 내놓는 것처럼 새롭게 학습해 다음 질문에 새로운 답변을 생성한다. 실제로 필자는 2023년 3월 10일과 11일 양일 동안 ChatGPT에게 “ChatGPT는 저작권자가 될 수 있나요?”라고 질문했고, 내용은 비슷하더라도 서로 다른 답변을 여러가지 받을 수 있었다. 첫 번째 대답은 문장이 다소 어색하기도 했고, 용어 역시 적합하지 않은 부분이 있었다. 그러나 같은 질문을 거듭하며 답변을 얻는 가운데, 오류가 있는 부분을 지적하면 ChatGPT는 조금씩 고쳐 나아간 대답을 한다는 점이 흥미로웠다.

 ChatGPT로 시나 소설을 생성할 수 있는지에 관한 담론도 있다. 필자는 몇 가지 조건을 정해서 ChatGPT에게 시를 지어 달라고 요구했다. 그렇게 생성된 시들 중 마음에 드는 것 하나를 선택하여, 제목을 지어달라고 하자, “숨겨진 세계”라는 제목이 생성되었다. 이때, ‘창작’보다는 ‘생성’이란 단어를 선택한 까닭은, 결과적으로 시나 소설의 외양을 가지고 있다고 하더라도 과연 창작성이 인정될 수 있는지 여러 가지로 논란이 될 수밖에 없기 때문이다.

 분명한 점은, 이렇게 생성된 시나 소설을 자신의 작품으로 공표하는 등으로 사용해서는 안 된다. 저작권 침해 문제는 차치하더라도, 일단 약관의 규정을 위반한 것이기 때문이다. Open AI가 제공하는 약관 제3조 제3항에 따르면, “사용자는 Open AI 서비스를 통해 생성되는 콘텐츠를 무단으로 사용하거나 재판매, 배포, 수정, 공개 또는 전송하여서는 안 됩니다. 사용자는 Open AI 서비스를 통해 생성되는 콘텐츠를 사용자가 소유하거나 관리하는 모든 웹사이트, 응용 프로그램 또는 제품에 사용할 수 없습니다.”라고 규정되어 있다.5)

 기존의 교육기관들은 비상이다. ChatGPT를 이용하여 과제물을 작성하거나 답안지를 제출하는 행위가 속속들이 발견되고 있기 때문이다. ‘Algiarism’, 즉, 인공지능에 의한 표절(AI-assisted plagiarism)로 취급된다. 전통적 의미의 표절이란 타인의 결과물을 무단으로 자신의 것으로 만드는 행위로서 반드시 범죄가 된다고 할 수는 없어도 적어도 윤리적 문제를 야기한다. 그러나 ChatGPT를 이용하는 경우, 그 ‘타인’이 누구인지 정확하게 알 수 없다. 즉, 무단으로 도용을 당한 피해자를 정확하게 모르므로, 완벽한 무단도용이라고 평가할 수 있다는 것이다.6)

 미국의 스탠포드 대학교의 학보 《스탠포드 데일리(Stanford Daily)》에 따르면, 2023년 1월 재학생 4,497명을 대상으로 익명의 조사를 실시했는데, 응답자 중 약 17%가 가을학기 과제와 시험을 위해 ChatGPT를 용한다고 응답했다. 일부 교수는 ChatGPT로 생성된 과제물이 있는지 물색에 나섰고, 일부 수업에서는 ChatGPT를 사용하는 것은 일종의 표절이라고 지적하였다. 최첨단을 지향해야 할 컴퓨터 사이언스 수업에서도 시험 자체가 ‘연필과 종이’에 기반한 전통적인 방식으로 돌아가기로 한 사례도 있었다.7)

 국내에서도 2023년 1월 수도권의 한 국제학교가 ChatGPT를 이용하여 영문 에세이를 작성한 학생들의 과제물에 대해 전원 0점 처리를 한 사례가 있었고, 국내 대학교 강의계획서에도 ChatGPT를 이용해 시험이나 보고서의 내용을 복사하여 붙여 넣는 행위를 허용하지 않겠다는 의지를 밝히는 사례도 늘어나고 있다.8)

 교육계 현장에서는 「ChatGPT ZERO」9)나 「프록토리오(proctorio)」라는 감시용 프로그램을 써서 문제적 행위를 적발하고자 하는 움직임도 있으나, 임시적 조치에 불과한 것으로 보인다. 모든 스마트 기능을 배제하고 종이로 된 문제지에 연필로 답을 적어낸다고 하더라도, 그것은 시험과 평가를 위한 공정성을 위한 것일 뿐, 그 이상 근본적인 문제점을 해결할 수는 없을 것이다.

 비물질문화가 물질문화를 따라잡지 못하는 문화 지체(cultural lag)10)란 개념을 떠올려보자.  과학기술은 빨리 발달하는데 비해, 문화와 제도는 느리게 변하며, 때로는 관성에 따라 저항한다. ChatGPT와 같은 인공지능 자체의 문제가 아니라, 기존의 교육 시스템으로 인공지능을 활용하는 세대를 평가할 수 없다. 이 맥락에서, 교육부는 2023년 2월 인공지능 시대의 맞춤형 교육에 관한 새로운 화두를 제시하는 간담회를 열었고, 암기력 위주로 지식전달에만 집중하던 우리나라 교육 체계를 개혁해야 할 필요성을 강조했다.11)

 2023년 3월 14일 Open AI는 ChatGPT4를 선보였다.12) 글쓰기부터 아니라 작곡, 각본의 작성에 대해서도 학습할 수 있다. 샘 알트만(Sam Altman)은 2023년 1월 17일 스트릭틀리 VC와 인터뷰에서 향후 그래픽이나 동영상의 생성까지 가능하게 될 것이며, 미래의 인공지능은 민주적으로 접근이 가능해질 수 있기를 바란다고 밝혔다.13) 언어를 비롯해 기존의 ‘인간의 저작물’로 여겨졌던 창작물들이 인공지능에 의해 대거 생성될 전망이다. 세상은 데이터와 인공지능에 의해 변화될 것이다. 그때, 우리 사회에서 가져야할 윤리적 수칙과 더불어 인공지능 시대에 적응할 수 있는 유연하고도 신축적인 교육 시스템과 제도적 기준에 대해 전면적으로 재검토해 보아야 할 시점이다.

---------------------------------

1) Elon Musk의 2022년 12월 4일 자 트위터 https://twitter.com/elonmusk/status/1599128577068650498
2) 뇌과학자 김대식 교수(카이스트)에 따르면, 약한 인공지능(weak AI)은 기계가 인간의 지적능력이 필요한 기능을 대체할 수 있는 수준에 불과하지만, 강한 인공지능(strong AI)은 자율적인 판단까지 가능하다. 그는 2021년 4월 채널 예스와 인터뷰에서 “개개인의 현실이 쪼개지고, 인공지능이 현실화되고 있는 지금은 인류 역사에 있어 거대한 변곡점”이라고 말했다.
3) KBS 뉴스(이승종 기자), 「[AI의 습격] ⑤ 일론 머스크는 왜 챗GPT를 떠났을까?」 (2023. 2. 14.)
https://news.kbs.co.kr/news/view.do?ncd=7604442
4) World Government Summit, 「A Conversation with Elon Musk 2.0」 (2023. 2. 15.)
https://www.youtube.com/watch?v=2IVQwzFzsBo&t=51s
5) https://beta.openai.com/terms/
6) 중앙 SUNDAY(김진경), 「숙제·시험에 챗GPT 활용 늘어, 대학들 대응책 마련 부심」(2023. 2. 11.) https://www.joongang.co.kr/article/25139780
7) The Stanford Daily(Mark Allen Cu, Sebastian Hochman), 「Scores of Stanford students used ChatGPT on final exams, survey suggests」,(Jan. 22, 2023.)
https://stanforddaily.com/2023/01/22/scores-of-stanford-students-used-chatgpt-on-final-exams-survey-suggests/
8) 동아일보(최미송 기자, 최원영 기자, 이문수 기자), 「[단독] 국내 국제학교 학생들, 챗GPT로 과제 대필 … ‘전원 0점’」(2023. 2. 9.)
https://www.donga.com/news/Society/article/all/20230209/117801590/1
9) https://www.zerogpt.com/
10) 미국의 사회학자 윌리엄 오그번(William Fielding Ogburn)의 1922년 저서 《Social Change with Respect to Culture and Original Nature》에서 제안된 개념이다. 국내 학자들은 이 서적에 담긴 주요 사상을 ‘사회변동론(社會變動論)’이라 부른다.
11) 시사저널(박선우 기자), 「챗GPT 등장에 ‘韓 교육 위기론’ 강조한 교육부 장관」(2023. 2. 16.)
https://www.sisajournal.com/news/articleView.html?idxno=256628
12) https://openai.com/product/gpt-4
13) Connie Loizos, StrictlyVC in conversation with Sam Altman, part two(OpenAI)
https://www.youtube.com/watch?v=ebjkD1Om4uw

서유경 변호사