지난 몇 년 동안 세상을 등지고 살아온 것이 아니라면, 이제는 ChatGPT와 같은 대형 언어 모델 (LLM)을 포함하는 생성형 AI가 학계 전반에서 널리 사용되고 있다는 것을 알고 계실 것입니다. 이러한 도구들은 임상시험 참가자 모집(Lu et al., 2024)부터 저널 제출용 논문의 초고 작성까지 연구의 여러 측면을 보다 쉽고, 빠르고, 간단하게 만들 수 있는 잠재력을 가지고 있습니다.
그러나 생성형 AI는 아직 초기 단계이며, 우리가 얼마나 안전하게 의존할 수 있는지에 대해 아직 모르는 것이 많습니다. 그렇기 때문에 새로운 기술을 받아들이면서도, 저널과 출판사는 AI를 어느 정도까지 허용할 것인지, 악의적이거나 무지한 AI 사용으로부터 학계와 일반 대중을 어떻게 보호할 수 있을지에 대한 치열한 논쟁을 벌이고 있습니다.
학술 출판 분야의 다양한 단체 중에서도, ICMJE(International Committee of Medical Journal Editors, 국제의학저널편집위원회)는 출판 윤리 분야에서 두드러진 역할을 하고 있습니다. ICMJE는 의학 저널 편집자 및 관련 기관의 대표들로 구성된 단체로, 의과학과 그 보고의 질을 향상시키기 위해 협력하고 있습니다. 공식적으로 의학 저널의 학술 연구 수행, 보고, 편집 및 출판에 대한 권고 사항으로 알려진 ICMJE 가이드라인은 주요 의학 저널부터 신규 저널에 이르기까지 다양한 의료 저널에서 채택하는 권장사항입니다.
따라서 연구 수행과 보고에 있어서의 인공지능 사용에 관한 지침과 원칙을 마련하는 데에 ICMJE가 가장 선두에 있는 것은 당연한 일입니다. 오늘은 AI활용에 관한 ICMJE의 주요 권고 사항을 자세히 살펴보겠습니다.
1. AI사용은 공개해야 합니다.
2023년 업데이트된 ICMJE 가이드라인에 따르면, 저자는 AI 사용 여부를 커버레터나 감사의 말 또는 방법 섹션 등에 적절하게 공개해야 합니다. 더 구체적으로 논문 작성, 편집 또는 교정에 AI 를 사용한 경우, 이를 논문의 사사, 즉 감사의 말(acknowledgements)에 기술하고, 데이터 수집 및 분석 또는 수치 작성에 AI 를 사용한 경우에는 방법(methods) 섹션에서 이를 보고해야 합니다.
기본적으로 ICMJE는 AI 기술 사용을 금지하지는 않지만, 연구 및 관련 논문에서 이러한 기술이 어떻게 사용되었는지 완전하고 투명하게 보고할 것을 강조합니다.
2. AI는 저자가 아닙니다.
어떤 AI 도구도 ICMJE에 따른 기본 저자 기준 중 하나인 논문 내용의 정확성, 무결성 및 독창성에 대한 책임을 충족할 수 없습니다. 따라서 연구나 논문에서 광범위하게 사용되었더라도 ChatGPT와 같은 AI 도구는 저자로 등재될 수 없습니다. 또한 ICMJE는 AI가 생성한 결과물이 부정확하거나 불완전, 편향적일 수 있다고 경고하며, 아무리 권위 있는 AI의 콘텐츠라도 저자가 신중하게 검토할 것을 경고합니다. 또한 AI가 생성한 텍스트나 이미지에 표절이 있는지 확인해야 합니다.
비슷한 맥락에서 AI 도구는 참고문헌 목록에 출처로 등재될 수 없습니다. 왜냐하면 AI는 학술 정보의 권위 있는 출처로 간주되지 않기 때문입니다.
3. AI는 원고 평가에 신중하게 사용해야 합니다.
2024년 1월 업데이트된 ICMJE 가이드라인에서는 “편집자는 AI 기술을 논문 원고 검토에 사용하는 것이 기밀 유지를 위반할 수 있다는 점을 인지해야 한다"고 언급하고 있습니다. 따라서 피어 리뷰어가 검토 보조 수단으로 AI 도구를 사용하려는 경우, 저널 편집자의 사전 허가를 받아야 합니다. 승인되지 않은 플랫폼이나 AI 소프트웨어에 전체 원고를 업로드하는 것은 기밀성 위반으로 간주될 수 있습니다.
또한 저자가 AI가 생성한 텍스트의 정확성과 객관성에 신중을 기해야 하는 것처럼, 피어 리뷰어 역시 AI가 생성한 검토 의견에 부정확한 정보 및 오류, 편향이 있을 수 있다는 점을 인식해야 합니다.
결론
AI 기술은 연구 과정에서 매우 유용할 수 있지만, 완벽한 것은 아닙니다. 한 학술지가 비정상적으로 큰 생식기를 가진 쥐의 AI 이미지를 게재하자, 과학자와 비과학자들 모두로부터 비웃음을 받은 일이 있습니다. 학계의 빈축을 사고자 하는 것이 아니라면, AI사용은 더욱 신중해야 합니다.
피어 리뷰어들 역시 무제한적 AI 사용의 위험성을 충분히 인식해야 합니다. 최근 Times Higher Education이 전 세계적으로 실시한 설문조사에 따르면, ChatGPT와 같은 인공지능 도구 사용에 대해 피어 리뷰어들의 불신이 높음을 알 수 있습니다. 2023년 6월, 미국 국립 보건원(NIH)은 피어 리뷰 과정에서 AI 사용을 금지했습니다.
따라서 AI를 사용하여 직접 원고를 작성하든 다른 사람의 작업을 검토하든, 어떤 도구도 자신의 지식, 경험, 전문성을 대신할 수 없다는 점을 기억하세요.
더 읽을 거리
