진행중
2026 AI Co-Scientist Challenge Korea - 연구윤리 Q&A
2025.12.09 - 2026.04.29
0
159
0
0

｢2026 AI Co-Scientist Challenge Korea AI 활용 연구윤리 권고사항｣

: 2026 AI Co-Scientist Challenge Korea 참가자 안내

 

<25. 12. 03(수). ASK 2026 운영위원회 연구윤리 분과>

 

 

 본 대회는 AI가 과학기술 연구의 동료로서 어떤 가능성과 한계를 갖는지 탐색하는 실험적 시도로서, AI가 연구 수행에 실질적으로 기여하는 것을 요건으로 합니다. 
이를 통해 AI 활용 연구의 실제 양상을 투명하게 드러내고 과학 혁신을 촉진하는 한편, 향후 학계의 규범을 정립하는 데에도 기여하고자 합니다. 
그럼에도 연구의 과정과 결과에 대한 최종 책임은 연구자에게 있습니다. 
AI를 활용하는 연구자는 연구 전 과정에 걸쳐 비판적 검토자이자 최종 판단자로서의 역할을 성실히 수행해야 합니다.

 

 

1. 연구진실성의 성실한 준수

  •  표절, 위조, 변조 금지 및 참고문헌의 정확한 인용 등 연구진실성 원칙은 AI를 활용한 연구에도 동일하게 적용됩니다.
    • AI가 생성한 텍스트에 타 문헌의 내용이 출처 표기 없이 포함되어 있을 수 있으므로, 적절한 인용이 이루어졌는지 검토할 것
    • AI는 존재하지 않는 문헌을 생성하거나 맥락에 맞지 않는 문헌을 인용할 수 있으므로, 모든 참고문헌의 실재 여부와 인용 맥락을 직접 확인할 것
    • AI는 그럴듯하지만 허구인 데이터나 분석 결과를 생성할 수 있으므로, 제시된 데이터가 실제 실험, 시뮬레이션, 또는 신뢰할 수 있는 원천에 기반한 것인지 검증할 것
    • AI가 생성한 합성 데이터를 활용할 경우, 이를 명시하고 실제 데이터와 구분하여 기술할 것

 

2. 적법한 데이터 사용

  • 연구에 사용되는 모든 데이터는 적법하게 수집·활용 가능한 것이어야 합니다.
    • 타인의 데이터를 사용할 경우 정당한 권한을 확보할 것
    • 개인정보가 포함된 데이터의 경우 개인정보보호법 등 관련 법령을 준수할 것
    • AI가 외부 데이터를 활용하여 결과를 생성한 경우, 해당 데이터의 출처와 사용 권한을 명확히 확인할 것

 

3. 재현 가능성 확보

  • 제3자가 동일한 조건에서 연구 결과를 재현할 수 있도록 구체적인 환경과 정보를 제공해야 합니다.
    • 재현을 위해 사용한 AI 모델명, 버전, 주요 설정값, 프롬프트 등을 상세히 기록할 것
    • 제출하는 코드와 데이터는 참가자 본인 또는 팀 내 다른 구성원이 독립적으로 실행하여 결과가 일치하는지 교차 검증할 것을 권장함
    • 코드가 실제 연산 없이 특정 결과값만 출력하도록 조작되어 있지 않은지 주의 깊게 확인할 것

 

4. 연구의 안전성 확보 및 악용 방지

  • 연구자는 자신의 연구 결과가 사회에 미칠 잠재적 위험을 사전에 검토하고 예방할 책임이 있습니다.
    • AI가 생성한 결과물이 악용(유해 물질 합성, 사이버 공격 등)되거나 사회에 부정적 영향(편향, 차별, 권리 침해, 환경 영향 등)을 미칠 가능성을 사전에 검토할 것
    • 연구에 사용되는 데이터 및 AI 학습‧훈련 시 개인정보 및 국가전략기술‧보안과제 등 보안사항이 포함되지 않았는지 사전에 검토할 것
    • AI 모델의 안전 장치를 고의로 해제하거나 우회하지 않을 것
    • 연구 과정에서 위험한 정보가 생성된 경우, 이를 폐기하고 보고서에 기록할 것

 

5. AI 활용 과정의 투명한 공개

  • 연구자는 AI와의 상호작용을 성실하게 기록하고 공개해야 합니다.
    • 연구의 각 단계(가설 수립, 실험 설계, 데이터 분석, 보고서 작성 등)에서 AI가 수행한 역할 및 해당 AI 모델(도구)의 명칭 및 버전
    • AI가 생성한 초기 산출물의 내용 및 연구자가 검증을 위해 수행한 구체적 시도와 그 결과
    • 검증 과정에서 발견된 오류와 이에 대한 수정 내역 등

 

본 권고사항은 AI 활용 연구에서 고려해야 할 기본적인 윤리 기준을 제시합니다. 
그러나 연구윤리는 규칙 준수를 넘어 연구자 스스로의 반성적 태도를 요구합니다. 
연구자는 AI가 빠르게 생성한 그럴듯한 결과를 충분히 검토하지 않으려는 유혹에 직면할 수 있습니다. 
본 대회는 참가자들이 AI 활용 연구의 여러 문제를 어떻게 인식하고 극복했는지, 또는 극복하지 못했는지에 대한 정직한 검토를 AI 활용보고서에 담아주기를 권장합니다. 
이러한 1인칭적 성찰과 기록은 향후 AI 연구윤리의 기준을 정립하는 데 있어 중요한 기초 자료로 활용될 것입니다.