All Issue

2025 Vol.13, Issue 1 Preview Page

Research Article

Research on the Application of ISO 42001 for Information Security Management in AI Environments

ISO 42001 기반 AI 사용환경에서의 정보보호 관리체계 점검항목 연구

Jimin Woo1, Changhyeon Kim2, and Hanjin Lee3

우지민1, 김창현2, 이한진3

1Master’s Degree, Department of Digital Management, Korea University 2Ph.D program, Department of Digital Management, Korea University 3Assistant Professor, School of Creative Convergence Education, Handong Global University
1고려대학교 일반대학원 디지털경영학과 석사, 2고려대학교 일반대학원 디지털경영학과 박사과정, 3한동대학교 창의융합교육원 조교수
30 March 2025. pp. 65-74
PDF Citation
Abstract
최근 AI의 급격한 기술적 발전과 더불어 다양한 산업에 적용됨에 따라, 정보보호 및 자료 관리의 중요성이 증대되고 있다. 이에 따라 AI 시스템에서 발생할 수 있는 정보보호 위협을 효과적으로 관리하고, 적절한 보호 대책을 마련하기 위한 표준화된 관리체계가 필수적이다. 이러한 문제를 개선하기 위해 본 연구는 국제적 표준에서 제시하는 AI 관리체계의 주요 요구사항을 분석하고, AI 사용 환경에 적합한 정보보호 관리체계의 점검항목을 도출하는 데 중점을 둔다. 구체적으로, AI 시스템의 신뢰성, 투명성, 윤리적 사용을 보장하기 위한 정보보호 통제 항목을 규명하고, AI 시스템의 설계, 운영, 유지보수 과정에서 적용 가능한 점검 기준을 제안한다. 이를 통해 AI 시스템을 운영하는 조직이 ISO 42001을 준수하여 정보보호 위험을 최소화하고, 신뢰성 있는 AI 환경을 구축할 수 있는 구체적인 관리체계를 제시하여 산업적으로 기여하고자 한다.
With the rapid advancement of AI technology and its application across various industries, the importance of information security and data management has significantly increased. Consequently, a standardized management framework is essential to effectively address information security threats in AI systems and to establish appropriate protective measures. This study aims to address these challenges by analyzing the key requirements of the AI management framework outlined in ISO 42001 and identifying security management audit items suitable for AI environments. Specifically, this study focuses on identifying information security control items that ensure the reliability, transparency, and ethical use of AI systems, while proposing inspection criteria applicable to the design, operation, and maintenance processes of AI systems. Through these efforts, this research seeks to provide a concrete management framework that enables organizations operating AI systems to comply with ISO 42001, minimize information security risks, and build trustworthy AI environments. The findings are expected to contribute practically to the establishment of information security and management systems in various industries where AI technology is applied.
Keywords
AI Ethics
ISMS-P
Security
Reliability
ISO 42001
References

  1. 이수경, 김명주, "인공지능(AI) 기술 발달에 따른 사이버 위협과 이에 대한 대응 방안", 한국통신학회지(정보와통신), Vol. 39, No. 12, pp. 13-18, 2022.

  2. 송은아, "韓, 챗GPT 한국 이용자 개인정보 유출에 첫 과태료" 세계일보, www.segye.com/newsView/20230727517312, 2023.

  3. R. Aich, "OpenAI's internal AI details stolen in 2023 breach, NYT reports", Reuters, 2024. www.reuters.com/technology/cybersecurity/ openais-internal-ai-details-stolen-2023-breach-nyt-reports-2024-07-05.

  4. 최상경, "'딥페이크' 피해 일파만파…AI 윤리 문제 수면 위로", 데일리굿뉴스, 2024. www.goodnews1.com/news/articleView. html?idxno=438176

  5. 고홍주, "AI가 보는 CEO는 '백인남성', 사회복지사는 '여성'…"젠더편향 심각"", 뉴시스, 2024. www.newsis.com/view/ NISX20240829_0002868430

  6. 한국인터넷진흥원, "2024년 상반기 사이버 위협 동향 보고서", 2024. www.kisa.or.kr/20205/form?postSeq=1026&page=1

  7. 오경희, 김호진, "ISO/IEC 정보보호 통제 국제표준 개정 현황", 정보보호학회지, Vol. 31, No. 4, pp. 35-43, 2021

  8. 홍성욱, 박재표, "정보보호 및 개인정보보호 관리체계(ISMS-P) 인증제도의 효과적인 운영방안", 한국산학기술학회 논문지, Vol. 21, No. 1, pp. 634-640, 2020.

  9. 한국인터넷진흥원. "ISMS-P 인증기준 안내서", 2023. https://isms.kisa.or.kr/main/ispims/notice/?boardId=bbs_0000000000000014 &cntId=21&mode=view

  10. T. Gueorguiev, "The Process Approach in Artificial Intelligence Management Systems", In 2024 9th International Conference on Energy Efficiency and Agricultural Engineering (EE&AE), IEEE, pp. 1-4, 2024

     10.1109/EEAE60309.2024.10600591

  11. ISO, IEC, "ISO/IEC 42001: Artificial Intelligence - Management System Standard", 2023. www.iso.org/standard/iso-iec-42001.html

  12. F. A. Thiers, Z. Harned, " The Emerging Role of ISO 42001 Certification in Fostering the Deployment of Responsible Generative AI Healthcare Solutions", Technology (NIST), Vol. 55, No. 58-59, 2024.

     10.31219/osf.io/5ks37

  13. 최대선, 류권상, "인공지능 보안 공격 및 대응 방안 연구 동향", 정보보호학회지, Vol. 30, No. 5, pp. 93-99, 2020.

  14. 권현, 김용철, "딥러닝 모델에 대한 적대적 사례 기술 동향", 정보보호학회지, Vol. 31, No. 2, pp. 5-12, 2021.

  15. 박규도, 이영란, "AI 기반 국방정보시스템 개발 생명주기 단계별 보안 활동 수행 방안", 정보보호학회논문지, Vol. 33, No. 3, pp. 577-589, 2023.

  16. 박혁규, 강완석, 신광성 "정보보호 및 개인정보보호 관리체계(ISMS-P) 인증 제도에서 중소기업 기반 평가항목 도출에 관한 연구", 한국정보통신학회 종합학술대회 논문집, 전북, 2021.

  17. 윤태석, 박용석, "스마트시티 내 긴급차량 우선신호 제어시스템 구축과 효과성 분석 및 ISMS-P 기술적 통제항목 개선 방향성 연구", 한국정보통신학회논문지 Vol. 25, No. 9, pp. 1166-1175, 2021.

  18. 고도균, 박용석, "보안관제 업무 연관성 분석을 통한 ISMS-P 기반의 외주용역 관리 방법 제안", 한국정보통신학회논문지, Vol. 26, No. 4, pp. 582-590, 2022.

  19. 김재선, "인공지능 안전과 책임 확보를 위한 법제 논의에 관한 검토-유럽연합 인공지능 관리 법제 논의에 기초하여", 행정법연구, Vol. 64, pp. 157-181, 2021.

     10.35979/ALJ.2021.03.64.157

  20. 박혜성, 김법연, 권헌영, "인공지능 규제에 대한 연구-유럽연합의 입법안을 중심으로", 공법연구, Vol. 49, No. 3, pp. 349-374, 2021.

     10.38176/PublicLaw.2021.02.49.3.349

  21. 신영진, "우리나라의 인공지능(AI)서비스를 위한 개인정보보호 개선방안", 융합정보논문지, Vol. 11, No. 3, pp. 20-33, 2021.

  22. 이아람, "개인정보 생명주기(Lifecycle)에 따른 인공지능(AI) 개인정보보호", 한국통신학회지(정보와통신), Vol. 39, No. 12, pp. 3-7, 2022.

  23. 박미사, "인공지능(AI) 시대 개인정보보호법의 한계와 개선방안에 관한 고찰", 서강법률논총, Vol. 13, No. 3, pp. 129-160, 2024.

     10.35505/slj.2024.10.13.3.129

  24. 주정민, 이지혜, "미디어 콘텐츠 기업의 AI 윤리 원칙 분석 및 고찰", 방송과 커뮤니케이션, Vol. 25, No. 3, pp. 5-43, 2024

     10.22876/bnc.2024.25.3.001

  25. 함주연, 이정, 한진영, "인공지능 윤리에 대한 탐색적 연구: 토픽 모델링을 활용한 뉴스 기사 분석", 기업과혁신연구, Vol. 47, No. 3, pp. 199-213, 2024.

  26. 송진수, 정우철, 이한진, "개인정보 다크패턴 방지를 위한 유형 재정립 방안 연구", The Society of Convergence Knowledge Transactions, Vol. 12, No. 4, pp. 19-28, 2024. https://doi.org/10.22716/sckt.2024.12.4.003

  27. 황원섭, 민대환, 김정환, 이한진, "포괄적 IT 자산관리의 자동화에 관한 연구", 한국IT서비스학회지, Vol. 23, No. 1, pp. 1-10. https://doi.org/10.9716/KITS.2024.23.1.001

  28. S. A. Benraouane, "AI Management System Certification According to the ISO/IEC 42001 Standard: How to Audit, Certify, and Build Responsible AI Systems", Productivity Press, 2024. https://doi.org/10.4324/9781003463979

     10.4324/9781003463979

  29. EY Americas, "Understanding the role of ISO 42001 in achieving responsible AI", EY insights, 2025. www.ey.com/en_us/ insights/ai/iso-42001-paving-the-way-for-ethical-ai

  30. K. Metin, "From Compliance To Leadership: How To Prepare Your Company For ISO/IEC 42001", Forbes. https://www.forbes.com/ councils/forbestechcouncil/2025/02/05/
Information
  • Publisher :The Society of Convergence Knowledge
  • Publisher(Ko) :융복합지식학회
  • Journal Title :The Society of Convergence Knowledge Transactions
  • Journal Title(Ko) :융복합지식학회논문지
  • Volume : 13
  • No :1
  • Pages :65-74
  • DOI :https://doi.org/10.22716/sckt.2025.13.1.006
Journal Informaiton The Society of Convergence Knowledge Transactions The Society of Convergence Knowledge Transactions
Online Submission
  • NRF
  • KISTI Current Status
  • KISTI Cited-by
  • crosscheck
  • orcid
  • open access
  • ccl
Journal Informaiton Journal Informaiton - close