올 2월 28일 이란 남부 미나브 지역 샤자레 타예베 초등학교가 폭격당해 어린이와 교사 최소 157명이 사망했다. 미군의 인공지능(AI) 군사 기술 ‘메이븐 스마트 시스템’(메이븐)의 잘못된 표적 설정이 원인으로 지목됐다. 메이븐은 이슬람혁명수비대 해군 기지에 초등학교가 포함돼 있던 오래된 데이터를 입력받고 초등학교를 표적으로 추천한 것으로 알려졌다. 오폭 사건으로 ‘AI 블랙박스’ 문제가 수면으로 떠올랐다. AI 블랙박스는 AI가 입력값을 받아 어떻게 특정 결과를 도출하는지 내부 추론 과정을 이해할 수 없는 현상이다. 22일 학계에 따르면 과학자들이 AI가 내놓은 결과에 기여한 변수는 물론 AI 모델의 내부 회로까지 들여다보는 연구를 내놓고 있지만 AI 블랙박스 문제를 완전히 해결하려면 근본적으로 AI 기업의 정보가 공개돼야 한다는 전문가들의 지적이 이어지고 있다.● 결과에 기여한 변수부터 모델 회로까지 살핀다최첨단 AI 모델은 수십∼수백 개의 층으로 이뤄진 ‘인공신경망’,

Leave a Reply

Your email address will not be published. Required fields are marked *