생성형 인공지능(AI)의 확산으로 사진과 영상, 음성 기록에 대한 100년간의 신뢰가 흔들리고 있다는 경고가 나왔다. AI가 만든 가짜 콘텐츠가 범죄와 허위정보 유포에 악용되면서 언론과 사법제도, 민주주의에 대한 불신도 커지고 있다.
미국 스탠퍼드대 인간중심AI연구소(HAI)는 10일(현지 시간) 발표한 ‘AI 100년 연구(AI100)’ 3차 보고서에서 “눈으로 본 것을 더 이상 믿을 수 없다(Seeing is no longer believing)”고 진단했다. 사진과 영상이 사실을 입증하는 증거로 받아들여졌지만 AI의 등장으로 진위 여부부터 확인해야 하는 상황이 됐다는 것이다. 보고서는 2016년과 2021년에 이어 5년 만에 발간됐다.
보고서에 따르면 당사자 동의 없이 제작된 딥페이크 성적 이미지와 영상은 2023년부터 2025년까지 1600% 증가했다. 선거에서 유권자를 속이는 데도 AI가 이용됐다. 2024년 미국 뉴햄프셔주 민주당 대선 경선을 앞두고 당시 조 바이든 대통령의 목소리를 흉내 낸 AI 자동전화가 유권자들에게 투표하지 말라고 권유하는 사건이 발생했다. AI로 타인의 목소리를 복제해 돈을 가로채거나 아동 성착취물을 만드는 범죄도 벌어지고 있다.
AI가 사람의 생사와 직결되는 군사적 판단에 이용되는 데 대한 우려도 제기됐다. 보고서는 이스라엘군이 가자지구에서 공격 대상 건물을 추천하는 ‘가스펠’과 인물 표적을 선정하는 ‘라벤더’를 이용한 사례를 소개했다. 라벤더가 작성한 표적 명단에는 한때 약 3만7000명이 포함된 것으로 알려졌다. 연구진은 AI가 선정한 표적을 충분히 검증하지 않을 경우 판단 오류가 민간인 피해로 이어질 수 있다고 경고했다. 이에 따라 AI의 군사적 사용에 대한 인간의 감독과 새로운 교전 규칙이 필요하다고 강조했다.
AI 기술은 지난 5년간 연구진의 예상을 뛰어넘을 만큼 빠르게 발전했다. 2021년 보고서는 AI가 상식적으로 추론하는 능력을 갖추기 어려울 것으로 내다봤지만 챗GPT 등 거대언어모델(LLM)의 등장으로 이 같은 전망이 빗나갔다. 이번 연구를 이끈 마이클 울드리지 영국 옥스퍼드대 교수는 “지난 5년간 AI 기술의 발전 속도는 어지러울 정도였다”며 “거대언어모델의 성공과 이 기술이 확산되는 속도를 누구도 예상하지 못했다”고 말했다.
© dongA.com All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지