인공지능 기술 악용 사례 증가…일상 속 편리함 불구 전쟁·범죄 도구로 '인간 세상 파괴' 우려
[기획취재]
우리 삶에 익숙해진 '인공지능 플랫폼'
자녀 얼굴 등 개인정보 도용 사례 잦아
도이치텔레콤 보이스피싱 경고 메시지
이스라엘, 하마스 전쟁 AI 표적앱 활용
민간인 피해 줄이려는 수단 주장 불구
"대량 살상무기"…전세계 따가운 시선
전 세계가 인공지능(AI)에 열광하고 있는 가운데, 이를 공포의 도구로 악용하는 사례들이 확산돼 상상의 즐거움을 파괴하고 있다.
최근 몇 년 사이에 AI 기술을 탑재한 가전제품과 휴대폰 등 일상생활에서 가장 가깝게 접하고 있는 제품부터 다양한 플랫폼 구축 등에 따른 애플리케이션까지 출시되고 있다. ‘혁명’이라고도 불리는 AI 기술은 우리 삶에 깊숙이 자리 잡아, 다양한 산업에서 새로운 생태계를 구축해 윤택하면서도 편리함을 제공하고 있다.
하지만 범죄자들의 악행에 이용된다면, 익숙한 AI가 무기가 돼 돌아올 수 있다. 이미 우리는 영화 ‘크리에이터’, ‘미션임파서블7’, ‘A.I’ 등을 통해 로봇이 인간을 지배하는 장면들을 접했다. 이 영화들은 AI로 인해 파괴되는 인간세상의 끔찍한 미래를 시사하고 있는 것이다.
◇ 가짜 뉴스 범람의 원흉
이스라엘과 팔레스타인 무장정파 하마스 간 전쟁이 끝을 보이지 않아 피해자들이 속출하고 있다. 이는 양국 정부는 물론, 민간인까지 두려움에 떨게 하고 있다. 인터넷에서는 AI를 이용한 가짜뉴스가 범람했고, 무장전투에도 사용됐다.
지난 1일 영국 일간 가디언은 이스라엘군이 하마스의 근거지인 가자지구에서 ‘복음’으로 불리는 AI 표적 생성 플랫폼을 활용하고 있다고 보도했다. 이스라엘 측은 비전투원에 대한 최소한의 피해만 주기 위함이라고 주장했지만, 민간인에 대한 진정한 보호를 고려했을 때 이러한 주장을 뒷받침할 경험적 증거가 없다.
이미 전시국제법을 위반한 것도 모자라 무고한 국민들까지 위협하고 있는 ‘대규모 암살 공장’을 운영하게 된 것이라는 지적이 국제적으로 이어지고 있다.
◇ 보이스피칭·성인물 타깃
최근 독일 통신사 도이치 텔레콤은 무심코 SNS에 올린 자녀의 사진과 동영상이 도용돼 최악의 상황엔 불법사이트에도 사용될 수 있다며 자료 공유 자제를 당부했다.
도이치 텔레콤은 ‘엘라’라는 소녀의 부모가 공유한 사진 한 장으로 AI 기술을 접목해 그녀가 성인이 된 모습을 공개했다. 엘라는 “부모님들에겐 이 사진들이 단지 추억일 뿐이라는 걸 안다. 하지만 다른 사람들에겐 데이터가 될 수 있다”면서 “얼굴 뿐 아니라, 목소리까지 도용 당할 수 있다”며 목소리를 복사해 사기 행각을 벌이는 가상의 보이스피싱 상황을 보여줬다. 마지막으로 엘라는 “자녀의 가상 프라이버시를 지켜달라”고 강조했다. 경각심을 일으킨 해당 게시물은 조회수 524만 회를 기록했다.
통신업계 관계자는 “부모 10명 중 3명이 자녀의 일상을 공유하고 있는데, 이러한 행위가 자칫 가족을 위험에 빠뜨릴 수 있다”고 경고했다.
올해 유독 이미지 제작용 AI로 프로필 꾸미기가 유행하고 있다. 연예인처럼 꾸며지고, 외국인이 될 수도 있는 가상의 모습에 만족하는 이들이 증가하면서 주민등록증, 운전면허증 발급 신청 시 AI 프로필을 제출하는 경우가 지속되고 있는 것으로 조사됐다. 한 기업의 인사팀 관계자는 이력서에도 AI 프로필을 부착해 난감하다고 하소연할 정도로 문제가 심각하다.
정부까지 나설 정도 심각한 사회문제로 대두된 가운데, SNS에서도 다양한 형태로 변화 가능한 AI 프로필을 악용해 남을 사칭하거나 성인물로 제작돼 급속도로 퍼지고 있다. 인스타그램에서 해시태그 ‘aigirl’을 검색하면, 여성의 특정 신체 부위를 부각하거나 노출 수위가 높은 68.6만 개 게시물이 쏟아지고 있다. 자신을 뽐내려고 올린 사진이 성범죄의 표적이 될 수 있다는 것을 그대로 보여주고 있는 결과물이다.
업계 관계자는 “일상을 공유하는 것이 일반화되면서 실존 인물이 성적 용도로 악용될 가능성 매우 높아졌다. 피해를 막기 위한 노력이 계속 요구되지만 한계가 있는 건 사실”이라며 “개인의 자유를 막을 순 없지만, 일부러 노출을 위해 게시물을 올리는 건 자제하길 바란다”고 말했다.
