ㄱ_사업자문자디비}$텔toadDB AI 영수증 이미지, 얼룩·구김까지 정교하게 구현“실제와 구분 어려워…식별 장치 시급”한 사용자가 챗 GPT로 생성한 가짜 영수증. SNS 갈무리 생성형 인공지능(AI)의 이미지 기술이 날로 정교해지며 실제와 구분이 어려운 수준까지 발전하고 있다. 최근에는 챗GPT를 활용해 만든 '가짜 영수증' 이미지까지 등장하면서 AI 이미지가 허위 경비 청구나 환불 사기 등 범죄에 악용될 수 있다는 우려가 커지고 있다. 음식 얼룩과 구겨진 종이 질감까지 표현돼 자세히 보지 않으면 구별이 어려울 정도까지 발전됐다. 전문가들은 신뢰를 무너뜨리는 AI 조작물 확산을 막기 위한 제도적 대응이 시급하다고 지적한다.31일(현지 시각) 테크크런치에 따르면 소셜미디어에서 활발히 활동 중인 벤처캐피털리스트 디디 다스는 최근 GPT-4o로 만든 미국 샌프란시스코의 한 유명 스테이크하우스의 가짜 영수증을 소셜미디어(SNS)에 공개했다. 이 이미지엔 금액, 메뉴 항목뿐 아니라 음식 얼룩, 종이 구김 등 실제 영수증처럼 보이게 하는 시각적 요소가 포함됐다.해당 게시물이 공개되자 SNS 이용자들은 이를 따라 만든 가짜 영수증 이미지를 잇따라 공유했다. 일부는 포토샵이나 추가 프롬프트를 활용해 얼룩을 넣거나 배경을 조작해 더 정교한 이미지를 만들었다. 프랑스에서는 현지 레스토랑 체인의 영수증을 흉내 낸 이미지가 링크드인에 올라오며 실제로 오인될 정도의 수준을 보이기도 했다.GPT-4o로 만든 가짜 영수증에도 몇 가지 허술한 점은 존재한다. AI가 완벽하게 숫자 계산을 하지 못하므로 일부 생성된 영수증엔 금액 표시에 쉼표와 마침표가 혼재됐거나 금액 합산 결과에 오류가 있는 등 기본적인 숫자 오류가 나타났다. GPT를 포함한 대형언어모델(LLM)이 기본적인 연산 능력에서 여전히 어려움을 겪고 있기 때문이다.그러나 이런 미세한 오류는 사진 편집 프로그램 등을 이용해 쉽게 보완할 수 있어 악용 가능성을 우려하는 목소리가 커지고 있다. AI로 생성한 가짜 영수증 이미지를 악용하려는 이들이 포토샵 등 사진 편집 프로그램이나 보다 정교한 AI 명령어(프롬프트)를 통해 얼마