.부산개인회생 지난달에는 대전 동물원에서 늑대 '늑구'가 탈출했을 당시 SNS에 올라온 가짜 목격 사진이 당국의 재난 문자 송출과 수색에까지 영향을 미쳤다. 대전경찰청 사이버수사대는 AI를 활용해 조작한 늑구 목격 사진을 생성·유포해 경찰·소방 당국의 수색을 방해한 혐의(위계에 의한 공무집행 방해)로 40대 A씨를 검거했다고 지난달 24일 밝혔다. 러브버그가 기승을 부리던 지난해 7월에는 참새가 러브버그를 쪼아먹는 AI 영상을 실제 장면으로 오인한 일부 방송사가 '천적이 등장했다'는 오보를 내기도 했다. 우리나라는 지난 1월부터 생성형 AI 결과물에 워터마크를 표시해야 하는 'AI 기본법'을 시행하고 있다. 사회적 부작용이 우려되거나 실제와 구분하기 힘든 딥페이크 콘텐츠일 경우 AI로 제작했다는 사실을 이용자가 인식할 수 있게 고지하거나 표시해야 한다는 내용이다. 하지만 이 법은 AI 모델을 개발하고 이를 활용한 서비스를 직접 제공하는 기업과 사업자가 대상이다. AI 서비스를 단순히 업무나 창작 도구로 쓸 경우에는 규제 대상이 아니다. 이광석 서울과기대 IT정책전문대학원 교수(미래이후연구소장)는 "SNS에 올라오는 AI 콘텐츠에 대한 가이드라인도 필요하고, 공익을 크게 훼손한다면 법적 제재도 해야 한다"고 밝혔다. 그는 "플랫폼사업자가 AI 생성 데이터의 맥락이나 확산을 결정하는 매개 권력을 쥐고 있다는 점에서 공익 훼손이나 오정보 사안들에 실질적 책임을 지우고 플랫폼 업체에 대한 처벌 범위를 확대해야 한다"고 강조했다. 이어 "이는 플랫폼 기업의 기술적 조치로 도입되어야 하는 것인데, SNS 업로드 시점에 AI 생성물임을 나타내는 '디지털 표식'을 강제하는 의무적 워터마킹제가 도입돼야 한다"며 "100% 효과적인 장치는 아니더라도 많은 숫자의 AI 생성물 오남용을 막을 수 있는 안전장치 정도로는 기능할 것"이라고 제안했다.