최근 인공지능(AI)의 발전함에 따라 다양한 기술적 위험들이 대두되고 있는 가운데 이를 악용하는 사례가 늘고 있어 규제가 시급하다는 목소리다. 
그 중 대표적인 문제가 AI를 결합한 딥페이크 영상을 악용한 사칭 광고다. 엠마 왓슨, 톰 행크스 등 할리우드 유명 배우들도 이른바 AI 딥페이크 광고에 곤욕을 치른 바 있다. 
이들 광고는 실제 당사자들이 출연한 것 아닌가 하는 착각을 불러올 만큼 리얼한 비주얼을 보여주고 있다. 딥페이크 광고의 경우 초상권자 권리 침해는 물론, 불법 제품에 대한 소비자 피해 등 사회적인 부작용이 만만치 않은 상황이다. 
초상권 침해는 연예인만 해당하는 것은 아니다. 최근에는 전세계 2억 명의 유튜브 구독자를 보유하고 있는 유명 인플루언서 ‘MrBeast’도 이 광고에 당했다. 그의 얼굴을 모방한 AI 딥페이크 광고가 틱톡 플랫폼에 등장한 것이다. 해당 광고는 AI 기술을 사용해 MrBeast의 외모와 목소리를 완벽하게 모방해 제작되어 놀라움을 자아낸다. 
 

관련업계에서는 AI 딥페이크 광고와 같은 사례들이 향후 기술 진화로 인해 더욱 고도화될 것을 우려하는 분위기이다. 국제적으로도 이것에 대한 법적 규제와 윤리적인 가이드라인의 필요성을 제기하고 있다. 
특히 이에 대한 기술적 해결의 한 가지 방법으로 여러 연예인이나 브랜드 등의 초상권, 상표권 등을 AI에게 미리 학습시키고 관련 권리를 침해하는 결과물이 생성될 때에는 AI가 이를 탐지하고 해당 결과물을 필터링하도록 하는 것이다.   
일부 전문가들도 AI 관련 사업자들에게 인공지능 불법 사용을 미연에 예방할 수 있는 기술적인 방어책을 마련해야 한다는 의견이어서 지속적으로 해결책 마련에 관심을 기울여야 할 전망이다.