설계 사무소마다 밤새 돌리던 AI 투시도, 이제 유럽에서는 마음대로 쓸 수 없게 됐다. 지난 2일 발효된 EU 인공지능법(AI Act) 조항이 사실적인 건축 렌더링까지 ‘딥페이크’로 분류하면서다.
사람 걸어다니는 투시도도 ‘라벨’ 대상
EU AI법 제50조는 사실적으로 보이는 이미지·오디오·영상을 만든 이가, 그것이 AI로 생성됐거나 수정됐다는 사실을 밝히도록 규정한다. 기만으로 인한 피해를 줄이려는 취지다. 창작물 다수는 이 조항의 적용을 받지 않지만, 건물과 실내를 사실적으로 그린 AI 투시도는 법이 말하는 ‘딥페이크’의 범주에 들어갈 가능성이 크다고 법무법인 애들쇼 고다드(Addleshaw Goddard)의 시몬 시에니에비치(Szymon Sieniewicz) 변호사는 설명한다.
“사람들이 걸어 다니는 사실적인 풍경을 AI로 만들었다면, AI 생성물이라고 라벨을 붙여야 한다”는 게 그의 말이다. 법이 정의하는 딥페이크는 실존 인물·사물·장소·사건과 닮아 보는 사람이 진짜라고 착각할 만한 이미지다. 아직 지어지지 않은 건물이나 실재하지 않는 인물이라도, 사실적으로 보이기만 하면 이 정의에 포함된다.
제품 사진 보정도, 홈페이지 챗봇도 대상
2024년 통과된 EU AI법 가운데 이번에 시행된 제50조는 AI 개발사뿐 아니라 AI를 활용하는 모든 기업에 영향을 미치는 첫 조항이다. 위반 시 최대 1500만 유로 또는 연매출의 3%에 달하는 과징금이 부과될 수 있다. 다만 시에니에비치 변호사는 “규제 당국이 당장 강한 처벌에 나설 것 같지는 않다”고 덧붙였다.
영향은 투시도에 그치지 않는다. 제품을 더 매력적으로, 더 고급스럽게, 또는 다른 색상으로 보이도록 AI로 손본 사진에도 같은 의무가 적용된다. 단순히 자르거나 색을 보정하거나 배경을 바꾸는 정도의 ‘리터칭’은 예외다. 지속가능성이나 소비자 권리, ESG 전략처럼 공공의 관심사를 다루는 텍스트 역시, 사람이 충분히 검수하지 않은 채 AI로 작성했다면 이 규정의 적용을 받는다.
라벨을 어떻게 붙여야 하는지 법이 구체적으로 정하지는 않았지만, 유럽집행위원회의 실행 지침은 “AI로 생성됨” 또는 “AI로 수정됨”이라는 문구가 담긴 아이콘 사용을 권고하고 있다. 건축 시각화가 주력인 스튜디오는 물론, 공모전 패널이나 분양 홍보물을 만드는 실무자들도 이제 이 문구를 어디에, 어떻게 넣을지 고민해야 할 상황이 됐다.
이 기사는 아래 원문 보도를 참고해 PHM ZINE이 새로 작성한 기사입니다. 사진과 자세한 내용은 원문에서 확인할 수 있습니다.
출처 : Dezeen — AI architectural renderings must be labelled under EU AI Act
