워터마크·고영향 AI 안전조치 본격화
의료·금융·채용·교통 등 전 산업 영향
 |
| ▲사진=챗GPT 제공 |
[소셜밸류=소민영 기자] 인공지능(AI) 발전과 신뢰 기반 조성 등을 담은 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(AI기본법)이 22일부터 시행됐다.
AI를 특정 분야에서만 제한적으로 규율하는 부분 규제가 아니라 AI 산업 진흥과 신뢰·안전 체계를 함께 아우르는 포괄적 법령이 시행된 것은 세계 최초라는 점에서 업계의 이목이 쏠린다.
23일 업계에 따르면 정부는 AI기본법을 통해 AI 산업 경쟁력 제고를 위한 지원 체계를 마련하는 동시에, 국민이 체감할 수 있는 투명성·안전성 중심의 신뢰 기반을 구축하겠다는 구상이다.
이번 제도에서 눈에 띄는 변화는 생성형 AI 결과물 표시(워터마크)가 본격화된다는 점이다. 이미지·영상·음성·텍스트 등 생성형 콘텐츠가 빠르게 확산하면서 유통 과정에서 ‘AI 생성물’ 여부를 구분하기 어렵다는 지적이 이어져 왔다. 이에 따라 정부는 생성물에 대해 출처와 생성·가공 여부를 확인할 수 있는 표시 체계를 구체화해 나갈 계획이다.
투명성 확보 의무의 주체는 이용자가 아닌 ‘인공지능사업자’다. 즉, 이용자에게 AI 제품·서비스를 직접 제공하는 사업자가 의무를 이행해야 하며, 국내 이용자를 대상으로 서비스를 제공하는 해외 사업자도 포함된다.
인공지능사업자는 서비스 이용약관이나 계약서에 관련 내용을 명시하거나, 소프트웨어·앱 구동 화면(UI) 등에서 해당 서비스가 고영향·생성형 AI 기반으로 운용된다는 사실을 사전 고지해야 한다. 반면 AI 기술을 업무·창작의 도구로 활용하는 개인이나 기업은 원칙적으로 의무 대상이 아니다. 예를 들어 영상 생성 AI를 이용해 영화를 제작·배급하는 제작사는 AI 서비스를 제공하는 사업자가 아니라 이를 활용하는 ‘이용자’에 해당하므로, 표시 의무의 직접 대상이 아니라는 설명이다.
또한 사람의 생명·안전·기본권에 중대한 영향을 줄 수 있는 ‘고영향 AI’에는 위험관리와 안전조치 등 강화된 관리가 적용될 전망이다. 의료·교통·금융·고용 등 고위험 분야에서 AI 활용이 확대되는 만큼, 사전 점검과 책임성을 제도적으로 담보해 신뢰를 확보하겠다는 취지다.
고영향 AI는 의료, 에너지, 채용, 대출 심사 등 국민의 생명이나 권리에 큰 영향을 줄 수 있는 분야에서 활용되는 AI를 의미한다. 이에 따라 AI 사업자는 해당 영역에서 사람이 관리·감독하는 운영 체계를 마련하고, 안전성 확보 조치를 갖춰야 한다.
정부는 현 시점에서 고영향 AI의 대표 사례로 완전 자율주행 단계(레벨 4 이상) 차량 등을 들고 있다. 다만 업계에서는 AI 기술이 빠른 속도로 고도화되는 만큼, 의료·에너지·채용 등 분야에서 고영향 AI로 분류될 수 있는 서비스가 등장하는 시점이 결코 멀지 않을 것으로 보고 있다.
 |
| ▲ 류제명 과학기술정보통신부 제2차관이 22일 서울 송파구 한국인공지능소프트웨어산업협회에서 열린 '인공지능기본법 지원데스크 전문가 간담회'에서 발언하고 있다. /사진=과학기술정보통신부 제공 |
게임 업계 역시 법 취지에 맞춘 대응에 나설 것으로 예상된다. 개발·운영 전반에서 생성형 AI 활용이 증가하는 상황에서, 향후 세부 지침이 마련되는 대로 운영 체계와 내부 프로세스를 보완해 AI기본법 준수에 충실할 것이라는 관측이 나온다.
업계 관계자는 “현장 적용이 가능하도록 표시 방식과 적용 범위 등 세부 기준이 명확해지는 것이 관건”이라며 “기준이 구체화되면 관련 가이드라인과 컴플라이언스 체계를 정비할 것”이라고 말했다.
업계 전반에서는 AI기본법이 산업 진흥과 안전·신뢰 확보의 균형을 어떻게 구현할지 주목하고 있다. 워터마크 등 투명성 강화 조치와 고영향 AI 안전관리 체계가 현실에 맞게 정착할 경우, AI 활용의 속도와 범위는 오히려 더 넓어질 수 있다는 기대도 나온다.
[저작권자ⓒ 사회가치 공유 언론-소셜밸류. 무단전재-재배포 금지]
