이미지 크게보기 샘 올트먼(왼쪽) 오픈AI CEO가 21일 미국 워싱턴주 레드먼드에서 열린 마이크로소프트(MS) 연례 개발자 회의 ‘빌드(BUILD)’에 등장해 케빈 스콧 MS 최고기술책임자(CTO)와 대화를 나누고 있다. AFP 연합뉴스

■ 세계 첫 AI 규제법 승인

사법기관 원격 생체인식엔 금지
단계 시행후 2026년 전면 시행
주요국 규제 입법 속도 붙을 듯

21일(현지시간) 유럽연합(EU)이 현 수준의 인공지능(AI) 기술은 물론 AI가 인간을 뛰어넘는 기술 수준인 범용인공지능(AGI)에까지 적용되는 포괄적인 AI법을 내놓으면서 전 세계 AI 규제 스탠더드가 마련됐다는 평가가 나오고 있다. AI 기술 경쟁이 가속하고 있는 가운데 다른 나라의 AI 규제 모델 구축에 속도가 붙을 전망이다.

이날 EU 교통·통신·에너지이사회가 승인한 AI 규제법은 기술 수준과 위험도에 따라 폭넓게 규정하고 있다. 우선 현재의 AI 기술은 물론, 향후 수년 내 실현될 것으로 예상되는 AGI까지 적용 대상에 포함시켰다. AGI를 개발하는 기업은 기본적으로 투명성 의무를 준수하도록 규정됐다. EU 저작권법 준수 및 AI 학습 콘텐츠 공개 등이 여기에 해당한다. 다만 시스템적 위험이 있다고 판단된 AGI에는 시스템적 위험 평가와 사고 보고 등의 추가 의무가 부여된다.

이미지 크게보기

특히 이 법은 AI 활용 위험도를 △수용 불가능 위험 △고위험 △제한된 위험 △최소 위험 등 4단계로 나눠 차등 규제하고 있다.

‘수용 불가능 위험’ 등급은 법 집행기관의 실시간 원격 생체인식 시스템 사용, 인간 행동 조작 및 취약성 활용, 얼굴 이미지 무작위 수집 데이터베이스(DB) 구축 행위 등에 AI를 활용하는 것으로, 해당 상황에서의 AI 사용은 원칙적으로 금지된다. 다만, 테러나 납치 등 심각한 범죄 수사와 관련한 AI 활용은 예외적으로 허용된다. 의료·교육·시험 채점·채용·선거·핵심 인프라·이민 및 국경 통제·자율주행 등에 사용되는 AI는 ‘고위험’ 등급으로 분류됐다. 이 분야에서 AI를 사용하기 위해선 반드시 사람이 감독해야 하고 위험 관리 시스템을 구축하도록 했다.

‘제한된 위험’ 등급에 속하는 챗봇이나 딥페이크 텍스트·이미지·영상 등은 제공업체가 이 같은 결과물이 AI가 생성한 콘텐츠라는 점을 식별할 수 있는 조치를 하도록 규정했다. 앞의 세 등급에 포함되지 않는 경우 ‘최소 위험’ 등급에 해당돼 AI를 자유롭게 사용할 수 있다. AI 지원 비디오게임, 스팸 필터 등의 앱이 여기에 포함된다.

이번 EU의 AI법 마련으로 다른 나라의 AI 규제 모델 구축 속도가 빨라질 것이란 전망이 나온다. EU에 이어 현재 미국·일본·한국이 AI 관련 입법을 추진하고 있다. 업계 관계자는 “전 세계적으로 통용되는 AI 규제는 자국 기업의 경쟁력과 직결되기 때문에 규제안 마련을 놓고 국가들이 입법에 속도를 낼 것”이라고 예상했다.

미국 빅테크 업체들은 EU의 AI법이 불러올 파장에 촉각을 곤두세우고 있다. EU의 AI법에 규정된 대로 다른 국가들의 AI 입법안에도 과징금이 무겁게 책정될 경우 사업 리스크가 커질 수밖에 없기 때문이다. 매슈 홀먼 크립스 로펌 파트너변호사는 미국 CNBC 방송과의 인터뷰에서 “이 법은 처음으로 AI에 대한 세부적인 규제 체제를 만들었다는 점에서 지구상의 다른 어떤 법률과도 다르다”며 “대중을 대상으로 하는 생성형 AI 시스템에 많은 자금을 투입한 미국 빅테크 업체들 입장에선 상당히 부담스러울 것”이라고 말했다.

황혜진 기자 best@munhwa.com