유럽연합(EU) AI법 승인, '세계 최초 AI법, 핵심 규제 내용?!'

지난 3월 13일 유럽연합(EU) 본회의에서 인공지능 규제 법안인 AI법이 승인 되었습니다. AI의 위험성에 대한 경고가 커지는 요즘 유럽연합(EU)의 AI법 승인이 큰 이슈가 되고 있습니다. 세계 최초 AI법인 유럽연합(EU) AI법의 핵심 규제 내용에 대해 살펴 보겠습니다.

유럽연합(EU)이 승인한 해당 AI법은 세계 최초의 AI 규제법으로 구속력을 가집니다. 세계적으로 주요 선거 이슈를 앞둔 상황에서 AI를 이용한 딥페이크가 확산되고, 

AI가 인류를 파괴할 대랑살상무기로 악용될 가능성이 꾸준히 제기되는 등 우려가 커지는 상황에서 나온 첫 번째 의미있는 법안입니다. 해당 법안은 이후 다른 나라들의 AI 관련 입법에 큰 영향을 미칠 것으로 보입니다.

 

▶함께 읽으면 좋은 내용

• 틱톡 금지법, '관련 수혜주?!'

 

 

  AI법이란

 

유럽연합(EU)이 세계 최초로 승인한 AI법이란 대체 무슨 내용을 담고 있는지? 가장 궁금하실 겁니다. 초안 발의부터 합의, 최종 승인과정과 핵심내용에 대해 함께 살펴보겠습니다.

 

 

①유럽연합(EU) 2021년 4월 AI법 초안 발의

유럽연합(EU)은 2021년 4월에 AI법 초안을 발의 했습니다. AI의 개발과 활용에 있어 인간이 중심이 되어야 한다는 이유에서 였습니다. 하지만 유럽연합(EU)내 기업들이 미국, 중국 기업과의 경쟁에서 밀려날 수 있다는 비판과,

자국 내 AI 경쟁력 향상을 도모하는 독일, 프랑스 등의 일부 회원국 반대로 법안 통과가 지연되었던 상황입니다. 현재 AI의 발전 속도가 급속도로 빨라지면서 AI 시스템의 위험성도 함께 커진다는 위기감이 최고조에 이르렀습니다. 

 

 

②유럽연합(EU) AI법 합의 & AI법 승인

이 때문에 작년 12월 유럽연합(EU)는 장시간의 회의 끝에 결국 AI법 합의에 도달했습니다. 최종 합의된 AI법안에는 범용 AI(AGI) 개발 기업에 투명성 의무 부여, 챗GPT 등 생성형 AI에 관한 내용 등이 추가되었습니다. 

구체적으로 보면 AI를 개발하는 기업은 유럽연합(EU)의 저작권법을 준수해야 하며, 학습 및 훈련 과정에서 활용한 데이터를 공개해야 한다는 내용입니다. 사이버 공격, 유해한 정보 전파 등과 같은 사고 발생을 예방하는 조치도 함께 마련해야 합니다.

최종적으로 지난 13일 유럽의회 본회의에서 인공지능 규제 법안인 AI법이 통과(승인) 되었습니다. 유럽연합(EU)이 승인한 해당 AI법은 세계 최초의 AI 규제법으로 구속력이 있습니다.

 

 

③범용인공지능(AGI·Artificial General Intelligence)이란?

범용인공지능이란 인간 또는 그 이상의 지능을 갖춘 AI를 말합니다. 인간처럼 인지능력을 근간으로 스스로 학습할 수 있으며, 사전에 입력된 정보 내에서만 작동하는 것을 뛰어 넘어 자율적인 학습 능력을 가진 AI를 말합니다. 스스로 학습하고 발전할 수 있습니다.

 

• AI영상 · 이미지에는 꼬리표 달아야?!

 

 

  AI법 핵심 내용 (AI 활용 위험도에 따른 차등 규제)

유럽연합(EU)이 최종 승인안 AI법 핵심 내용을 살펴보면 다음과 같습니다. 해당 AI법은 AI의 개발과 활용 전 분야에 걸쳐 폭넓게 규제합니다. 해당 AI법 위반 시에는 최대 3,500만 유로(약 505억 원) 또는 전 세계 매출액의 최대 7%에 해당하는 어마무시한 벌금이 부과됩니다.

회원국 별로 의회 승인을 거친 후 공식 제정이 되면 2024년 연말부터 회원국 별로 단계적으로 시행이 되며 2026년 이후에 전면 적으로 도입이 될 예정입니다. 

 

 

①AI 활용 위험도에 따른 차등 규제

AI법의 핵심 내용은 AI 활용 위험도에 따른 차등 규제입니다. AI의 활용 분야를 4개 단계로 구분하고 차등 규제하겠다는 것이죠. 건강, 안전, 환경, 기본권, 민주주의 및 법치주의 관련 분야를 고위험 분야로 지정하였습니다.

상세히 살펴보면, 

• 물 · 전기 등 핵심 인프라
• 의료 · 고용 · 금융 등 핵심 서비스
• 교육 및 직업 훈련
• 선거 및 특정 사법 체계

 

이주 및 국가의 주요 시스템 등이 속합니다. 해당 분야의 AI는 인간의 관리, 감독과 위험관리 시스템 구축을 필수로 하고 있습니다.

 

 

②AI 활용 금지분야

또한, AI 활용을 금지하는 분야도 규정하고 있습니다. 결론부터 말씀드리면 AI를 이용해 인간의 생체 정보를 실시간으로 수집, 식별 하는 행위를 원칙적으로 금지합니다. 

테러와 같은 강력 범죄자를 추적하는 경우에만 제한적인 활용이 가능합니다. 하지만, 이 경우에도 법원의 사전 허가를 받아야 합니다. 개인의 특성이나 행동(종교, 정치성향 등)을 점수 및 등급화 하는 AI 소셜 스코어링도 금지합니다.

 

 

③딥페이크 표시 의무화

최근에 많이 논란이 되고 있는 딥페이크에 관한 규제도 포함시켰습니다. 딥페이크 제작물에는 반드시 AI로 만들었다는 사실을 표시해야 합니다. 선거나 코인거래 등 유명이 딥페이크의 피해를 받지 않게 하려는 조치입니다.

 

• 세계 최초 AI 규제법, '유럽의회 통과'

 

 

 

  AI법 승인과 향후 전망

AI법 승인과 이에 따른 향후 전망을 보면, 긍정의 시선도 있지만 부정적 시선도 상존합니다. AI 기술과 개발 등 혁신을 가로막는 법이라는 우려도 있으며, 유럽이 AI 경쟁에서 뒤져서 규제에 집중한다는 의견도 있습니다. 

 

 

①국제적 관점

유럽연합(EU)은 AI법 통과 후, "유럽이 AI 글로벌 표준을 제시하는 신뢰할 수 있는 국가"라는 발표를 했습니다. 많은 전문가들이 해당 AI법이 글로벌 관점에서 이정표 역할을 할 것으로 보고 있습니다.

 

 

②우리나라

우리나라는 특정 AI를 금지 또는 벌금을 부과하는 등 제재하는 내용의 조항은 없고, 고위험 AI만 규정하여 사전 고지를 하도록 하고 있습니다. 이번 기회에 유럽연합(EU)은 AI법 일부를 수용하자는 의견이 있습니다.

이번 유럽연합(EU)의 AI법 승인을 시작으로, 향후 AI를 둘러싼 갈등은 더욱 복잡하고 예측 불가능한 상황도 발생하지 않을까 생각해 봅니다.