발행일: 2026-11-20(금) 12:30
← 에디터 컬럼 목록
✍️ 전문가 컬럼📚 AI 거버넌스 & 컴플라이언스

AI 기본법 시행 이후, 기업이 확인해야 할 적용 범위와 운영 기준

2026.07.22 01:18
Andrea A. Choi
Andrea A. Choi
Fidelity investment Asia Headquarters

AI 기본법 대응은 우리 회사의 역할을 확인하는 데서 시작한다

기업이 생성형 AI를 도입했다고 해서 모든 기업에 같은 법적 의무가 발생하는 것은 아니다. 직원이 내부 참고자료를 요약하는 경우와 고객에게 AI 상담 서비스를 제공하는 경우는 구분해서 검토해야 한다.

중요한 것은 AI를 사용한다는 사실 자체보다 어떤 제품이나 서비스를 제공하고, 그 과정에서 어떤 역할을 맡으며, 이용자에게 어떤 영향을 주는지 파악하는 것이다.

「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」은 2026년 1월 22일부터 시행됐다. 따라서 기업의 대응도 아직 논의 중인 법안에 대비한다는 관점이 아니라, 시행 중인 법령과 관련 규정을 실제 업무에 어떻게 적용할지 확인하는 방향으로 바뀌어야 한다.

이 글은 공식 법령을 바탕으로 기업의 검토 순서를 설명하는 일반적인 실무 해설이다. 특정 기업에 대한 법률 자문이 아니며, 아래에 제안하는 내부 관리 방식이 모두 법에서 동일하게 요구하는 의무라는 뜻은 아니다.

법 이름보다 먼저 정리해야 할 업무 현황

규제 대응의 출발점은 현재 사용하는 AI 도구와 서비스를 파악하는 일이다.

어느 부서가 어떤 도구를 사용하는지, 입력하는 정보는 무엇인지, 결과물을 누가 확인하는지, 고객에게 직접 제공되는지 정리해야 한다. 외부 업체가 제공하는 모델을 사용하더라도 자사가 고객에게 어떤 형태로 서비스를 제공하는지 함께 살펴야 한다.

예를 들어 직원이 공개 자료를 요약해 내부 회의에 참고하는 업무와, 회사 웹사이트에서 고객에게 자동으로 답변하는 상담 서비스는 운영 구조가 다르다. 후자는 고객이 결과물을 직접 접하므로 서비스 안내와 오류 대응, 담당자 연결 방식까지 검토할 필요가 있다.

이러한 업무 구분을 하지 않고 모든 AI 사용에 같은 안내 문구를 붙이거나, 반대로 외부 모델을 사용한다는 이유만으로 자사의 검토 책임이 없다고 판단하는 것은 피해야 한다.

계약서에 적힌 명칭만으로 결론을 내리기보다 실제 제공 방식과 법령상 정의를 함께 확인해야 한다.

사전 고지와 결과물 표시는 구분해서 살펴야 한다

인공지능기본법 제31조는 인공지능 투명성 확보 의무를 규정한다.

제31조 제1항은 인공지능사업자가 고영향 인공지능이나 생성형 인공지능을 이용한 제품 또는 서비스를 제공하려는 경우, 해당 제품이나 서비스가 인공지능에 기반해 운용된다는 사실을 이용자에게 사전에 고지하도록 규정한다.

제2항은 생성형 인공지능 또는 이를 이용한 제품이나 서비스를 제공하는 경우, 그 결과물이 생성형 인공지능에 의해 생성됐다는 사실을 표시하도록 규정한다.

여기서 서비스 이용 전에 AI 사용 사실을 알리는 것과, 생성된 결과물에 관련 사실을 표시하는 것은 서로 다른 확인 항목이다. 한쪽을 처리했다는 이유만으로 다른 항목도 자동으로 충족했다고 단정해서는 안 된다.

다만 구체적인 고지·표시 방법과 예외는 법률 조문만으로 판단하지 말고 시행령과 해당 서비스에 적용되는 기준을 함께 확인해야 한다. 모든 내부 문서에 반드시 같은 문구를 넣어야 한다는 식으로 일반화하는 것도 적절하지 않다.

기업은 서비스 화면과 이용 흐름을 기준으로 어느 시점에 무엇을 안내하고, 어떤 결과물에 어떤 방식으로 표시할지 검토해야 한다.

실제와 구분하기 어려운 음향·이미지·영상은 별도로 확인한다

제31조 제3항은 인공지능시스템을 이용해 실제와 구분하기 어려운 가상의 음향·이미지·영상 등의 결과물을 제공하는 경우를 별도로 다룬다.

이 경우 해당 결과물이 인공지능시스템에 의해 생성됐다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지하거나 표시하도록 규정한다. 예술적·창의적 표현물에 해당하거나 그 일부를 구성하는 경우에는 전시 또는 향유를 저해하지 않는 방식으로 고지하거나 표시할 수 있다는 내용도 포함돼 있다.

따라서 합성 인물 영상이나 실제 촬영물처럼 보이는 광고 이미지 등을 활용한다면, 단순한 서비스 소개 문구와 별개로 해당 결과물을 접하는 이용자가 AI 생성 사실을 어떻게 인식하는지 확인할 필요가 있다.

작은 표시가 존재한다는 사실만으로 충분하다고 가정하기보다, 구체적인 법령상 방법과 예외를 검토해야 한다.

고영향 여부는 AI가 쓰인다는 이유만으로 결정되지 않는다

고영향 인공지능에 해당하는지 검토할 때는 법에서 정한 정의와 영역, 실제 사용 목적과 영향을 함께 살펴야 한다.

채용이나 의료, 금융 등 특정 분야에서 사용된다는 이유만으로 모든 기능을 같은 방식으로 판단하거나, 반대로 사람이 마지막에 확인한다는 이유만으로 검토가 불필요하다고 판단해서는 안 된다.

같은 서비스 안에서도 단순한 문서 정리 기능과 개인에게 영향을 주는 판단에 활용되는 기능은 구분할 필요가 있다.

기업은 AI가 어떤 입력을 받아 어떤 결과를 만들고, 그 결과가 이후의 업무나 의사결정에 어떻게 사용되는지 설명할 수 있어야 한다. 적용 여부가 불분명하다면 추정으로 결론을 내리기보다 현행 법령과 공식 안내를 확인하고 필요한 검토를 거치는 편이 적절하다.

법적 의무와 내부 운영 권고를 섞지 않는다

기업이 안전하게 AI를 운영하기 위해 필요한 관리 항목과 법률이 직접 요구하는 의무는 구분해야 한다.

예를 들어 승인된 도구 목록을 관리하고, 담당자를 지정하고, 오류 발생 시 대응 절차를 마련하는 것은 유용한 내부 운영 방식이다. 그러나 이러한 방식이 모든 기업에 동일한 형태의 법정 의무로 부과된다고 설명해서는 안 된다.

반대로 법에서 요구하는 사항을 단순한 권고로 낮춰 이해하는 것도 문제다.

내부 검토 문서에는 법령에 따라 이행해야 하는 항목과 회사가 위험 관리를 위해 자체적으로 정한 항목을 나눠 기록하는 것이 좋다. 각 항목의 근거와 담당자, 확인 날짜를 함께 남기면 이후 법령이나 서비스가 변경됐을 때 다시 검토하기 쉽다.

이 구분은 과도한 대응을 줄이면서 필요한 조치를 빠뜨리지 않도록 돕는다.

고객 상담 서비스를 예로 든 적용 검토

다음은 실제 기업 사례가 아니라 검토 과정을 설명하기 위한 가상 시나리오다.

한 회사가 자사 웹사이트에 생성형 AI 기반 고객 상담 기능을 도입한다고 가정해보자. 상담 기능은 배송과 환불 규정을 조회해 답변하고, 해결하기 어려운 문의는 직원에게 연결한다.

회사는 먼저 서비스 제공 구조와 자사의 역할을 확인해야 한다. 외부 모델 제공업체가 어떤 기능을 담당하고 자사는 무엇을 설계·운영하는지, 이용자에게 제공하는 서비스는 무엇인지 정리한다.

다음으로 사전 고지와 결과물 표시의 적용 여부 및 구체적인 방법을 검토한다. 상담창을 열기 전이나 이용을 시작하는 과정에서 어떤 안내가 필요한지, 답변 화면에서는 어떻게 표시할지 확인한다.

이와 별개로 답변의 정확성과 업무 권한도 관리해야 한다. AI가 환불 가능 여부를 설명하는 것과 실제 환불을 승인하는 것은 다른 기능이다. 외부 시스템을 변경하는 기능이 있다면 실행 권한과 승인 절차를 따로 설계할 필요가 있다.

개인정보가 포함되는 문의는 입력 범위와 저장 방식, 외부 서비스로 전달되는 정보도 확인해야 한다. 이는 AI 기본법만으로 검토가 끝나는 문제가 아니라 개인정보 보호 등 다른 법령과 계약 조건을 함께 살펴야 하는 영역이다.

고지 문구를 추가하는 작업과 서비스 운영 위험을 관리하는 작업은 서로 연결돼 있지만 같은 일은 아니다.

제재는 해당 법률과 위반 유형을 기준으로 설명한다

AI 규제를 소개하면서 해외 법률의 최대 제재액을 국내법의 일반적인 제재 수준처럼 연결하는 것은 피해야 한다.

EU AI Act의 제재 체계와 국내 인공지능기본법의 제재 체계는 구분해서 확인해야 한다. 또한 AI와 관련된 문제가 발생했다고 해서 모든 사건에 같은 법률과 같은 제재가 적용되는 것도 아니다.

개인정보 처리, 소비자에 대한 설명, 계약 이행 등은 사안에 따라 각각의 법령과 책임이 문제 될 수 있다. 어떤 결과가 발생하는지는 구체적인 행위와 적용 조항을 확인해야 한다.

기업의 대응을 촉진하기 위해 근거가 불분명한 벌금이나 과징금을 강조하기보다, 어떤 업무에서 어떤 의무를 확인해야 하는지 설명하는 것이 더 실용적이다.

운영 기준은 담당자가 실행할 수 있어야 한다

실무적으로는 AI 사용 업무와 담당자, 입력 정보, 결과물의 사용처를 연결해 관리하는 방식이 도움이 된다.

여기에 법적 검토가 필요한 항목과 확인한 근거, 고지·표시 방식, 오류 발생 시 처리 절차를 함께 정리할 수 있다. 서비스가 바뀌었을 때 누가 다시 검토할지도 정해두는 것이 좋다.

고객이 잘못된 답변을 받았을 때는 누구에게 문의할 수 있는지, 담당자는 어떤 기록으로 문제를 확인할 수 있는지, 필요한 경우 기능을 중단하거나 수정할 수 있는지도 살펴야 한다.

다만 기록을 많이 남기는 것이 항상 좋은 것은 아니다. 문제 확인에 필요한 정보와 개인정보 보호를 함께 고려해 저장 범위와 보관 기간을 정해야 한다.

이러한 운영 기준은 문서를 작성했다는 사실보다 실제 담당자가 이해하고 실행할 수 있는지에 초점을 맞춰야 한다.

시행 이후의 대응은 일회성 점검으로 끝나지 않는다

AI 서비스는 모델과 기능, 데이터 처리 방식이 바뀔 수 있다. 처음 도입할 때 검토한 내용이 이후에도 그대로 유효하다고 가정해서는 안 된다.

모델 제공업체나 계약 조건이 변경되거나, 내부 참고용 기능을 고객용 서비스로 확대하거나, 외부 시스템에 대한 실행 권한을 추가한다면 다시 확인할 필요가 있다.

법령과 공식 안내의 변경도 함께 살펴야 한다. 검토 문서에 확인 날짜와 근거 자료를 남기는 이유는 나중에 판단의 전제를 확인하기 위해서다.

AI 기본법 시행 이후 기업에 필요한 것은 막연한 규제 공포도, 안내 문구 하나로 모든 대응이 끝났다는 확신도 아니다.

자사의 역할과 서비스 구조를 파악하고, 적용되는 의무를 확인하며, 이용자가 이해할 수 있는 안내와 실제 작동하는 운영 기준을 마련하는 것이 출발점이다.

정정 안내

이 글은 기존 본문에서 국내 인공지능기본법을 가칭 또는 시행 전 논의 단계로 설명한 부분을 바로잡았습니다. 국내법과 해외 규제의 제재 수준을 혼동할 수 있는 표현을 삭제하고, 출처가 제시되지 않은 기업 사례를 실제 사건처럼 서술한 부분을 제외했습니다. 본문의 고객 상담 서비스 예시는 검토 과정을 설명하기 위한 가상 시나리오입니다.

자료 확인일

2026년 10월 15일

참고 자료

국가법령정보센터 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제31조 인공지능 투명성 확보 의무 https://www.law.go.kr/LSW/lsSideInfoP.do?lsiSeq=282791&joNo=0031&joBrNo=00&docCls=jo&urlMode=lsScJoRltInfoR

국가법령정보센터 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 시행령 https://www.law.go.kr/법령/인공지능발전과신뢰기반조성등에관한기본법시행령

Andrea A. Choi
Andrea A. Choi
Fidelity investment Asia Headquarters