미국의 AI 정책과 NIST 지침은 같은 것이 아니다
미국의 AI 관련 정보를 살펴보다 보면 대통령 행정명령과 정부 기관의 정책, 기술 지침이 함께 등장한다. 그러나 이 문서들은 대상과 효력이 같지 않다.
특히 미국 국립표준기술원인 NIST의 AI 위험관리 프레임워크를 모든 기업이 따라야 하는 법률처럼 이해해서는 안 된다.
NIST는 AI Risk Management Framework, 이하 AI RMF를 자발적인 사용을 위한 프레임워크로 설명한다. 조직이 AI 제품과 서비스를 설계하고 개발하며 사용하고 평가하는 과정에서 신뢰성 관련 요소를 고려하도록 돕는 것이 목적이다.
따라서 미국과 거래한다는 이유만으로 모든 기업이 특정 시점까지 AI RMF의 모든 항목을 이행해야 한다고 단정하는 것은 적절하지 않다.
기업은 법률에 따른 의무와 정부 기관의 정책, 조달 조건, 개별 계약의 요구사항, 내부적으로 채택한 관리 기준을 구분해야 한다.
이 글은 NIST 공식 자료를 바탕으로 AI RMF의 활용 방법을 설명하는 실무 해설이다. 미국 AI 규제 전체를 망라하거나 특정 기업의 법적 의무를 판단하는 글은 아니다.
과거 행정명령을 현재의 근거로 그대로 사용하지 않는다
2023년 10월 30일 발표된 미국의 AI 관련 행정명령 제14110호는 이후 정책 변화 과정에서 폐지됐다. 미국 연방관보에 게재된 행정명령 제14148호는 2025년 1월 20일 해당 명령을 폐지한 사실을 명시한다.
따라서 2023년 행정명령을 현재도 그대로 유효한 규제의 근거처럼 제시해서는 안 된다.
그렇다고 행정명령의 폐지가 NIST AI RMF 자체의 폐지나 AI와 관련된 모든 법적 의무의 소멸을 뜻하는 것도 아니다. 행정명령과 기술 프레임워크, 개별 법령의 관계는 구분해서 살펴야 한다.
NIST는 현재도 공식 웹사이트에서 AI RMF를 제공하고 있으며, 자료 확인일 기준으로 AI RMF 1.0의 개정이 진행 중이라고 안내한다.
기업은 과거 문서의 발표 사실뿐 아니라 현재 효력과 후속 변경 여부를 함께 확인해야 한다. 검토 기록에 문서명과 버전, 확인 날짜를 남기는 이유도 여기에 있다.
자발적 지침도 계약에서는 구체적인 요구가 될 수 있다
AI RMF 자체가 자발적 지침이라는 사실과 개별 거래에서 관련 요구가 발생할 수 있다는 사실은 양립한다.
예를 들어 고객사가 공급자에게 AI 위험평가 자료를 제출하도록 요청하거나, 특정 관리 항목을 계약에 포함할 수 있다. 정부 조달에 참여한다면 해당 공고와 계약, 적용되는 기관 정책을 별도로 확인해야 한다.
이때 확인할 것은 단순히 NIST라는 명칭이 들어갔는지가 아니다. 어느 문서의 어떤 버전을 기준으로 하는지, 적용 범위는 무엇인지, 어떤 결과물과 증빙을 제출해야 하는지 구체적으로 살펴야 한다.
반대로 특정 계약의 요구를 미국과 거래하는 모든 기업의 일반적인 법적 의무로 확대해서도 안 된다.
AI RMF를 참고했다는 사실만으로 법령 준수가 자동으로 입증되는 것도 아니다. 실제 의무의 근거와 적용 요건은 별도로 확인해야 한다.
네 가지 기능은 순서대로 끝내는 절차가 아니다
AI RMF의 핵심은 Govern, Map, Measure, Manage라는 네 가지 기능으로 구성된다.
NIST는 이 기능들을 반드시 정해진 순서대로 완료해야 하는 단계나 단순한 체크리스트로 설명하지 않는다. 조직의 상황과 자원, 위험에 맞게 적용하고 반복적으로 연결하는 구조다.
특히 Govern은 마지막에 수행하는 모니터링 단계가 아니다. 다른 기능 전반에 책임과 정책, 의사결정 기준을 연결하는 공통 기반이다.
위험을 측정하는 과정에서 새로운 문제가 발견되면 업무의 사용 맥락을 다시 검토할 수 있다. 대응 방안을 마련하다가 책임과 승인 구조의 문제가 드러나면 관리 체계를 조정할 수도 있다.
네 가지 기능은 일회성 보고서의 목차가 아니라 지속적인 위험관리를 위한 관점으로 이해하는 편이 적절하다.
Govern: 누가 어떤 기준으로 결정하는가
Govern은 AI 위험을 관리하는 조직의 책임과 정책, 절차를 다룬다.
기업에서는 어떤 업무에 AI를 사용할 수 있는지, 도입을 누가 승인하는지, 문제가 발생하면 누가 기능을 중단하거나 수정할 수 있는지 정리하는 데 활용할 수 있다.
법적 요구사항을 확인하고 관리하는 책임도 포함된다. 외부 모델과 소프트웨어, 데이터 공급자를 사용하는 경우에는 그 관계에서 발생하는 위험도 살펴야 한다.
이 기능을 적용한다고 해서 모든 기업이 같은 규모의 전담위원회를 설치해야 한다는 뜻은 아니다. 조직의 규모와 업무 위험에 맞는 역할과 의사결정 경로를 마련하는 것이 중요하다.
정책 문서가 존재하는지보다 담당자가 내용을 이해하고 실제로 실행할 권한이 있는지를 확인해야 한다.
Map: AI가 사용되는 맥락과 영향을 파악한다
Map은 AI 시스템이 어떤 상황에서 사용되고 누구에게 어떤 영향을 줄 수 있는지 파악하는 기능이다.
업무 목적과 이용자, 입력 정보, 출력의 사용처를 정리하고, 기대하는 이익과 예상 가능한 부정적 영향을 함께 살펴본다.
같은 모델이라도 직원의 참고자료를 요약할 때와 고객의 서비스 이용 여부를 판단하는 데 활용할 때는 검토할 내용이 달라진다.
AI를 도입하지 않는 대안과 비교하는 것도 중요하다. 명확한 규칙으로 처리할 수 있는 업무라면 일반 소프트웨어나 기존 절차가 더 적절할 수 있다.
Map의 결과는 AI를 어떻게 사용할지뿐 아니라 해당 업무에 AI를 사용하는 것이 적절한지 판단하는 근거가 된다.
Measure: 무엇을 어떻게 확인했는지 남긴다
Measure는 위험과 관련 영향을 분석하고 평가하며 관찰하는 기능이다. 수치 평가뿐 아니라 정성적인 검토도 활용할 수 있다.
기업에서는 답변의 정확성뿐 아니라 근거의 일치 여부, 개인정보 노출 가능성, 집단별 오류, 사람이 검토할 수 있는 정도 등을 업무에 맞게 확인할 수 있다.
평가 자료가 실제 사용 환경을 얼마나 반영하는지도 중요하다. 정형화된 예제에서 좋은 결과를 냈더라도 불완전한 입력이나 예외 상황에서는 다르게 작동할 수 있기 때문이다.
평가 결과에는 사용한 자료와 방법, 확인한 범위, 발견한 문제를 남겨야 한다. 현재 방법으로 측정하지 못한 위험도 기록할 필요가 있다.
수치가 없다는 이유로 위험이 없다고 판단하거나, 평균 성능이 양호하다는 이유로 모든 사용 상황에서 안전하다고 결론 내려서는 안 된다.
Manage: 평가 결과를 실제 조치로 연결한다
Manage는 파악하고 평가한 위험에 우선순위를 부여하고 대응하는 기능이다.
대응 방식에는 위험을 줄이는 조치뿐 아니라 사용 범위를 제한하거나, 특정 기능을 보류하거나, AI 대신 다른 방법을 선택하는 결정도 포함될 수 있다.
모든 위험을 같은 수준으로 처리하기보다 영향과 발생 가능성, 대응 자원을 고려해 우선순위를 정해야 한다. 조치 이후에도 남는 위험과 그 판단 근거를 기록하는 것이 좋다.
운영 중 오류가 발견됐을 때의 대응과 복구, 관련자에게 알리는 절차도 연결해야 한다. 외부 공급자의 장애나 변경이 자사 서비스에 미치는 영향 역시 확인 대상이다.
관리의 결과는 문서상 대응 완료가 아니라 실제 기능과 업무 절차의 변화로 확인할 수 있어야 한다.
가상 사례: 고객 문의 답변 초안 서비스
다음은 실제 기업 사례가 아니라 네 가지 기능의 연결을 설명하기 위한 가상 시나리오다.
한 기업이 고객 문의에 대한 답변 초안을 생성하는 서비스를 도입한다고 가정해보자. 초기에는 AI가 직접 발송하지 않고 담당자가 확인한 뒤 보내도록 구성한다.
Govern 관점에서는 업무 책임자와 승인자, 사용할 수 있는 자료의 범위, 오류 신고 경로를 정한다. 공급자 계약과 개인정보 관련 검토를 누가 담당할지도 명확히 한다.
Map 관점에서는 어떤 문의를 처리하고 어떤 문의는 제외할지 정한다. 배송 안내와 같은 일반 문의와 분쟁이나 민감정보가 포함된 문의를 같은 방식으로 처리해도 되는지 살펴본다.
Measure 관점에서는 최신 규정을 제대로 참조하는지, 근거가 없을 때 답변을 만들어내지 않는지, 다른 고객의 정보를 섞어 보여주지 않는지 평가한다. 담당자가 실제로 수정하는 시간과 오류를 발견하는 데 드는 부담도 확인할 수 있다.
Manage 관점에서는 평가에서 발견한 문제에 대응한다. 특정 문의의 오류가 반복된다면 해당 유형을 자동 처리 대상에서 제외하거나, 자료 조회 방식과 검토 절차를 개선한다.
이후 외부 자동 발송 기능을 추가한다면 기존 검토만으로 충분하다고 가정해서는 안 된다. 실행 권한과 승인, 중단 조건이 바뀌므로 다시 평가해야 한다.
외부 모델을 사용해도 자사의 사용 환경은 점검해야 한다
기업이 모델을 직접 개발하지 않았다고 해서 모든 위험평가를 공급자에게 맡길 수 있는 것은 아니다.
공급자가 공개한 성능 자료는 참고할 수 있지만, 그 평가가 자사의 언어와 자료, 이용자, 업무 조건을 반영하는지는 별도로 확인해야 한다.
입력 자료의 보관과 재사용 조건, 접근 통제, 서비스 변경 통지, 장애 대응 방식도 검토할 수 있다.
이때 직접 확인한 사실과 공급자의 설명에 의존한 내용을 구분해야 한다. 공급자가 제공하지 않은 정보는 미확인 사항으로 남기고, 그 한계가 도입 판단에 어떤 영향을 주는지 검토하는 편이 정확하다.
관리할 수 없는 위험이 있다면 기능을 제한하거나 다른 공급자와 대안을 검토할 수도 있다.
중소기업은 위험이 큰 업무부터 적용할 수 있다
AI RMF를 활용하기 위해 처음부터 모든 항목을 같은 깊이로 검토할 필요는 없다. NIST도 조직의 자원과 역량, 필요에 맞는 활용을 설명한다.
실무적으로는 사용 중인 AI 업무를 파악하고, 고객이나 직원에게 미치는 영향이 큰 업무부터 검토 범위를 정하는 방식으로 시작할 수 있다.
그다음 해당 업무의 책임자와 사용 범위, 주요 위험, 평가 방법, 대응 조치를 연결해 기록한다.
중요한 것은 서식의 분량이 아니다. 위험을 발견했을 때 누가 판단하고, 무엇을 바꾸며, 그 결과를 어떻게 다시 확인할지 이어져 있어야 한다.
다만 자원에 맞게 자율 지침을 적용한다는 이유로 별도의 법적 의무나 계약상 요구까지 생략할 수 있는 것은 아니다.
준수 선언보다 적용 범위와 근거를 설명한다
AI RMF를 활용했다는 사실을 외부에 설명할 때도 범위를 명확히 해야 한다.
어느 제품과 업무에 어떤 버전의 프레임워크를 참고했는지, 무엇을 평가했고 어떤 한계가 있는지 제시하는 편이 좋다.
일부 항목을 검토한 결과를 전체 시스템의 안전성 보장으로 확대하거나, 프레임워크를 참고한 사실을 NIST의 인증이나 승인처럼 표현해서는 안 된다.
고객이 증빙을 요청한다면 일반적인 준수 선언보다 실제 위험평가와 개선 기록, 관련 정책, 확인 가능한 운영 자료가 더 구체적인 설명이 된다.
평가 과정에서 작성한 문서와 실제 서비스 설정이 일치하는지도 함께 확인해야 한다.
결론: 자율 지침의 가치는 위험을 관리하는 공통 언어에 있다
NIST AI RMF는 모든 기업에 같은 의무를 부과하는 규정이 아니다. AI의 사용 맥락과 위험을 파악하고, 평가 결과를 책임 있는 의사결정과 대응에 연결하도록 돕는 프레임워크다.
기업은 Govern으로 책임과 기준을 마련하고, Map으로 사용 맥락과 영향을 파악하며, Measure로 위험을 확인하고, Manage로 실제 조치를 결정할 수 있다.
이 기능들은 한 번 수행하고 끝내는 순서가 아니라 서비스의 변화와 새로운 정보에 따라 반복해서 연결된다.
법령과 조달, 계약에서 요구하는 사항은 별도로 확인해야 한다. 과거 행정명령이나 오래된 소개 자료를 현재의 의무로 오해하지 않도록 문서의 효력과 버전도 점검할 필요가 있다.
좋은 위험관리는 모든 항목을 충족했다는 선언보다 무엇을 알고 무엇을 아직 모르는지, 그리고 그 판단에 따라 어떤 조치를 했는지 설명할 수 있는 상태에 가깝다.
정정 안내
기존 본문에서 NIST AI RMF를 미국과 거래하는 모든 기업의 사실상 의무 기준처럼 설명한 부분을 수정했습니다. 연방 정부 기관의 요구사항을 일률적으로 일반화한 표현과 출처가 제시되지 않은 제재 규모 및 기업 사례를 제외했습니다. 2023년 AI 행정명령 제14110호의 폐지 사실을 반영하고, AI RMF의 네 가지 기능을 반드시 순서대로 수행하는 단계가 아닌 상호 연결된 위험관리 기능으로 설명했습니다.
자료 확인일
2026년 10월 15일
참고 자료
미국 국립표준기술원 NIST AI Risk Management Framework https://www.nist.gov/itl/ai-risk-management-framework
NIST AI Resource Center AI RMF Core https://airc.nist.gov/airmf-resources/airmf/5-sec-core/
미국 연방관보 행정명령 제14148호 제2조에서 행정명령 제14110호 폐지 확인 https://www.federalregister.gov/documents/2025/01/28/2025-01901/initial-rescissions-of-harmful-executive-orders-and-actions
