EU AI Act부터 국내 기본법까지, LLM 신뢰성을 검증하는 글로벌 표준과 정책

글로벌 AI 거버넌스: 안전성과 투명성을 향한 국제적 움직임

전 세계적으로 인공지능(AI) 기반 제품과 서비스로부터 사용자의 안전과 생명을 보호하기 위한 표준과 제도가 빠르게 수립되고 있습니다. 유럽연합(EU)은 인공지능 기반 제품 및 서비스의 위험을 관리하기 위해 '인공지능법(Artificial Intelligence Act, AI Act)'을 발표하였으며, 이는 AI 기술이 사회에 미치는 영향을 규제하는 핵심적인 틀로 작동합니다. 미국 또한 국립표준기술연구소(NIST)를 통해 AI 위험 관리 프레임워크(RMF)와 AI의 위험 및 영향 평가(ARIA)를 발표하며 공공기관 주도의 안전성 연구를 활성화하고 있습니다 (출처 3).

이러한 흐름은 단순히 기술적 권고에 그치지 않고 법적 강제성을 띠는 방향으로 진화하고 있습니다. 예를 들어 중국은 '인터넷정보서비스 심층종합관리규정'을 통해 AI를 활용한 딥페이크나 합성 이미지에 대한 구체적인 지침을 마련했습니다. 이 규정에 따르면 사람의 얼굴이 등장하거나 사실적인 사진, 영상, 음성을 생성할 때는 반드시 AI에 의해 생성되었음을 알리는 워터마크(Watermark)를 부착해야 합니다. 또한 게임이나 영화 등 콘텐츠 산업 전반에서 선정적이거나 반국가적인 표현을 엄격히 금지하고 있습니다 (출처 1).

이러한 국제적 움직임은 LLM 기반 서비스의 안전성 확보가 선택이 아닌 필수가 되었음을 시사합니다. 고도의 판단력과 창의적 작업이 수반되는 인간의 업무를 대체하기 시작하는 LLM 기술의 특성상, 국가와 공공기관은 신뢰할 수 있는 기술 환경을 조성하기 위해 표준화된 가이드라인과 법률을 통해 기술의 오남용을 방지하려는 의지를 보여주고 있습니다 (출처 3).

한국의 AI 정책: 기본법 제정과 데이터 품질 인증 체계

대한민국은 인공지능의 건전한 발전과 신뢰 기반 조성을 위해 법적·제도적 장치를 마련하고 있습니다. 한국은 2025년 1월 '인공지능기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)'을 공포하고, 2026년 1월부터 시행할 예정입니다. 이는 유럽에 이어 두 번째로 AI 관련 법안을 제정한 사례로 평가받으며, 혁신 저해와 신뢰 확보라는 두 가치 사이에서 균형을 찾으려는 시도로 해석됩니다 (출처 2).

법적 기반 외에도 한국은 실무적인 가이드라인을 지속적으로 업데이트하고 있습니다. 특히 데이터의 품질은 AI 모델의 성능과 직결되므로, 2021년 'AI 학습용 데이터 품질관리 가이드라인 v1.0'을 시작으로 현재 v3.5까지 고도화되었습니다. v3.5 버전에서는 AI 데이터 품질관리 프레임워크, 구축 방법론 및 오류 대응 전략 실무 사례, 그리고 생성형 AI 데이터에 특화된 품질관리 방법을 구체적으로 제시합니다. 또한 2025년 2월에는 고품질 데이터 생산과 유통 활성화를 위해 총 3권으로 구성된 '데이터 품질인증 방침'을 개발하여 인증 절차와 심사 기준을 마련했습니다 (출처 2).

한국의 정책은 OECD AI 원칙 중 하나인 'AI를 위한 지원 및 상호 운용 가능한 거버넌스 및 정책 환경 구축'을 이행하기 위한 노력의 일환으로 볼 수 있습니다. 정부는 윤리 지침과 행동강령뿐만 아니라, 기업용 생성형 AI 도입을 위한 개인정보 보호 및 보안 가이드라인 분석 내용처럼 공공기관과 대학이 제시하는 보안 수칙 등을 통해 기술적 취약점 대응 체계를 구축하고 있습니다 (출처 2).

LLM 신뢰성 평가의 핵심 메트릭과 프레임워크

LLM의 신뢰성을 검증하기 위해서는 객관적이고 표준화된 평가 방법론이 필요합니다. 현대적인 LLM 평가는 GLUE(General Language Understanding Evaluation)와 같은 종합적인 벤치마크에서 시작되었으며, 인간 수준을 초과하는 성능에 대응하기 위해 SuperGLUE와 같은 복잡한 후속 벤치마크가 개발되었습니다. 또한 광범위한 지식과 추론 능력을 테스트하기 위해 MMLU 및 BIG-bench와 같은 다중 과제(Multi-task) 벤치마크가 도입되어 표준으로 자리 잡고 있습니다 (출처 4).

구체적인 안전성 평가에서는 공정성, 설명 가능성과 같은 대분류를 설정하고 환각(Hallucination), 편향성(Bias) 등의 세부 기준을 마련합니다. 최근 주목받는 'TrustLLM' 프레임워크는 8가지 주요 안전성 원칙을 제시하며 그중 진실성, 안전성, 공정성, 견고성, 프라이버시, 기계 윤리 등 6개 항목에 대해 실험을 진행했습니다. 이 프레임워크는 30개 이상의 데이터셋을 활용해 각 세부 기준에 맞춤형 데이터를 선정하고, ChatGPT 3.5 또는 4를 평가자 LLM로 사용하여 16개의 주요 모델에 대한 품질과 한계를 정량적으로 측정합니다 (출처 3).

현재 비즈니스 레벨에서는 대부분 벤치마크 테스트로 안전성을 평가하지만, 사람의 평가와 높은 일치율을 보이는 완벽한 '평가용 LLM'을 구축하는 데에는 한계가 존재합니다. 이는 LLM의 안전성이 다차원적이며 특정 국가나 문화에 따른 특수성을 지니기 때문입니다. 따라서 생성형 AI 안전성 확보를 위한 레드팀(Red Teaming) 평가 방법론 분석과 같은 기술적 검증을 병행하며, 향후 글로벌 표준기관의 프레임워크가 플랫폼 내에 구현되어 상용화될 것으로 예상됩니다 (출처 3).

국가별 규제와 인증 방식의 차이점 비교

조사한 자료에 따르면 국가별로 AI 신뢰성을 확보하는 핵심 전략과 강조점이 다르게 나타납니다. 중국은 콘텐츠의 '내용적 통제'와 '식별성'에 강한 비중을 두는 반면, 유럽연합(EU)은 '위험 기반 접근법'과 '지식 재산권 보호'를 중시하며, 한국은 '데이터 품질 인증'과 '거버넌스 체계 수립'에 집중하는 경향을 보입니다.

이러한 차이는 각국의 정책적 우선순위와 사회적 요구에 따라 발생합니다. 중국은 기술의 오남용으로 인한 사회적 혼란을 막기 위한 강력한 콘텐츠 규제에 집중하는 반면, EU는 AI가 인권과 생명에 미치는 위험을 체계적으로 관리하고 저작권 등 법적 권리를 보호하는 데 방점을 둡니다. 한국은 국가 차원의 전략 수립과 더불어 고품질 데이터 생산 및 유통 환경 조성을 위한 인증 체계를 구축함으로써 기술의 신뢰 기반을 다지는 정책을 취하고 있습니다 (출처 1, 출처 2).

출처:

• 생성형 인공지능(Generative AI) 산업 현황 보고서
• 한국 AI 정책 현황 및 발전 방안
• Of the LLM, by the LLM, for the LLM - LLM 신뢰성 평가를 위한 LLM 활용 동향과 사례
• LLM 평가 - 메트릭 및 benchmark

출처: LLM 신뢰성 검증을 위한 ISO/IEC 국제 표준 및 국내 인증 체계 분석