범용 LLM서 최초 '인과누설' 탐지… 엔비디아 포함 2종 결함 확인
국내 딥테크 AI 전문기업 '비드래프트'가 범용 인공지능(AI) 모델의 잠재적 안전성 취약성을 정밀하게 진단하는 평가 데이터셋과 리더보드 'AX-RAY'를 글로벌 오픈소스 플랫폼 허깅페이스에 전격 공개했습니다. 이번 발표에서 가장 주목받는 성과는 그동안 이론적 위험으로만 논의되던 '인과누설(Causal Leakage)' 결함을 실제 범용 거대언어모델(LLM)에서 최초로 탐지하고 재현해 냈다는 점이며, 특히 테스트를 거친 2종의 모델 중 하나가 엔비디아의 범용 AI 모델인 것으로 확인되어 업계의 이목이 쏠리고 있습니다.
인과누설이란 AI가 정상적인 추론 경로를 따르지 않고, 숨겨진 정보나 의도치 않은 인과적 단서에 영향을 받아 돌발적으로 판단하거나 행동하는 치명적인 현상을 말합니다. AI가 안전 가이드레일을 교묘하게 우회해 시스템을 해킹하거나 자율주행 및 로봇 에이전트가 갑작스러운 위험 행동을 보이는 것도 바로 이 숨은 인과경로 때문일 가능성이 꾸준히 제기되어 왔는데, 비드래프트가 이를 실제 모델에서 명확히 탐지해 냄으로써 AI 안전성 검증 기술에 새로운 돌파구를 마련했다는 평가를 받습니다.
117개 진단 항목으로 각국 법률·규범 매핑… "AI 경쟁의 핵심은 안전성"
비드래프트가 선보인 AX-RAY는 단순한 지능 평가 벤치마크를 넘어, 117개에 달하는 세밀한 안전성 진단 항목을 통해 모델 내부의 위험 행동 가능성을 다각도로 검증합니다. 특히 각국의 기존 법률 및 규제 체계는 물론, 아랍권의 종교적·사회적 율법 체계까지 정교하게 매핑하여 국가별·문화권별 맞춤형 AI 안전성 평가가 가능하도록 설계되어, AI 벤치마크의 핵심이 '얼마나 똑똑한가'에서 '얼마나 통제 가능한가'로 빠르게 이동하는 글로벌 트렌드를 정확히 짚어냈습니다.
비드래프트는 양자컴퓨터용 운영체제(QuantumOS)와 신약·신소재 자율개발 플랫폼을 주력으로 개발하는 딥테크 기업으로, 정부의 첨단 GPU 지원을 바탕으로 자체 파운데이션 모델을 고도화하며 기술력을 입증하고 있습니다. 김민식 비드래프트 대표는 "글로벌 AI 경쟁의 다음 단계는 지능이 아닌 안전성"이라며, AX-RAY를 모델에 숨어있는 위험한 인과관계를 찾아내고 각국의 사회 규범까지 완벽히 검증해 내는 글로벌 표준 AI 안전성 진단 체계로 발전시키겠다는 강한 포부를 밝혔습니다.