GxP-Agent: DAG 토폴로지 기반 임상시험 프로그래밍 자동화 멀티 에이전트 시스템
Jaime Yan
임상시험 프로토콜을 CDISC 표준 분석 데이터셋으로 변환하는 작업은 규제 제출의 병목이며, 기존 단일 LLM 방식은 5개 프론티어 모델 11회 시도에서 모두 유효한 데이터셋 생성에 실패했다. GxP-Agent는 규제 프로세스 순서를 DAG(유향 비순환 그래프)로 인코딩해 15개 도메인 특화 노드로 분해하고, 각 노드를 전문 워커 에이전트가 검증 게이트와 조건부 재시도로 처리한다. Claude Sonnet 4.6과 결합 시 CDISC-Bench에서 구조적 일치율 100%(49/49 변수, 254개 레코드)를 3회 독립 실행에서 달성했으며, 최선의 RAG 기반 베이스라인(59.2%) 대비 압도적 성능을 보였다. DAG 구조 자체가 약한 모델의 성능도 끌어올리는 것으로 나타나, 구조화된 에이전트 아키텍처의 중요성을 입증한다.
Aegis: 에이전트 AI의 런타임 거버넌스 — 실행 경계 제어와 폐쇄 실패 메커니즘
Adam Mazzocchetti
에이전트 AI는 파일 수정·메시지 전송·워크플로 변경 등 실제 부작용을 유발하는 도구 액션을 요청하며, 이는 안전 문제를 텍스트 생성에서 운영적 부작용으로 이동시킨다. Aegis는 모델 출력을 '액션 제안'으로 취급하고, 신뢰할 수 있는 결정 레이어가 실행 전 정책 상태에 비추어 검증하는 런타임 거버넌스 시스템이다. 6,300개 샌드박스 실행 행에서 프롬프트 정책 조건화는 79개의 위험 경로 누출을 기록한 반면, 2,100개 Aegis 적용 행에서는 위험한 도구 실행과 부작용 완료가 0건이었다. 프롬프트 레벨 거버넌스의 한계를 명확히 드러내고 런타임 레벨 안전 레이어의 필요성을 실증적으로 입증한다.
KernelArc: GPU 커널 최적화를 위한 멀티 에이전트 프레임워크
Joyjit Kundu, Ben Stoffelen, Peter Vrancx
KernelArc는 이종 워크로드에서 GPU 커널 최적화를 자율적으로 수행하는 멀티 에이전트 프레임워크로, 전략 특화 에이전트들이 병렬로 동작하며 결론만 공유하는 메모리와 결정론적 벤치마크 가드를 통해 조율된다. NVIDIA H100·B200에서 BF16 GEMM, MoE 역전파, 디코더 레이어 퓨전, NVFP4 그룹 쿼리 어텐션 등 다양한 커널을 최적화했다. 2026년 7월 SOL-ExecBench 리더보드에서 L1·L2·양자화·FlashInfer 카테고리 1위를 달성했으며, 멀티 에이전트 탐색이 고정 후보 예산 내에서 단일 에이전트보다 더 강한 최적화 해법을 찾음을 보였다. AI 기반 하드웨어 최적화 자동화의 현실적 가능성을 보여주는 중요한 연구다.
ArXivagenthardwareinference
DiSCO: 분포 기반 대조적 프롬프트 최적화를 통한 텍스트-이미지 생성 안전 방어
Tong Zhang, Motasem Alfarra, Bernard Ghanem
텍스트-이미지 생성 모델의 NSFW 콘텐츠 생성 방어는 주로 화이트박스 방식에 의존해 독점 모델에 적용할 수 없었으며, LLM 기반 블랙박스 방어는 언어적으로 안전하지만 모델의 학습 분포상 유해 이미지를 유발하는 '양성 적대적 프롬프트' 문제를 해결하지 못했다. DiSCO는 모델 재훈련이나 내부 접근 없이 프롬프트 레벨에서만 동작하는 제로샷 블랙박스 방어 모듈로, 빔 서치 기반 분포 유도 접미사 확장과 안전·비안전 이미지 풀의 대조적 점수화를 통해 반복적으로 안전한 출력을 유도한다. 어떤 독점 모델에도 플러그인 방식으로 적용 가능하다는 점에서, 실제 배포 환경에서의 안전 인프라로 활용도가 높다.
ArXivsafetydiffusionvision
숨겨진 상태 선택이 다수결 투표를 능가하는 시점을 예측하는 디코딩 가능성 기준
Zhixiang Wang, Ziliang Hong, Ulas Bagci
LLM이 하나의 질문에 대해 여러 답변을 샘플링할 때 이를 하나로 통합하는 표준 방식은 다수결 투표이지만, 어려운 질문에서는 상관된 오류로 인해 성능이 오히려 저하될 수 있다. 이 논문은 모델의 숨겨진 상태(hidden state)에서 정확성 신호를 읽어 최선의 후보를 선택하는 CASE(Correctness-Axis SElection)를 제안하며, 핵심 기여는 숨겨진 상태 선택이 투표를 능가할지 여부를 사전에 예측하는 '디코딩 가능성(decodability)' 지표다. 기존 프로브가 높은 정확도를 보이는 이유가 질문 정체성 누출 때문임을 밝히고, 질문 그룹 기반 평가로 이를 교정했다. 테스트 타임 컴퓨트 최적화 전략 선택에 직접 활용할 수 있는 실용적 기준을 제시한다.
ArXivllminferencebenchmark
확장 가능한 수학적 발견을 위한 FAR: 문헌-검토 캐스케이드 시스템
Zeyu Zheng, Shengtong Zhang, Jeremy Avigad
AI가 수학 연구에 기여하는 사례가 증가하는 가운데, 현재 워크플로에서 인간 전문가의 노력이 연구 문제 선택과 결과 검토에 집중되어 병목이 발생한다. 이 논문은 인간이 단일 문제 대신 연구 방향을 제시하면, 시스템이 광범위한 문헌을 탐색해 적합한 후보 문제를 자동으로 찾고 인간의 검토를 최소화하는 FAR(Find, Attempt, and Recommend) 패러다임을 제안한다. 검색·추천 시스템에서 영감을 받은 이 캐스케이드 구조는 인간-AI 협력 수학 발견의 효율을 높이는 실용적 프레임워크로, AI for Math 분야의 핵심 병목을 정면으로 다룬다.
멀티모달 대형 언어 모델의 불확실성 인식 의사결정 — 종합 서베이
Abderrahmene Boudiaf, Irfan Hussain, Sajid Javed
멀티모달 LLM은 시각·텍스트·음향·차트 등 다양한 증거에 기반한 질문에 답변하므로, 실패 모드도 언어 오류에 그치지 않고 지각 오류·약한 그라운딩·모달리티 간 충돌 등으로 다양하다. 이 서베이는 불확실성 원천, 관측 가능한 신호, 신뢰도 보정, 시스템 액션으로 이어지는 의사결정 중심 프레임워크로 문헌을 체계화한다. 토큰/로짓 불확실성, 의미적 불일치, 교란 불안정성, 어트리뷰션 점수, 선택적 답변, 기권, 자기 점검 등 다양한 기법을 망라하며, 불확실성이 단순 신뢰도 수치가 아니라 실제 행동 개선으로 이어져야 함을 강조한다.
ArXivmultimodalsafetybenchmark