KernelArc: GPU 커널 최적화를 위한 멀티 에이전트 프레임워크
Joyjit Kundu, Ben Stoffelen, Kaili Wang
이기종 GPU 워크로드 전반에 걸쳐 자율적인 GPU 커널 최적화를 수행하는 멀티 에이전트 시스템 KernelArc를 제안한다. 전략 특화 에이전트들이 병렬로 실행되며 결론만 공유하는 메모리, 결정론적 벤치마크 가드, 플래토 트리거 드래프팅을 통해 협력한다. NVIDIA H100·B200 GPU의 SOL-ExecBench에서 사용자 정의 BF16 GEMM, 혼합 전문가 역방향, NVFP4 그룹 쿼리 어텐션 등 여러 카테고리에서 1위를 기록했다. AI를 활용한 GPU 커널 자동 최적화가 실용적 수준에 도달했음을 보여주는 연구로, AI 추론 인프라 최적화에 직접 적용 가능하다.
ArXiv cs.AIagenthardwareinference
DiSCO: 분포 기반 대조 프롬프트 최적화로 텍스트-이미지 생성 모델의 NSFW 콘텐츠 방어
Tong Zhang, Motasem Alfarra, Carlos Hinojosa
텍스트-이미지 생성 모델에서 언어적으로는 안전하지만 학습 데이터 분포로 인해 유해 콘텐츠를 생성하는 '양성 적대적(benign adversarial)' 문제를 새롭게 정의하고, 이를 순수 블랙박스 방어 기법으로 해결하는 DiSCO를 제안한다. 모델 재학습이나 파인튜닝 없이 프롬프트 수준에서만 작동하는 플러그앤플레이 방식으로, 빔 서치를 통한 분포 기반 접미어 확장과 안전/비안전 이미지 풀 대조 스코어링을 사용한다. 기존 화이트박스 방어법과 달리 독점 모델에도 적용 가능하여 실용성이 높다. 생성 AI 안전의 사각지대를 정의하고 실용적 해법을 제시한 연구로 주목받는다.
ArXiv cs.AIdiffusionsafetyvision
CASE: 은닉 상태 선택이 다수결 투표를 앞서는 조건을 예측하는 디코더빌리티 기준
Zhixiang wang, Ziliang Hong, Ulas Bagci
LLM이 같은 질문에 대해 여러 답을 샘플링할 때 이를 하나로 합치는 방법으로 다수결 투표 대신 모델의 은닉 상태에서 정답 신호를 읽어 최선의 후보를 선택하는 CASE(Correctness-Axis SElection)를 제안한다. 핵심 기여는 '디코더빌리티(decodability)'라는 누출 없는 지표로, 이 지표가 은닉 상태 선택이 투표보다 나을지를 사전에 예측할 수 있다. 기존 프로브 방법이 높은 정확도를 보이는 것은 질문 정체성 누출 때문임을 밝히고, 질문 그룹화 평가로 이를 제거했다. 테스트 타임 컴퓨트 최적화와 자기 일관성 개선에 실질적으로 활용 가능한 연구다.
ArXiv cs.AIllmbenchmarkinference
제도별 LLM 프롬프팅으로 기존 비식별화 시스템이 놓친 PHI 복구
Daniel Palacios, Matthew Brady Neeley, Angel Adetomike Otto
전자의무기록(EHR)의 2차 활용을 위한 개인건강정보(PHI) 비식별화에서 기존 시스템이 병원 약어, 건물명, 내부 코드 같은 '기관 고유 PHI'를 누락한다는 문제를 LLM 인컨텍스트 학습으로 해결하는 방법을 제시한다. 소아암 병동 100개 노트(5,322개 PHI 범위)에서 8개 LLM과 기존 전용 시스템을 비교한 결과, LLM이 최고 F1 0.918로 Stanford TiDE(0.779)를 크게 앞섰다. 기관 특화 PHI 카테고리를 프롬프트에 명시하는 것만으로도 재현율이 크게 향상되었다. 의료 AI 데이터 파이프라인에서 LLM 기반 PHI 비식별화의 실용적 우수성을 실증한 연구다.
불확실성 인식 의사결정: 멀티모달 LLM의 신뢰도 평가 및 제어 서베이
Abderrahmene Boudiaf, Irfan Hussain, Sajid Javed
멀티모달 LLM(MLLM)의 실패가 언어적 오류를 넘어 시각·청각·문서·차트 등 다양한 양식에서 발생한다는 점에 착안하여, 불확실성 인식 기반의 결정 프레임워크를 체계적으로 정리한 서베이 논문이다. 토큰/로짓 불확실성, 의미적 불일치, 교란 불안정성, 그라운딩 스코어, 언어화된 신뢰도, 컨포멀 예측, 선택적 응답, 기권, 자기 검증 등 광범위한 방법론을 리뷰한다. 핵심 주장은 불확실성을 단순한 신뢰도 숫자가 아니라 시스템 행동을 개선하는지 여부로 평가해야 한다는 것이다. 멀티모달 AI 시스템의 신뢰성과 안전성을 높이려는 연구자와 개발자에게 포괄적인 참고 자료가 된다.
ArXiv cs.CLmultimodalsafetybenchmark