미래를 내면화하기: 월드 모델 플래닝을 위한 통합 에이전틱 훈련 패러다임
Xuan Zhang, Zhijian Zhou, Lingfeng Qiao
LLM 에이전트가 장기 과제에서 '만약에(what-if)' 추론 없이 반응적으로만 행동하는 한계를 극복하기 위해, 단일 자기회귀 모델이 미래 상태를 언어로 시뮬레이션하는 능력을 내면화하도록 훈련하는 방법을 제안한다. 단순 파인튜닝이 표면적 모방에 그친다는 '형식-역량 격차' 문제를 발견하고, 이를 해결하기 위해 (1) 월드 모델 에이전틱 중간 훈련, (2) 형식 유도 SFT, (3) 예지 조건부 강화학습의 3단계 훈련 패러다임을 설계했다. 검색·수학 도메인 평가에서 성능이 유의미하게 향상됐으며, 에이전트가 행동 전 결과를 예측하는 능력이 실제 계획 능력과 직결됨을 보여준다.
ArXiv cs.AIagentreinforcement-learningllm
멀티에이전트 LLM 팀에서 퍼스낼리티 구성이 성과에 미치는 영향
Aryan Keluskar, Amrita Bhattacharjee, Huan Liu
LLM 에이전트에 성격(퍼스낼리티) 프롬프트를 부여하는 것이 다중 에이전트 팀의 실제 작업 성과에 어떤 영향을 미치는지 체계적으로 분석한 논문이다. 낮은 친화성(low agreeableness) 설정은 코딩 태스크에서 큰 소통 변화를 일으키지만 성과에는 거의 영향이 없는 반면, 개방형 협업과 협상 태스크에서는 동일한 설정이 성과를 크게 떨어뜨린다는 것을 발견했다. 이 결과는 멀티에이전트 시스템 설계 시 퍼스낼리티 프롬프트 전략이 태스크 구조에 따라 달리 적용돼야 함을 시사하며, AI 팀 조합 설계의 실용적 가이드라인을 제공한다.
ArXiv cs.AIagentllmbenchmark
LLM의 잠재적 사고 공식화: 사고 표현의 4가지 공리
Fahd Seddik, Fatemeh Fard
기존 LLM 평가가 다운스트림 벤치마크 정확도에 의존해 표현 품질 자체를 제대로 측정하지 못한다는 문제를 지적하고, 인과성·최소성·분리성·안정성 4가지 공리를 기반으로 한 새로운 평가 프레임워크를 제안한다. 23개 추론 태스크에 걸쳐 오픈 웨이트 LLM을 감사한 결과, 어떤 모델도 4가지 공리를 동시에 충족하지 못했으며 태스크 유형은 구분하지만 동일 태스크 내 서로 다른 질문은 구분하지 못하는 구조적 한계를 발견했다. 밀집 모델, 추론 증류 모델, RL 훈련 모델 모두에서 일관된 실패 패턴이 나타나 LLM 추론 표현의 근본적 한계를 드러낸다.
ArXiv cs.CLllmbenchmarknlp
기계 언러닝이라는 용어는 LLM 연구에서 과용되고 있다
Sangyeon Yoon, Yeachan Jun, Albert No
LLM 연구에서 '머신 언러닝'이라는 용어가 지나치게 광범위하게 사용돼 혼선을 일으키고 있다고 주장하는 포지션 페이퍼다. 정확한 의미의 언러닝은 특정 훈련 데이터의 영향력을 지운 모델이 해당 데이터 없이 재훈련한 모델과 구분 불가능한 상태를 의미하며, 현재 '언러닝'으로 불리는 많은 연구(유해 요청 거부, 지식 억제, 엔티티 편집 등)는 사실 정렬·억제·편집·난독화 작업임을 명확히 구분한다. 이 개념 혼용이 지표와 벤치마크의 잘못된 재사용으로 이어져 연구 진전을 방해한다는 점에서 학계와 산업계 모두에 중요한 제안이다.
ArXiv cs.CLllmsafetytraining
MER-R1: 느린-빠른 사고 시너지를 통한 멀티모달 감정 인식
Zhiyuan Han, Beier Zhu, Wenwen Tong
멀티모달 감정 인식(MER) 과제에서 명시적 추론(느린 사고)이 항상 직접 답변(빠른 사고)보다 정확하지 않다는 역설적 발견에서 출발한 연구다. 빠른 사고는 재현율을 높이고 느린 사고는 정밀도를 높이는 상호보완적 특성을 발견하고, 이를 강화학습 프레임워크로 동시에 최적화하는 MER-R1을 제안한다. 이중 목표 분리(Dual-objective disentanglement)로 재현율과 정밀도를 별도 최적화 신호로 분리하고 신뢰도 보정을 통해 두 사고 방식의 장점을 통합해, 기존 멀티모달 감정 인식 모델 대비 유의미한 성능 향상을 달성했다.
ArXiv cs.AImultimodalreinforcement-learningnlp
ToE: 동적 다중 출처 증거 검색 기반 계층적 주장 검증 프레임워크
Zhaoqi Wang, Zijian Zhang, Kun Zheng
생성형 AI가 만들어내는 허위 정보가 RAG 시스템을 오염시키는 GEO(Generative Engine Optimization) 포이즈닝 문제에 대응하기 위한 팩트체킹 프레임워크 'Tree of Evidence(ToE)'를 제안한다. 각 주장을 동적으로 확장되는 논증 트리로 모델링하고, RL 기반 다중 출처 검색 에이전트·증거 평가 에이전트·논증 트리 집계 알고리즘을 통합해 설명 가능한 증거 체인을 생성한다. 다양한 데이터셋과 백본 LLM에서 경쟁 기준선 대비 4~24%포인트 성능 향상을 달성했으며, 특히 적대적으로 생성된 허위 정보 탐지에서 두드러진 개선을 보였다.
ArXiv cs.AIragagentreinforcement-learning
신뢰할 수 있는 LLM 플래닝을 위한 심볼릭 피드백 기반 반복적 자기 정제 프레임워크
Jiajing Zhang, Jiamei Jiang, Chenyang Zhang
장기 계획(long-horizon planning) 태스크에서 LLM이 불가능하거나 잘못된 해결책을 내놓는 문제를 해결하기 위해, 심볼릭 검증기가 오류를 탐지하고 이를 자연어 교정 지시로 변환해 LLM이 스스로 계획을 수정하도록 유도하는 프레임워크를 제안한다. 논리 심볼을 자연어로 매핑하는 프롬프팅 메커니즘과 목표 도달 가능성을 추론하는 계획 인식기를 결합해, LLM이 태스크 제약과 의미를 더 잘 파악할 수 있도록 했다. 실험 결과 제안된 프레임워크가 계획의 실현 가능성과 정확성을 일관되게 향상시킴을 보여줬다.