AI Today

Anthropic이 AWS 클라우드에서 직접 Claude API를 제공하는 플랫폼을 런칭했다. 기업들이 자체 AWS 환경에서 Claude를 더 안전하고 비용효율적으로 사용할 수 있게 된다. 클라우드 AI 서비스 경쟁이 더욱 치열해질 전망이다.

OpenAI가 금융 분야에서 Codex를 활용해 예산 보고서, 변동성 분석, 모델 검증 등을 자동화하는 방법을 상세히 공개했다. 코딩 경험이 없는 금융 전문가도 AI로 복잡한 분석 작업을 처리할 수 있게 된다. 도메인별 AI 도입이 가속화되고 있다.

NVIDIA와 SAP가 기업용 전문 AI 에이전트의 신뢰성을 높이는 협력을 발표했다. SAP Sapphire에서 젠슨 황 CEO가 참여해 발표된 이번 협력은 기업 환경에서 AI 에이전트를 안전하고 효율적으로 운영할 수 있는 기반을 마련한다. 엔터프라이즈 AI 시장의 성숙도가 높아지고 있다.

Google이 AI를 활용해 주요 소프트웨어에서 심각한 보안 결함을 발견했다고 발표했다. 해커들도 AI를 사용해 취약점을 찾고 있어 AI 기반 사이버보안 군비경쟁이 본격화되고 있다. AI의 양날의 검 특성이 보안 분야에서 더욱 두드러지고 있다.

Hugging Face에서 OpenAI 릴리즈로 위장한 악성 저장소가 Windows 기기에서 244,000번 다운로드되며 정보 탈취 악성코드를 유포했다. 오픈소스 AI 모델 생태계의 보안 위험이 현실화되고 있어 더 강력한 검증 시스템이 필요하다. AI 개발자들의 보안 의식이 더욱 중요해지고 있다.

Laserfiche가 자연어 명령으로 작업을 수행하는 AI 에이전트를 공개했다. 기업의 보안 규정과 컴플라이언스를 자동으로 준수하며 업무 프로세스를 자동화한다. 엔터프라이즈 AI 에이전트 시장에서 특화된 솔루션들이 속속 등장하고 있다.

OpenAI가 1,000명 이상 참가자와 2,000개 이상 제출물이 모인 Parameter Golf 대회를 통해 AI 보조 연구, 코딩 에이전트, 양자화 등을 탐구한 결과를 발표했다. 제한된 조건에서 새로운 모델 설계와 연구 방법론을 발견하는 혁신적 접근법을 제시한다. AI 연구 방법 자체가 AI로 혁신되고 있다.

Google DeepMind가 AI 인터페이스에 최적화된 새로운 마우스 포인터 개념을 발표했다. 기존 포인터로는 복잡한 AI 상호작용을 효율적으로 처리하기 어려운 문제를 해결한다. AI 시대에 맞는 새로운 UX/UI 패러다임이 필요하다는 인식이 확산되고 있다.

AWS가 Hugging Face와 협력해 파운데이션 모델의 학습과 추론을 위한 포괄적인 빌딩 블록을 공개했다. 개발자들이 대규모 모델을 더 쉽게 구축하고 배포할 수 있는 표준화된 도구들을 제공한다. 클라우드 기반 AI 인프라 경쟁이 도구와 플랫폼 차원으로 확대되고 있다.

MIT Technology Review가 '지금 AI에서 중요한 10가지'에 World Models를 포함시켰다. 환경을 이해하고 예측하는 AI 시스템의 새로운 패러다임으로 주목받고 있다. 단순한 패턴 매칭을 넘어 세상을 모델링하는 AI의 진화 방향을 제시한다.

비전-언어 모델의 신뢰성은 어디에 있는가: 주의집중, 은닉 상태, 인과 회로의 메커니즘 연구

Logan Mann, Ajit Saravanan, Ishan Dave

VLM에서 주의집중 맵이 선명할 때 답변이 더 신뢰할 만하다는 일반적 직관을 실험적으로 검증한 연구다. 실제로는 주의집중과 신뢰도 사이의 관계가 복잡하며, 모델의 내부 메커니즘을 더 정확히 이해해야 한다는 중요한 발견을 제시한다.

차트 데이터 추출에서 공간 프라이밍이 의미적 프롬프팅을 압도한다

Andrei Lazarev, Dmitrii Sedov, Alexander Galkin

과학 차트에서 데이터를 자동 추출할 때, 의미적 설명보다 그리드 기반 공간 정보가 LLM 정확도를 더 크게 향상시킨다는 발견이다. 시각적 데이터 처리에서 공간적 단서의 중요성을 강조하며, 차트 분석 AI 시스템 설계에 새로운 방향을 제시한다.

선호도가 아닌 임베딩: 집단 의사결정을 위한 새로운 접근법

Carter Blair, Ariel D. Procaccia, Milind Tambe

기존 AI 정렬 방식이 인간 선호도의 복잡한 구조를 단순화한다는 문제를 지적하며, 의미적 임베딩 대신 선호도 기반 임베딩을 제안한다. 집단 의사결정에서 AI가 다양한 의견을 더 정확히 반영할 수 있는 새로운 방법론으로 주목받고 있다.

사후 훈련에서 능력 유도와 능력 생성 구분하기: 자유 에너지 관점

Yuhao Li, Shengchao Liu

파인튜닝과 강화학습을 단순히 모방과 발견으로 구분하는 것이 부정확하며, 훈련 절차가 기존 능력의 확률을 높이는지 새로운 능력을 만드는지가 더 중요하다고 주장한다. AI 모델 훈련 방법론에 대한 새로운 이론적 프레임워크를 제시하는 중요한 연구다.

MemQ: 출처 DAG 상에서 자기 진화하는 메모리 에이전트에 Q-러닝 통합

Junwei Liao, Haoting Shi, Ruiwen Zhou

LLM 에이전트의 에피소딕 메모리를 강화학습과 결합하여 메모리 간 종속성을 고려한 검색 품질 평가 방법을 제안한다. 기존의 독립적 메모리 처리 방식을 넘어 연결된 경험 체인을 통한 학습이 가능하게 해 에이전트 성능을 크게 향상시킨다.

SkillLens: 비용 효율적 LLM 에이전트를 위한 적응형 다단계 스킬 재사용

Yongliang Miao, Ziyang Yu, Liang Zhao

스킬 라이브러리를 단일 해상도 프롬프트 블록이 아닌 다단계 구조로 설계해 관련성과 비용 사이의 균형을 해결한다. 작업에 따라 적절한 스킬 세분화 수준을 선택해 LLM 에이전트의 효율성과 성능을 동시에 최적화하는 혁신적 접근법이다.

PLACO: 인간-AI 팀의 비용 효율적 성능을 위한 다단계 프레임워크

Pranavkumar Mallela, Vinay Kumar, Shashi Shekhar Jha

인간과 AI 모두 단독으로는 달성할 수 없는 성능을 팀워크를 통해 구현하는 최적화된 협력 프레임워크를 제안한다. 강력한 생성형 AI 시대에 인간-AI 협업의 새로운 패러다임을 제시하며, 실제 업무 환경에서의 효과적인 협업 모델을 구축한다.

CoCoDA: 도구 강화 에이전트를 위한 공진화 합성 DAG

Ziyang Yu, Qiyue Li, Liang Zhao

도구 라이브러리가 확장될 때 플래너와 함께 진화하는 결합된 문제를 해결하는 새로운 아키텍처를 제안한다. 새로운 재사용 가능한 서브루틴이 나타날 때마다 라이브러리가 진화하면서도 효율적인 검색이 가능한 혁신적인 도구 관리 시스템이다.

믿음인가 회로인가? 맥락 내 그래프 학습의 인과적 증거

Katharine Kowalyshyn, Timothy Duggan, Daniel Little

LLM이 맥락 내에서 학습할 때 단순 패턴 매칭인지 잠재 구조 추론인지를 그래프 무작위 보행 과제로 실험적으로 검증한 연구다. LLM의 실제 추론 능력과 한계를 명확히 밝혀내어 AI 시스템의 진정한 이해 능력을 평가하는 중요한 기준을 제시한다.

최첨단 LLM의 도메인 수준 메타인지 모니터링: 33개 모델 아틀라스

Jon-Paul Cacioli

33개의 최첨단 LLM을 대상으로 MMLU 벤치마크 도메인별 메타인지 능력을 종합 분석한 대규모 연구다. 모델들이 자신의 지식과 한계를 얼마나 정확히 인식하는지 평가하여 AI 시스템의 신뢰성과 자기 인식 능력 향상에 필요한 인사이트를 제공한다.