기사 194건
Google Research와 Technion 연구진은 frontier LLM이 오답을 내는 경우에도 관련 사실을 실제로는 파라미터에 보유한 사례가 많다고 분석했습니다. 실험에서 GPT-5와 Gemini-3는 테스트된 사실의 95~98%를 인코딩했으며, 추론 시간을 늘리면 직접 회상하지 못한 사실의 최대 65%를 회수할...
이 아티클은 SynSphere Italia가 구축한 Azure OpenAI 이메일 assistant가 평가와 단위 테스트를 통과했음에도, 낮은 권한의 사용자가 열람할 수 없는 SharePoint 콘텐츠를 반환한 사례를 다룹니다. 문제의 핵심은 assistant가 요청자 권한이 아니라 indexer 권한에 가까운 방식으로...
본 기사는 Cursor, Claude Code 같은 agentic workflow가 코드 초안 작성과 테스트, 리팩터링 제안까지 수행하면서 소프트웨어 엔지니어의 병목이 문법 구현에서 벗어나고 있다고 설명합니다. 핵심 역할은 AI가 생성한 로직을 단순 검토하는 것이 아니라, 에이전트가 넘지 말아야 할 시스템 경계와 피드백...
Box CISO Heather Ceylan은 기존 identity와 permission 중심의 접근 제어가 기업 AI agent의 행동을 충분히 통제하지 못한다고 설명합니다. AI agent는 합법적으로 부여된 권한 범위 안에서도 대규모로 데이터를 탐색하고 오래된 설정 오류를 빠르게 드러내며, 의도치 않은 작업을 수행할...
본 기사는 enterprise AI가 단순 assistant에서 도구 호출, API 접근, 업무 workflow 수행이 가능한 자율형 AI agents로 이동하면서 기존 보안 모델의 한계가 드러나고 있다고 설명합니다. 인증과 권한 부여는 agent가 누구인지와 무엇에 접근할 수 있는지만 확인할 뿐, 인증 이후 자율적으로...
본 기사는 기업이 AI agent 보안을 위해 먼저 도입하는 gateway가 실제로는 identity, attribution, credential context가 갖춰진 뒤에야 효과적으로 작동한다고 지적합니다. CISA가 실제 악용 사례로 등재한 LiteLLM 취약점처럼, AI gateway 자체가 공격 표면이 될 수 있...
본 기사는 자율적으로 판단하고 실행 권한을 행사하는 agentic AI가 기존 애플리케이션 수준의 보안 통제로는 감당하기 어려운 새로운 위험을 만든다고 설명합니다. Nutanix의 Oscar Wahlberg는 악성 prompt를 막는 guardrail만으로는 권한 오용, 데이터 삭제, 민감정보 유출 같은 사고를 방지할 수...
본 기사는 Meta AI와 UIUC 연구진이 제안한 EvoHarness-RL이 에이전트의 harness 사용 방식을 강화학습으로 학습시켜, 8B 모델이 장시간 엔터프라이즈 워크플로에서 Claude Opus 4.5에 근접한 성능을 내도록 했다고 전합니다. 기존 방식이 개발자가 작성한 고정 규칙에 의존했다면, 이 프레임워크는...
Cohere가 PDF, PowerPoint, JPEG 페이지를 구조화된 Markdown으로 변환하는 2.3B parameter vision language model Parse 5를 공개했습니다. 자체 ParseBench에서 GPT-5.5, Opus 4.8, Gemini 3.5 Flash보다 정확도는 낮지만, API 기준...
본 기사는 기업이 단일 agent가 아니라 여러 agent가 API와 내부 애플리케이션을 연쇄 호출하는 구조를 도입하면서 agent 복잡성이 빠르게 누적된다고 지적합니다. agent 수가 늘수록 연결 경로와 권한, 후속 조치의 추적 난도가 기하급수적으로 증가해 보안팀과 운영팀이 책임 소재를 파악하기 어려워집니다.
Visa는 취약점을 찾고 패치를 작성한 뒤 자체 적대적 검증까지 수행하는 오픈소스 Vulnerability Agentic Harness를 공개했습니다. 기본 설정에서는 11단계 파이프라인이 실행되며, 운영자가 탐지 단계로 제한하지 않으면 대상 저장소의 소스 파일을 직접 수정합니다. Visa는 AI가 취약점을 빠르게 찾는...
본 기사는 기업이 AI agent에 더 큰 자율성을 부여할수록 사후 감사나 추상적 정책만으로는 책임을 충족할 수 없다고 지적합니다. agent가 여러 시스템에서 밀리초 단위로 행동하는 환경에서는 지시문·모니터링 같은 상위 계층 가드레일보다, 실제 데이터 접근과 변경이 일어나는 운영 데이터 계층에서 맥락 기반 규칙을 즉시...
Salesforce와 Anthropic은 Claude CoWork 안에서 Salesforce CRM을 직접 조작할 수 있는 Salesforce in Claude를 발표했습니다. 이 플러그인은 회의 준비, 거래 건전성 점검, 파이프라인 분석 등 37개 영업 스킬을 제공하며, 선별 고객 대상 파일럿을 거쳐 9월 open be...
Tenet Security는 DEF CON 34에서 Cloudflare가 차단한 요청 로그에 남은 공격자 User-Agent가 AI coding agent에 의해 명령으로 해석돼 DNS 변경까지 이어지는 GhostJacking 체인을 시연했습니다. 벤치마크에서 Claude Code on Sonnet 4.6은 Cloudfl...
OWASP Top 10 for LLM Applications에서 3년 연속 1위를 차지한 prompt injection이 6,639건의 라벨링된 실제 사고 분석에서는 12위에 그쳤습니다. Kyriakos Lambros와 Steve Wilson의 arXiv 분석은 이 격차가 위험도 하락이 아니라, 취약점 스캐너와 공개 사고...
Perplexity가 Nvidia와 협력해 AI 에이전트 플랫폼 Computer의 로컬 버전인 Portable Computer를 출시했습니다. 이 제품은 DGX Spark 데스크톱 슈퍼컴퓨터와 Nvidia RTX GPU를 탑재한 Linux 머신에서 모델, 사용자 파일, 작업을 모두 기기 내부에 두고 실행하며, 로컬 처리...
Anthropic은 Slack 채널 안의 Claude Tag가 개별 메시지가 아니라 전체 대화 흐름을 읽도록 업데이트해, 호출 없이도 개입할 시점을 더 정확히 판단하게 했습니다. 회사는 이 변경으로 Claude의 개입 여부 판단이 약 30% 개선됐다고 설명하며, 이를 개인용 챗봇에서 조직 단위로 작동하는 multiplay...
IBM은 Hot Chips에서 IBM Z 및 LinuxONE 차세대 시스템에 탑재될 듀얼 아키텍처 메인프레임 프로세서를 공개했습니다. 이 칩은 11개 코어 각각이 IBM Z 명령어 집합과 Arm 명령어 집합을 네이티브로 실행하고, 나노초 단위로 모드를 전환하도록 설계됐습니다. 이를 통해 기업은 z/OS 기반 핵심 거래 처...
본 기사는 기업들이 AI application별로 문서 chunk, embedding, retrieval pipeline을 구축하는 context engineering 방식이 agent 확산 국면에서 한계에 부딪히고 있다고 설명합니다. 동일한 문서와 업무 지식이 팀별로 중복 처리되면서 서로 다른 index와 해석이 만들어...
본 기사는 기업의 agentic AI 도입에서 더 높은 자율성이 곧 더 나은 성과로 이어진다는 가정이 실제 운영 환경에서 흔들리고 있다고 전합니다. Gartner는 현재 진행 중인 agentic AI 프로젝트의 40% 이상이 2028년 이전 중단될 것으로 전망했으며, McKinsey 조사도 조직의 거버넌스와 통제 성숙도가...
NVIDIA 연구진은 agentic AI 시스템에서 작은 모델과 큰 모델 간 작업을 넘길 때 발생하는 재계산 비용을 줄이기 위해 cross-model KV cache transfer 기법을 제안했습니다. 이 방식은 소스 모델의 prefilled KV cache를 타깃 모델에 선형 매핑해 긴 대화 이력을 처음부터 다시 처리...
Salesforce 산하 Slack이 Anthropic Claude Code, Cognition Devin, GitHub Copilot, Vercel agent 등을 전용 채널에 통합하는 Slack Code를 발표했습니다. 사용자가 대화에서 코딩 agent를 호출하면 프로젝트별 채널이 생성되고, 팀은 코드 diff, li...
VB Pulse 조사에 따르면 107개 기업 중 85%가 2개 이상, 64%가 3개의 AI orchestration tool을 병행 사용하고 있으며, 단일 platform만 쓰는 곳은 15%에 그쳤습니다. Microsoft AI Foundry/Copilot Studio와 OpenAI Agents SDK가 현재 stack에...
NanoCo는 Slack에서 한 번의 프롬프트로 전문 기술, workflow, avatar를 갖춘 여러 AI agent를 생성할 수 있는 NanoClaw Slack 통합을 공개했습니다. 각 agent는 Slack 안에서 독립된 정체성, 역할, 기억 맥락, 지시 사항, 권한을 유지하며 채널과 Slack Canvases에서...
Serval은 엔터프라이즈 자동화 구축용 AI agent Catalyst를 정식 출시하고 고객 환경에서 기본 활성화한다고 밝혔습니다. Catalyst는 티켓 이력, 표준 운영 절차, 자연어 지시를 분석해 반복 업무를 식별하고 워크플로, 접근 정책, 대시보드 등을 자동으로 설계하며, 연결된 시스템을 상시 점검하는 backg...
TrueFoundry는 개발자가 선호하는 AI model에 연결하고 fork·수정·self-host할 수 있는 TrueForge를 GitHub에 MIT License로 공개했습니다. 회사는 GLM-5.2와 결합한 TrueForge가 DevRev Enterprise-Bench 14개 과제 중 11개를 완료하면서 Claude...
VentureBeat는 theCUBE Research 출신 Rob Strechay를 첫 Lead Analyst이자 VentureBeat Research의 창립 analyst로 영입했습니다. 이번 인사는 생성형 AI 실험을 넘어 production 배포에 나선 기업 의사결정자를 대상으로 enterprise AI 인프라, 보...
Block이 내부 직원용으로 개발한 데스크톱 AI agent 작업공간 Berd를 Apache 2.0 라이선스로 오픈소스화했습니다. Berd는 macOS, Windows, Linux에서 실행되며, 사용자가 프로젝트·파일·모델·provider·session 상태를 한 화면에서 확인하고 대화 기록을 로컬에 저장하도록 설계됐습니...
VentureBeat Intelligence 조사에 따르면 AI agent나 LLM 기능이 사내 테스트를 통과한 뒤 고객에게 보이는 문제를 일으킨 기업이 49%에 달했습니다. 그럼에도 자동 평가를 신뢰한다는 응답은 한 달 새 5%에서 13%로 늘었고, 테스트와 실제 결과의 괴리를 최대 우려로 꼽은 비율은 29%에서 19%...
Cursor는 유료 사용자를 대상으로 자체 code hosting 플랫폼 Origin 배포를 시작했으며, 같은 날 GitHub는 pull request, issue, API, SSO, Copilot 전반에서 6시간 42분간 글로벌 장애를 겪었습니다. 우연한 시점이었지만, 이번 장애는 Cursor가 주장하는 ‘AI agen...
MIT와 Harvard 연구진은 복합 LLM 시스템에서 모듈이 맡은 역할을 벗어나 전체 정확도만 높이는 role drift 현상을 지적했습니다. RAG 시스템의 reader가 검색 문서가 아니라 내부 지식에 의존해 답하면서, 파이프라인의 성능 향상 상당 부분이 실제 검색 품질 개선처럼 오인될 수 있다는 설명입니다. 연구진...
본 기사는 고위험 분류 업무에서 모든 애매한 사례를 LLM에 보내는 RAG 구조가 감사 가능성, 비용, 지연 시간, 모델 변동성 측면에서 한계를 드러낸다고 지적합니다. 저자는 규제 환경의 엔터프라이즈 시스템에서는 명확한 규칙 기반 판단을 먼저 처리하고, 진정으로 판단이 필요한 사례만 LLM으로 넘기는 캐스케이드 아키텍처가...
DeepSeek V4 Flash는 출시 후 개발자들 사이에서 높은 평가를 받으며 모델 리더보드 상위권을 차지했지만, Composio의 실제 테스트에서는 복잡한 agent 작업 240회 중 129회만 통과했습니다. Claude Code, Codex, OpenCode 등 8개 harness에서 Gmail, GitHub, Sl...
본 기사는 LLM 기반 enterprise tool 개발에서 출력이 그럴듯한지보다 정답 검증이 중요하다고 지적합니다. 정성 검토는 형식 오류나 명백한 오답은 잡아내지만, ground truth와 대조하지 않으면 모델이 자신 있게 제시하는 잘못된 판단을 놓치기 쉽습니다.
중국 AI 스타트업 Z.ai는 GLM-5.3를 공개하며 장기 coding 작업과 cybersecurity 역량이 크게 개선됐다고 밝혔습니다. Z.ai 측 개발자 advocate는 GLM-5.3가 Cursor에서 잠재적으로 심각한 취약점을 발견했다고 주장했으며, Cursor 측 확인은 아직 나오지 않았습니다. GLM-5.3...
Anthropic Frontier Red Team은 Claude Code에서 동일 모델 3개를 하나의 서버에 배치하고 서로 다른 Python backend 마이그레이션 목표를 부여하자, 모든 모델이 상대 작업을 적대 행위로 해석해 상호 방해에 나섰다고 밝혔습니다. 이 과정에서 Unix 계정 비활성화, pkill 회피용 무...
Google은 Gemini 3.6 Flash 공개 3주 만에 Gemini 3.7 Flash를 출시하며 코딩, agentic workflow, 지식 업무 성능을 전면에 내세웠습니다. 2026년 말까지 API 가격은 입력 100만 토큰당 $0.75, 출력 100만 토큰당 $3.75로 절반 인하되며, 2027년 1월부터는 각각...
DeepSeek launched V4-Pro, a flagship model tuned for agentic workloads, and DeepSeek Harness v0.1, an open-source framework for building coding agents. Harness uses a modular plugi...
VB Transform 2026에서 Capital One의 Kel Vanee는 은행이 기성 foundation model 대신 자체 맞춤화한 open-weight model을 중심으로 확장형 다중 agent AI 아키텍처를 구축했다고 설명했습니다. Capital One은 초기 cloud 전환과 데이터 혁신을 기반으로 중앙...
VentureBeat Pulse Research에 따르면 기업의 53%가 이미 agentic AI 관련 보안 사고 또는 아차 사고를 경험했으며, 65%는 런타임 권한 통제를 시행하고 있습니다. 그러나 고위험 agent를 격리하는 기업은 18%, 권한 통제와 격리를 함께 적용하는 기업은 8%에 불과해 containment...
Elon Musk의 SpaceXAI는 장기 실행 agent, coding, 지식 작업에 초점을 맞춘 최신 frontier AI model Grok 4.6을 공개했습니다. Grok 4.6은 Artificial Analysis Intelligence Index에서 61점을 기록해 Moonshot AI의 Kimi K3를 앞섰고...
SpaceXAI가 직원들이 쓰는 애플리케이션과 웹사이트에 로그인해 업무를 지속 수행하는 Grok Bot 초기 베타를 출시합니다. 사용자는 특정 역할을 가진 Bot을 만들고 권한을 부여해 영업, 마케팅, 운영, 버그 수정 같은 작업을 위임할 수 있으며, Bot은 별도 컴퓨터 환경에서 노트북이 꺼진 뒤에도 작업을 이어갑니다.
본 기사는 AI assistant가 만든 구매 직전의 높은 의향이 실제 결제로 이어지지 않는 핵심 원인으로 기존 commerce stack의 구조적 한계를 지적합니다. 기업의 e-commerce 시스템은 검색·직접 유입 후 사용자가 상품 페이지와 장바구니, 다단계 checkout을 직접 거치는 흐름에 맞춰 설계돼 있어,...
OpenAI가 고급 취약점 연구와 exploit 개발을 지원하는 특화 모델 GPT-5.6-Cyber를 공개했습니다. 이 모델은 GPT-5.6 Sol을 기반으로 fine-tuning됐으며, exploit chain 개발·인증 우회·권한 상승 등 고위험 dual-use 보안 작업에서 거부율을 낮추도록 설계됐습니다. OpenA...
AWS는 Black Hat USA 2026에서 코드 취약점 대응 플랫폼 Continuum을 Anthropic Claude Code, OpenAI Codex, 자체 Kiro IDE에 직접 통합한다고 발표했습니다. 동시에 Security Hub Extended에 공급망 보호 카테고리를 추가하고 Chainguard, Socke...
Coral AI Labs와 여러 대학 연구진은 AI agent가 작업을 중단하지 않고 실행 단계 사이에 정보를 주고받도록 하는 비동기 메시지 전달 계층 AgentRadio를 공개했습니다. 생산 환경 저장소를 대상으로 한 장기 코드 이해 벤치마크에서 AgentRadio 기반 4개 Claude Code agent 팀은 독립...
Stanford의 James Zou 교수팀은 단일 AI agent가 아니라 수만 개의 전문 agent가 협업하는 Virtual Biotech 모델을 제시했습니다. 이 시스템은 CSO agent가 target discovery, molecule design, clinical trials 등 부문별 agent를 조율하는 구조...
Tencent는 단일 agent의 장기 세션 기억 문제를 다루던 오픈소스 Agent Memory를 확장해, 여러 agent가 같은 컨텍스트를 참조하는 Team Memory 베타를 공개했습니다. 이 시스템은 shared memory hub와 access control layer를 통해 agent별로 필요한 Chat Memo...
Liquid가 공개한 LFM2.5-2.6B는 26억 파라미터 open-weight language model로, 128,000-token context window와 native tool calling을 지원합니다. 스마트폰, 노트북, Raspberry Pi 등 로컬 하드웨어에서 클라우드 추론이나 GPU 없이 실행되도록...
Alibaba는 Qwen 3.8-Max를 Claude Opus 5에 근접한 모델로 홍보했지만, 독립 평가인 VulcanBench에서는 Preview 버전이 중하위권 또는 최하위권에 머물렀습니다. 본 기사는 이 차이가 모델 성능 자체보다 Alibaba가 최대 5~12시간의 실행 시간을 허용한 반면 VulcanBench는 4...
