vLLM v0.28.0 공개, Kimi-K3·DeepSeek V4 최적화와 speculative decoding 성능 개선 확대
vLLM v0.28.0은 270명의 기여자가 참여한 584개 commit을 포함한 대규모 릴리스입니다. 이번 버전은 Kimi-K3 전반의 성능 최적화, DeepSeek V4의 sparse MLA 지원, speculative decoding 개선, Model Runner V2 성숙화에 초점을 맞췄습니다.
기사 42건
vLLM v0.28.0은 270명의 기여자가 참여한 584개 commit을 포함한 대규모 릴리스입니다. 이번 버전은 Kimi-K3 전반의 성능 최적화, DeepSeek V4의 sparse MLA 지원, speculative decoding 개선, Model Runner V2 성숙화에 초점을 맞췄습니다.
Tailscale이 공개한 Tailcat은 Tailscale의 데이터 플레인인 magicsock을 활용해 두 머신 사이에 WireGuard 암호화 터널을 여는 netcat 유사 도구입니다. Tailscale control plane을 쓰지 않고, 서버 측이 생성한 짧은 연결 토큰을 별도 경로로 전달해 클라이언트가 접속하는...
GitHub 프로젝트 DesktopFly는 macOS 데스크톱 위에서 움직이는 3D 초파리를 FlyWire 실제 커넥톰 데이터와 실시간 신경 스파이크 시뮬레이션으로 구동합니다. 이 프로젝트는 23,210개 뉴런 위치를 시각화하고, 668개 뉴런과 약 19,000개 실제 시냅스 연결로 구성된 회로를 1kHz LIF 방식으로...
본 기사는 단일 assembly instruction의 성능 하한을 찾는 GitHub 프로젝트 Assembly Hall of Shame을 다룹니다. 현재 x86 부문 1위는 fxrstor64로, PCIe MMIO 영역에서 512-byte FPU/MMX/XMM 상태를 불러오는 동안 다른 코어가 PCIe fabric을 포화시...
본 기사는 GitHub에 공개된 터미널 에뮬레이터 Shitty를 소개합니다. 프로젝트는 스스로를 ‘memory-unsafe’하다고 표현하면서도 빠른 성능을 전면에 내세우며, C+기반 코드와 렌더링·폰트·색상 처리 관련 구성 요소를 포함하고 있습니다.
yc-software의 GitHub 저장소 qm은 스타트업을 겨냥한 멀티플레이어 에이전트 하네스로, Slack과 웹 환경에서 개인 및 팀 단위의 에이전트 협업을 지원합니다. 각 사용자와 채널·프로젝트에는 독립된 메모리, 파일, 권한, keychain, cron, 샌드박스가 제공되며 Pi, OpenCode, Codex, C...
AminBlg의 SimpleEnglish 저장소는 LLM이 기술 문서를 ASD-STE100 Simplified Technical English에 맞춰 쓰도록 하는 Agent Skill을 공개합니다. README는 Claude 출력 전후 예시를 통해 장황한 홍보성 문장을 짧고 명확한 지시문으로 바꾸며, Claude Code...
개발자가 4-bit Gemma 4 26B-A4B-IT를 약 2GB RAM으로 구동하는 오픈소스 추론 엔진 TurboFieldfare를 공개했습니다. 모델의 14GB 규모 양자화 가중치를 RAM에 모두 올리지 않고, 공유 레이어와 KV cache는 메모리에 유지하며 필요한 routed expert만 SSD에서 스트리밍하는...
본 기사는 Hacker News 링크를 열 때 원문 기사와 댓글 토론을 별도 탭으로 오가야 하는 불편을 줄이기 위해 만든 userscript를 소개합니다. 이 스크립트는 HN에서 링크를 클릭하면 기사 페이지에 토론 사이드 패널을 띄우며, 기존에 HN에 공유된 기사에 대해서도 토론 패널을 여는 버튼을 추가합니다.
OpenAI의 GitHub 저장소에 공개된 Codex Security는 코드의 보안 취약점을 찾고, 검증하며, 수정하는 CLI 및 TypeScript SDK입니다. 저장소 스캔, 변경 사항 검토, 발견 이력 추적, CI 환경의 보안 점검을 지원하며 Node.js 22 이상과 Python 3.10 이상을 요구합니다.
본 기사는 UW Madison 연구진의 SlopCodeBench가 코딩 모델의 코드베이스 품질 유지 능력을 더 현실적으로 평가한다고 소개합니다. 기존 벤치마크와 달리 요구사항을 단계별 checkpoint로 공개해 모델이 장기적으로 코드베이스를 변경하도록 하며, 저자는 Opus 4.8, Sonnet 5, Opus 5를 일부...
Experiential Labs는 open-source 도구 world-model-optimizer의 새 기능인 wmo serve를 공개했습니다. 이 도구는 기존 agent traces를 활용해 소형 특화 모델을 지속적으로 증류하고, 작업별로 frontier 모델과 custom model을 라우팅해 OpenAI-compa...
GitHub 프로젝트 GigaToken은 언어 모델용 토큰화를 GB/s 단위 처리량으로 수행하는 drop-in replacement 라이브러리입니다. pip로 설치할 수 있으며 HuggingFace Tokenizers와 tiktoken 호환 모드를 제공해 기존 encode_batch 흐름에 비교적 쉽게 적용할 수 있습니다...
The Little Book of Reinforcement Learning GitHub 저장소는 Reinforcement Learning 기초부터 응용 알고리즘까지 다루는 짧은 입문서와 보충 자료를 제공합니다. 저장소에는 MC부터 PPO까지의 PyTorch 기반 알고리즘 구현, 동적 계획법 관련 상세 설명과 증명, PDF...
xAI가 GitHub에 Grok Build 저장소를 공개하며 terminal 기반 AI 코딩 에이전트의 Rust 소스를 오픈소스로 제공했습니다. Grok Build는 코드베이스 이해, 파일 수정, shell 명령 실행, 웹 검색, 장기 작업 관리 기능을 TUI, headless 실행, editor 내 Agent Clien...
Moonshine Voice가 공개한 Moonshine Micro는 마이크로컨트롤러와 DSP 같은 임베디드 프로세서를 겨냥한 오픈소스 음성 AI 툴킷입니다. Raspberry Pi RP2350을 기준 플랫폼으로 삼아 VAD, 명령 인식, neural TTS를 포함한 데모 파이프라인을 약 468KB SRAM에서 실행합니다.
GitHub 프로젝트 claude-meseeks는 Claude Code가 작업을 마치고 다음 프롬프트를 기다리거나 승인 입력이 필요할 때 Mr. Meeseeks 음성 클립을 재생하는 플러그인입니다. Notification event의 notification_type을 필터링해 사용자 개입이 필요한 상황에만 작동하며, 자동...
본 기사는 개인 개발자가 GLM 5.2를 일반 32GB RAM PC에서 실행하기 위해 만든 엔진 Colibrì를 소개합니다. Colibrì는 744B Mixture-of-Experts 모델을 int4 양자화하고, 고정 dense 파라미터는 RAM에 두는 한편 routed experts는 약 370GB 디스크에서 필요할 때...
GitHub 프로젝트 riddle은 reMarkable Paper Pro에서 사용자가 펜으로 쓴 문장을 잠시 뒤 지우고, LLM 응답을 필기체 획으로 다시 그려주는 앱입니다. 설치에는 개발자 모드, xovi/AppLoad 같은 런처, OpenAI 호환 API key가 필요하며, prebuilt bundle과 source...
OpenAI Codex 저장소에 올라온 GitHub issue는 GPT-5.5 응답의 reasoningoutputtokens가 516에 비정상적으로 몰리고, 1034·1552 부근에서도 고정 구간 스파이크가 나타난다고 주장합니다. 제보자는 2026년 2월 1일부터 6월 27일까지의 Codex token_count meta...
GitHub 프로젝트 Generals-Mac-iOS-iPad가 2003년작 Command & Conquer Generals: Zero Hour 엔진을 ARM64 네이티브로 빌드해 Apple Silicon Mac, iPhone, iPad에서 실행할 수 있게 했습니다. 캠페인, skirmish, Generals Challen...
SearXNG는 여러 검색 엔진의 결과를 통합해 제공하는 메타검색 엔진으로, 사용자를 추적하거나 프로파일링하지 않는다는 점을 내세웁니다. GitHub 저장소에는 설치·설정 가이드와 기여 안내가 공개돼 있으며, AGPL-3.0 라이선스로 배포됩니다.
FractalFir가 rustc 1.98.0-nightly 전체를 약 4,600만 줄의 C 코드로 변환한 crustc 저장소를 공개했습니다. 이 C 코드는 GCC와 make로 빌드하면 동작하는 Rust 컴파일러가 되며, LLVM 라이브러리를 연결해 core, alloc, std 같은 Rust 구성 요소도 컴파일할 수 있다...
익명 GitHub 저장소 bikini/exploitarium에 7zip, Docker, FFmpeg, Firefox, Ghidra, ImageMagick, OpenVPN, PHP 등 다양한 프로젝트를 겨냥한 0-day PoC가 대거 올라왔습니다. 저장소는 38개 커밋과 다수의 취약점별 폴더를 포함하며, 일부 항목은 RCE...
DeepSeek 계정의 DeepSpec 저장소에 DSpark 논문 PDF가 공개됐으며, 주제는 speculative decoding을 활용한 LLM 추론 가속입니다. 제공된 본문은 GitHub 로딩 오류와 파일 메타데이터만 포함해, 구체적 성능 수치나 실험 조건은 확인되지 않습니다.
Tessil의 hopscotch-map은 open addressing과 hopscotch hashing으로 충돌을 처리하는 C+hash map·hash set 구현체입니다. 대부분의 경우 std::unorderedmap보다 높은 성능을 목표로 하며, google::densehash_map과 유사한 특성을 제공하면서 메모리...
본 기사는 Raspberry Pi Zero를 기반으로 만든 소형 디지털카메라 Optocam Zero를 소개합니다. 이 프로젝트는 기성 전자 부품, 3D 프린팅 케이스, autofocus 카메라 모듈을 활용하며 2592×2592px JPEG 촬영, 15–20fps 미리보기, USB-C 충전, GIF 녹화 기능을 제공합니다.
Kage는 headless Chrome으로 웹페이지를 실제 렌더링한 뒤 사용자가 본 DOM을 스냅샷하고, 모든 JavaScript를 제거해 오프라인에서 열 수 있는 HTML 사본을 생성합니다. CSS, 이미지, 폰트는 로컬 경로로 내려받아 네트워크 호출이나 추적 없이 보존하며, 결과물을 단일 파일로 패키징할 수도 있습니다...
Nex-AGI는 GitHub issue를 통해 Rio-3.5-Open-397B가 IplanRIO가 학습한 독자 397B 모델이 아니라 Nex-N2_pro와 Qwen3.5-397B-A17B를 약 0.6:0.4로 가중치 병합한 결과라고 주장했습니다. 하드코딩된 “You are Rio” system prompt를 제거하면 모델...
πFS는 하드드라이브에 실제 데이터를 저장하지 않고, π의 16진수 전개 어딘가에 파일 내용이 존재한다고 보고 위치와 파일명 같은 메타데이터만 기록하는 FUSE 기반 파일 시스템입니다. README는 π가 normal number일 것이라는 추정을 근거로 ‘100% 압축’을 주장하지만, 실제로는 수학적 아이디어를 활용한...
Microsoft가 PostgreSQL 안에서 장기 실행 SQL 워크플로를 체크포인트하고 장애 후 재개할 수 있는 pgdurable을 오픈소스로 공개했습니다. 이 프로젝트는 cron, 별도 worker, queue, 상태 테이블을 조합하지 않고도 Postgres에 저장된 데이터 가까이에서 안정적인 백그라운드 작업을 실행하...
Anthropic은 Claude를 활용해 코드 취약점을 탐색, triage, 보고, 패치하는 Defending Code Reference Harness를 GitHub에 공개했습니다. 이 저장소는 Claude Mythos Preview 이후 여러 보안팀과 협업하며 얻은 모범 사례를 반영한 레퍼런스 구현이며, Bedrock,...
GitHub 프로젝트 nbd-vram은 NVIDIA GPU의 VRAM을 Linux에서 swap 장치처럼 사용할 수 있게 하는 도구입니다. CUDA driver API로 VRAM을 할당하고 NBD(Network Block Device)를 통해 /dev/nbdX로 노출해, RAM이 부족할 때 SSD swap보다 먼저 VRAM...
Stanford CS336 저장소의 CLAUDE.md는 ChatGPT, Claude Code, GitHub Copilot, Cursor 등 AI coding assistant가 학생 과제를 대신 수행하지 말고 Teaching Assistant처럼 작동해야 한다고 규정합니다. 지침은 개념 설명, 공식 자료 안내, 코드 리뷰...
본 기사는 Saudi Arabia Alghat 사막 절벽 아래에서 발견된 조개껍데기 형태의 단단한 암석을 두고, 이것이 해양 화석일 가능성을 탐색합니다. 발견 지점은 가장 가까운 해안인 Dammam에서 약 500km 떨어져 있지만, 주변의 carbonate rocks, marine fossils, coral fossils...
FULU-Foundation의 OrcaSlicer-bambulab 저장소는 Bambu Lab 프린터에서 BambuNetwork를 통한 전체 원격 출력 기능을 복원했다고 설명합니다. 사용자는 LAN 전용 모드에 묶이지 않고 인터넷을 통해 기존처럼 일반 사용 및 출력 기능을 이용할 수 있으며, Windows는 WSL 2 설치...
TanStack은 GitHub 이슈를 통해 여러 npm latest 릴리스가 침해됐다고 밝히고 보안 사고 조사를 진행했습니다. StepSecurity는 이를 npm 생태계를 겨냥한 자체 전파형 공급망 공격으로 설명했으며, TanStack은 공격 타임라인과 확인된 내용을 담은 사후 분석을 tanstack.com에 공개했습니...
mamba-studio의 TypedMemory는 Java 25 이상에서 Java record를 연속적인 off-heap native memory에 매핑하는 라이브러리입니다. Java Foreign Function & Memory API를 기반으로 layout, offset, 저수준 접근을 직접 반복 관리하지 않고도 typ...
Let-go는 pure Go로 작성된 Clojure 유사 언어로, JVM Clojure와 약 90% 호환되며 약 10MB 정적 바이너리로 배포됩니다. 개발자는 콜드 부팅 시간이 약 7ms로 JVM보다 약 50배, Babashka보다 약 3배 빠르며, nREPL 서버와 Go 프로그램 내 임베딩, AOT 컴파일을 지원한다고...
본 기사는 GitHub 프로젝트 DeepClaude가 Claude Code CLI의 파일 편집, bash 실행, git 작업, 하위 에이전트 호출 등 자율 코딩 루프는 유지하면서 모델 백엔드를 DeepSeek V4 Pro, OpenRouter, Anthropic 호환 API로 바꾸는 방식을 소개합니다. 프로젝트는 Deep...
Microsoft의 VS Code 저장소에서 Git 확장 설정 기본값을 에서 로 바꾸는 PR이 올라왔습니다. 이 변경은 AI 생성 코드 기여가 감지될 때 커밋 메시지에 Co-authored-by Copilot 트레일러를 자동 추가하도록 하는 내용입니다.
A developer built Ghost Pepper, a local speech-to-text tool for macOS that processes all data on-device to maintain privacy. It's being used for tasks like coding, writing emails,...