Windows ML adds experimental llama.cpp support for GGUF models, a local OpenAI-compatible API, ONNX text generation and new ...
Microsoftは2026年10月7日、Windows向けのローカルAI推論基盤Windows MLに、大規模言語モデル (LLM) を実行する推論エンジンの llama. cpp を実験的に統合したと発表した。これにより、開発者はGGUF形式の言語モデルをWindows MLを通じてPC上で動かせる。
コマンドを打たずに、WindowsでローカルLLMを動かせるアプリが登場した。Hugging Faceは10月13日(米国時間)、ローカルLLM実行エンジン「llama.cpp」をWindows 11のタスクトレイから操作できるアプリ「Llama ...