LLM

Andrej Karpathy氏が開発した軽量GPTモデル「MicroGPT」がFPGA上で50,000トークン/秒という驚異的な推論速度を達成。GPU不要のエッジAI推論の可能性を大きく広げるこのプロジェクトの技術的背 … 続きを読む

ローカルLLMのファインチューニングツールとして知られるUnslothが、Mistral Medium 3.5の実装に潜んでいたバグを発見・修正。Reddit r/LocalLLaMAで大きな話題となったこの出来事が、オ … 続きを読む

「ChatGPTが反論ばかりで誤情報も増えた」——海外Redditで大きな反響を呼んだ投稿をきっかけに、ChatGPTからClaudeへの乗り換えを検討するユーザーが増えています。両モデルの特性を整理し、ローカルLLMと … 続きを読む

Qwen3.6-27Bモデルを単一のRTX 3090で約218Kコンテキスト・50〜66 TPSで動作させる手法がReddit r/LocalLLaMAで報告され注目を集めています。本記事ではその具体的な設定方法と、Ol … 続きを読む

DeepSeekが公開した視覚推論フレームワーク「Thinking-with-Visual-Primitives」がRedditで300以上のスコアを獲得し注目を集めています。本記事ではその仕組みを解説し、Ollama・ … 続きを読む

AppleのサポートアプリにAI開発用の指示ファイル「Claude.md」がそのまま残されていたことが発覚。Hacker Newsで351ポイントを獲得し大きな話題に。この”事故”から見えるApp … 続きを読む

r/LocalLLaMAで「Qwen 27Bを本気で使っている開発者」の議論が活発化。ローカルLLM界隈で27Bパラメータモデルの実力、GPU要件、そして既存モデルとの比較について、実際の開発者たちの声をもとに整理します … 続きを読む

DeepSeekが公開した視覚推論フレームワーク「Thinking-with-Visual-Primitives」の概要と、Ollama・LM Studio・Janを使ってDeepSeekモデルをローカル環境で動かす実践 … 続きを読む

Anthropicの課金システムにバグが発生し、ユーザーに約200ドル（約3万円）の超過請求が発生。返金対応も拒否されたとしてHacker Newsで大きな議論に。HERMES.mdとの関連や、APIコスト管理の重要性を … 続きを読む