28.08.2026

Forge: как я написал свой движок инференса и обогнал llama.cpp

Три недели, один разработчик, пара агентов и арендованная видеокарта: от 3 токенов в секунду и сомнений «а не бросить ли всё» до +19…+50% к llama.cpp на Qwen3.8-27B.

• rust
• llm
• cuda
• inference
• candle