GitHub - ReinforceAI/spiral · GitHubReinforceAI の Spiral は、転送されたトランスフォーマーの幾何学的構造を駆使した、校正データもフィネーチューニングも不要な INT3 重量圧縮および INT2 KV キャッシュ圧縮技術を提案しました。

• ReinforceAI の Spiral は、転送されたトランスフォーマーの幾何学的構造を駆使した、校正データもフィネーチューニングも不要な INT3 重量圧縮および INT2 KV キャッシュ圧縮技術を提案しました。
• Qwen2.5-Coder-7B などのモデルで、従来の手法よりも質が高く (+0.14 nats)、メモリコストを大幅に削減することで、Apple Silicon などの限定リソース環境での動作を可能にしています。
• Walsh-Hadamard 変換とプロダクトクァンティゼーションを融合した専用 GPU コアとメタルカーネルを提供し、MoE 構造も含め任意のアーキテクチャで適用可能な圧縮物理を実証しました。

既存の量子化手法が要する校正データを排除し、Apple Silicon を含む限定ハードウェアでも 32K コンテキストなどの長期記憶実行を可能にする画期的な圧縮技術です。