皆さん、こんにちは、
Prometechからの実験的リリース、Cicikus v3 Prometheus 4.4Bをお届けできることを嬉しく思います。
このモデルはLlama 3.2 3Bアーキテクチャのターゲットを絞ったパススルー拡張です。従来のマージではなく、訓練済みアダプターのL2ノルム分析を通じて「ホットゾーン」を特定し、モデルを40層へ拡張しました(約4.42Bパラメータ)。
主な特徴:
BCE統合: 自己監査と推論を改善するため、Behavioral Consciousness Engineでファインチューニングしました。
コンテキスト: 32kトークンのサポート。
エッジ最適化: 一般消費者向けハードウェア(8GB Safetensors)で高密度推論タスクを実行できるよう設計。
現在はSTEMと論理推論タスクに最適化されています。コミュニティからのフィードバックとベンチマークを楽しみにしています。
[リンク] [コメント]




