ローカルAI向け「Inkling 2 Mini」登場、ループ構造で小型化と高性能を両立
Thinking Machines Labの「Inkling 2 Mini」は、同じ層を繰り返し使う仕組みで計算能力を高めたマルチモーダルモデルです。ローカル利用を想定した設計や推論環境、ベンチマークの見方を紹介します。
AIの最新情報をわかりやすく解説
Thinking Machines Labの「Inkling 2 Mini」は、同じ層を繰り返し使う仕組みで計算能力を高めたマルチモーダルモデルです。ローカル利用を想定した設計や推論環境、ベンチマークの見方を紹介します。
llama.cppと機械学習向け基盤ライブラリggmlが、それぞれv1.0.0に到達しました。主な意味は新機能の追加だけでなく、APIやABIの互換性変更を明確に扱うことです。開発者への影響や利用方法を整理します。
NVIDIAのNemotron系モデルなどを組み合わせ、来訪者の言葉に応じて返事をする「MonsterHouse」。会話の生成から音声、口の動きまでをローカル環境で動かす仕組みと、応答を速める工夫を解説します。