llm

○記事構成・「XiaomiPOCOF7」について・「POCOF7」×「Gemma4E4B」×「GoogleAIEdgeGallery」でAIチャットを動かした話・スマホでローカルAIを動かす事の意味と展望について（AI考：番外編）・AI特有のパラメーター（設定）の簡単（ざっくり）解説先に「XiaomiPOCOF7」（無印）の話※不要な方は本題の見出しまでスクロール推奨※先日、「XiaomiPOCOF7」のセール情報が流れてきてSnapdragon8s

前回の音声出力のVOICEVOX版プログラムです。DockerDesktopを使った記事ばかりしか見つからなかったのでDockerDesktopを使わないバージョンを作りました。pcパワーが結構いりますね。あとグラフィクスボードによっては入力中にエラーでます。なにが悪いのかわかる人がいたら教えてください。モデルと音声は自分の環境に合わせて書き換えてください。やっぱりgui版が一番安定しますね。importrequestsimportsubprocessimport

近年、個人でも高度なAIモデルを高速に動かせる“パーソナルAIスーパーコンピューター”が注目されています。その中でも、GIGABYTEAITOPAtomは、ArmベースCPUとNVIDIABlackwellアーキテクチャのGPU、そしてNVIDIADGXOSを組み合わせた、まさに“小さなデータセンター”と言える圧倒的なスペックを備えています。今回Amazonで見つけた2モデルは、以下の点が異なります。128GBLPDDR5Xメモリは共通ストレージが1TB