自分だけの小さな卓上AIロボットを作ってみたい。そんな思いつきから、Windows PCでローカルAIを動かす実験を始めました。
使ったモデルは Qwen2.5-0.5B-Instruct。Pythonと仮想環境を使い、まずは日本語で会話できるところまで挑戦します。
ローカルAIの起動に成功!
最初はPythonの実行場所や仮想環境でつまずきましたが、仮想環境のPythonを指定して実行したところ、無事に起動。簡単な自己紹介を出力してくれました。

名前を覚えてくれない?
次は会話用のプログラムを動かしてみます。「こんにちは!私はうりねこです」と伝えると、返ってきたのは「お元気ですか?うるさいことはありませんか?」という少し不思議な挨拶。
そこで「私の名前を覚えてる?」と聞くと、「もちろんです、あなたの名前を教えていただけますか?」。さらに名前を教え直したところ、なんと「うーん、その名前が覚えられません」と言われてしまいました。

でも、実は覚えていた!
ところが、その直後に「さっき教えた私の名前は何ですか?」と質問すると、今度は「あなたの名前は『うりねこ』です」と正解!

「覚えられない」と言ったのに答えられるとは……。小さなローカルAIならではの、思わず笑ってしまう一幕でした。
今回分かったこと
今回のプログラムでは、直前の会話を履歴としてモデルに渡しています。だから、モデルが「覚えられない」と発言しても、履歴にある名前を参照して答えられる場合があります。AIの自己申告が、そのまま実際の能力を表すわけではないと分かりました。
ただし、これは長期記憶ではありません。現状の会話履歴はプログラムを終了すると消えます。
次の目標
次は、名前や出来事をPCに保存して、再起動後も参照できる仕組みを作る予定です。将来的にはモデルを切り替えても記憶を引き継げる、小さな卓上ロボットを目指します。


コメント