そもそもSnack VirtualのAIは、ある程度の会話が成り立てばいいので、難しいことは不要のはずだ
逆に客の名前や好みを記憶して、話を合わせられないといけない
その意味ではいま話題の高性能LLMは充分すぎる
まあそれでもいいのだが、気になっているのが費用だ
Open AIのアカウントは作ったし、まあ多少ぶん回しても私のお小遣いで充分遊べるとは思うが…どうも癪に障る
無料の日本語LLMもあるのだが（例：ELYZA）、これは自分のPCに落として使うものらしい
とすれば圧倒的にPCパワーが足らない
では、Google Colabとかで動かせばいいが、GPUがA100の有料版でないと動かないらしい
いろいろ探してみて、たどりついたのが、これかな？
何も考えずにコピペしてGoogle Colabで動いてしまった！
（ラインタイム→ハードウエアアクセラレータはT4 GPUにすること）
さて、ここからどうするか？だな
そもそもGoogle ColabにAPIアクセスなんてできるの？
ということでいろいろ調べたが、SSH通信とかは認められていないらしい
できそうなのが、Google Drive経由やGoogle Spread Sheet経由での受け渡し
まあそれでもいいのだが、いろいろややこしそう
いじった感じでは自分のプロンプト作成能力が低いため、希望する答えがいまいち出てこない
そういう点ではChat GPTのほうが楽だと思い、まあ多少お金がかかっても、まずはChat GPTでやってみようと考えた
ちなみに、Yes/No判断のようなものは辞書を作ってごりごり作ってしまうつもりでいる
Commentaires