サンフランシスコでつくられた英語、日本語対応のAIソフトウェア
このジャンルはなんと読んで良いのか解らないのですが、AIの母体というか、LLMを読み込む母体というか、なにせローカルでAIを行う上で必須長い術だったりします。
まだまだマニアックな世界ですが、この流れは、いずれ多くの人にやってくるかもしれません。
AIをクラウドで提供している企業は、既にデータセンターの電力や冷却含めて、何十兆円もの赤字に陥っていて、大手企業は支払いが高額になることや、ノウハウ流出を防ぐために、ローカルに一部乗り換えているところも増えているようですから。
それなりに性能が必要なローカルAIだけに、まだまだ日本ではその流れは時間がかかるかもしれませんが、専用チップ含めて、その流れは確実にやってくることでしょう。
ローカルでは普段LemonadeのAIを使用していますが、最近はUnsloth をテストしています。
サンフランシスコで創られた英語と日本語バージョンがあって日本人には大変有り難い仕様です。
バージョンアップも積極的に行われていて起動する度に いろいろ進化が見えるように思います。
特に、個人的には画像生成が出来たり、ここぞというところで ネット接続で最新データを読めるのは有り難いです。（1024ピクセル程度、5分程度で1枚出来る）
＊画像生成はさすがに重いのか、AMD内臓グラフィックでは まったく進捗が動かず、NVIDIA必須だと感じました。
そもそも、LLMを重複してダウンロードする必要がないので無駄なディスク容量消費を防ぐことも可能なのは、地味にありがたいと想います。
ということで、実験の様子を動画に纏めましたので共有したいと思います。