AIに革命 CPUのみでローカルLLMが動く! BitNet.cpp Llama8BをM1 Macで動かしてみた(初心者が)

この記事は約1分で読めます。

いや〜、久しぶりにびっくりしました。

CPUのみで動くbitnetってAIのライブラリをマイクロソフトが出してきて、うちのM1 Mac(RAM 16GB)で試したら、結構実用的な速度で動きました。

高くて熱くてでっかいGPUが不要なんですよ。すごくないですか?

しかも、Pythonの環境構築を勉強する所から、たった2時間半で動かす事ができました。

大半の人は、何がどう凄いのか分からないと思うのですが、良かったらこちらの清水さんの記事を読んで見て下さい。
https://note.com/shi3zblog/n/n4287130147be

あと1年ぐらいしたら、ラズパイとか小型の機械にAIが乗って、世の中が変わっちゃう可能性があるなぁと。

モノ作りに気合が入ります! ワクワクが止まらない!

X(Twitter)はこちら

タイトルとURLをコピーしました