CPUのみでAIの学習をするnanoGPT-cppを作ってみました。

 CPUのみでAIの学習をする第三弾。

今日はChatGPT2のfine-tuningを行うnanoGPTをcppに移植してnanoGPT-cppを作ってみました。ただ移植するだけだとつまらないので、高速化もしてみました。

ガチでTransformerの学習とfine-tuningの仕組みがわかります。

https://github.com/yomei-o/nanoGPT-cpp