『CTranslate2でRinnaモデルをコンバートしてCPUや8GB GPUで動くようにする』2023/6/15 10:43:00 https://nowokay.hatenablog.com/entry/2023/06/15/065849 Gradioと組み合わせてRinnaをウェブアプリ化している
『Google Colab + CTranslate2 による Rinnaの高速推論を試す』2023/6/15 1:12:00 https://note.com/npaka/n/nd493e282e5e9