tokenizer に関するニュース

PerplexityがUnigramトークナイザーをオープンソース化：CPU利用率を5〜6倍削減、小型モデルの推論効率を大幅向上

Perplexity社は再構築したUnigramトークナイザーをオープンソース化し、CPU利用率を5〜6倍削減することで小型モデルの推論性能を大幅に最適化した。この取り組みはエッジAIアプリケーションの普及を加速させる見込みである。