生成 AI の急激な進歩に伴い、実現するのはずっと先だと思われていた汎用人工知能の可能性が現実味を帯び始めている。しかしそれを実現するには莫大な量の AI 半導体が必要であり、その調達コストやシステムを運用するための電力使用量の急増など、解決しなければならない課題は多い。2017 年に現役のスタンフォード大学教授らがシリコンバレーで創業した SambaNova Systems は AI演算に最適なデータフローアーキテクチャと再構成可能な半導体を用いた「再構成可能なデータフローユニット(Reconfigurable Dataflow Unit、RDU)」を開発し、AI の学習から推論までのコストを劇的に下げることに成功している。

このセッションでは SambaNova の革新的な AI 半導体である RDU と AI システムの運用コストを激減させることが可能な Composition of Experts モデルについて紹介する。