NPUとCPUとGPU｜第3の頭脳Neural Processing Unit

Post Views: 18

NPUとは？

from DELL Technologies

AI処理に特化して設計されたプロセッサ　Neural Processing Unit（NPU）

近年、音声認識、画像認識、自然言語処理といったAI機能を活用したアプリや生成AIサービが増加している。

生成AIサービスのChatGPTやGeminiなどのアプリはインターネット上で命令を入力して送信し、実際のAI処理は強力な計算能力を持ったサーバー側で行われているため、PCに処理能力は必要ない。
が、都度データの送受信などでサーバーと通信していてはパフォーマンスの低下や、セキュリティに不安がある。

そこで、AI処理を「PCデバイス上で行おう」という動きが出てきた。

そのためには、AIの処理に必要な大量の行列計算や並列処理を高効率かつ省エネで実行する必要がある。

GPUはこうした並列計算を得意とするが、消費電力が大きいため、PC上で処理を行うには限界がある。

そこで、AI処理に特化して設計されたプロセッサー第3の頭脳「NPU（NeuralProcessing Unit）」が登場。

NPUは、AIの処理に必要な大量の行列計算や並列処理を高効率かつ省エネで実行できるよう設計されている。

PC向けのCPUの多くはGPUを内蔵した設計になっていますが、最新のCPUはさらにNPUを内蔵した設計の製品が登場しています。

Intel…「Intel Core Ultraプロセッサー」シリーズ
AMD…「Ryzen AI 300」シリーズ、「Ryzen 200」シリーズ
Qualcomm…「Snapdragon X」シリーズ

Copilot+ PCの登場

IntelとMicrosoftは、NPUが標準搭載されたWindows PCプラットフォームを「AI PC」と位置づけ、その普及を推進しています。

AI PCの1つの具体的なジャンル

として、2024年5月に「Copilot+ PC」が発表されました。Copilot+ PCとは、Windowsに標準搭載されているAIアシスタントであるCopilotの処理が快適に実行できるNPU搭載のPCを指し、最低でも次の要件を満たしているものがそのように呼ばれます。

Windows 11の最小システム要件を満たしていること
NPU：40TOPS（1秒間あたり40兆回の処理が可能）以上の性能
メモリー：16GB以上のDDR5/LPDDR5メモリー
ストレージ：256GB以上のSSD/UFS
キーボードにCopilotキーを備えている

Copilot+ PCは、Windowsに標準搭載されたAIアシスタント「Copilot」を快適に利用するためのPCです。例えば、リアルタイム翻訳を行う「Live Captions」や、Windows標準アプリ「ペイント」に搭載され、画像生成を補助する「Cocreator」といった高度な機能があります。この高度な機能をスムーズに動作させるには、40TOPS以上の処理性能を持つNPUが求められます。そのNPUにより、AI機能をフル活用するための環境が整備されています。