Компания Amazon объявила об отказе от процессоров Nvidia в пользу собственных решений. Специализированные чипы Inferentia, которые теперь отвечают в том числе за работу голосового помощника Alexa, справляются с обработкой данных быстрее, чем многоцелевые графические процессоры Nvidia.
Располагающие четырьмя "нейроядрами" Inferentia способны выполнять до 128 триллионов операций в секунду, пишет TechSpot. С их помощью уже производятся 80% вычислений в облаке Elastic Compute Cloud (EC2), связанных с Alexa.
В сравнении с G4, экземпляры Inf1 увеличивают пропускную способность на 30%, а расходы снижают на 45%. В Amazon называют собственные чипы лучшими в том, что касается обработки голосовых данных, поступающих от "умных" колонок Echo.
Inferentia оптимизированы для выполнения задач, связанных с "умным" ассистентом. Каждое ядро Neuron Core, говорят в компании, оснащено огромным количеством блоков DPU, которые обрабатывают данные линейным образом. Помимо этого, собственные чипы Amazon обладают кэшем большого объема, что позволяет уменьшить задержку при передаче данных.